Si los pesos son gratuitos, ¿quién paga la próxima corrida de entrenamiento y quién nos mantendrá a salvo?
Vista desde Knightsbridge Road del Crystal Palace en Hyde Park para la Gran Exposición Internacional de 1851. Dedicada a los Comisionados Reales. Londres: Read & Co. Grabadores e Impresores, 1851. Wikimedia.
En mayo de 1851, millones de personas recorrieron los pasillos de un edificio de cristal para ver un adelanto del futuro. La Gran Exposición reunió lo mejor de lo que el mundo estaba creando en ese momento: martillos de vapor, telégrafos, cosechadoras e inodoros con descarga de agua. Cualquiera podía acercarse a la tecnología para intentar replicarla mediante ingeniería inversa, y las naciones enviaban a sus ingenieros más brillantes para extraer la mayor cantidad posible de conocimiento de sus rivales. Su patrocinador, el Príncipe Alberto, creía firmemente que la difusión era crucial para acelerar el progreso económico.
Un siglo y medio después, la economista Petra Moser convirtió los catálogos de la exposición y casi 15 000 inventos de la feria y de su secuela estadounidense de 1876 en un conjunto de datos. Lo crucial es que los inventos provenían de países con y sin protección de patentes. Lo que encontró inquietó a los defensores más acérrimos de los derechos de propiedad intelectual fuertes: los sistemas de patentes no tenían efecto sobre el nivel de innovación, solo sobre dónde los inventores dirigían su atención. En ese entonces, Suiza no tenía protección de patentes, por lo que los innovadores se concentraban en ámbitos como los instrumentos científicos y los alimentos (Nestlé se fundó allí en 1866), donde el secreto, la ventaja temporal y los activos complementarios les daban suficiente ventaja. Bajo regímenes de propiedad intelectual estrictos, la innovación se distribuía más ampliamente. La misma cantidad de innovación, solo que asignada de manera diferente entre los distintos campos.
La misma tensión se encuentra ahora en el centro de la batalla entre los modelos de IA de pesos cerrados y los de pesos abiertos. Anthropic y OpenAI argumentan que los "ataques de destilación" de las empresas chinas amenazan tanto la capacidad de la industria para financiar la próxima generación de modelos como la seguridad nacional de Estados Unidos. Los partidarios de los pesos abiertos contraargumentan que la difusión es esencial para un mercado competitivo e innovador de inteligencia artificial.
Pero la evidencia de Moser sugiere que el debate se centra en el margen equivocado. Es poco probable que los pesos abiertos cambien el nivel de inversión en IA, solo su dirección: qué se construye, quién lo construye y quién captura los retornos. Los laboratorios cerrados pueden seguir impulsando la frontera más general, mientras que los pesos abiertos permiten que la experimentación se extienda entre las empresas y los ámbitos que pueden combinar la inteligencia artificial con datos escasos, distribución y conocimiento tácito. El mismo problema de asignación configura la seguridad. La pregunta relevante no es si la apertura es peligrosa en abstracto, sino cuándo la difusión fortalece a los defensores y dónde se pueden restringir realmente las capacidades dañinas.
Visiones en pugna por el mercado de la inteligencia
El argumento económico contra los pesos abiertos es simple: la destilación es robo de propiedad intelectual y erosiona los incentivos para innovar. Si el gobierno de Estados Unidos no interviene y utiliza todas las herramientas disponibles para detenerlo, no solo los laboratorios estadounidenses no podrán financiar sus próximas grandes corridas de entrenamiento, sino que China se aprovechará de nuestro progreso y tomará el control. Según esta visión del mundo, los pesos abiertos son profundamente deceleracionistas.
El contraargumento, en cambio, se basa en analizar de cerca cómo las tecnologías de propósito general se difunden históricamente en la economía, y concluye no solo que los pesos abiertos son fundamentalmente procompetitivos y aceleracionistas, sino también que, sin ellos, Estados Unidos se quedaría atrás rápidamente. La apertura y la experimentación fueron la forma en que lideramos en la era de internet, y esta vez no es diferente.
Las preocupaciones de seguridad complican aún más la discusión. Dario Amodei ha estado en una cruzada de varios años contra los pesos abiertos, argumentando que nos hacen increíblemente inseguros. Cree que una vez que se cruza cierto umbral de inteligencia, será imposible que la sociedad se defienda de los actores malintencionados, y que los modelos descontrolados podrían infligir daños potencialmente existenciales. Solo mediante el control del acceso y la imposición de salvaguardas puede permitirse que exista el país de "genios en un centro de datos". Pero empeora: como los pesos abiertos no se pueden "recuperar", podríamos encontrarnos de repente en un escenario apocalíptico sin mucho aviso ni recursos.
Los detractores de Amodei señalan que, sin los pesos abiertos, el mercado de la inteligencia se concentraría rápidamente de forma extrema, y que es bastante conveniente para Anthropic que sus incentivos comerciales coincidan perfectamente no solo con los objetivos de seguridad de la IA, sino también con las preocupaciones de seguridad nacional de Estados Unidos. Los investigadores de seguridad también vulneran habitualmente las protecciones de los modelos cerrados, y los modelos de Anthropic y OpenAI ya han sido utilizados ampliamente por hackers, incluso para violar infraestructura gubernamental sensible. Si bien los modelos cerrados pueden darnos la ilusión de seguridad, argumentan que, en el mejor de los casos, pueden comprarnos la ilusión de tiempo.
Cada lado tiene sus propias preocupaciones sobre cómo las acciones equivocadas de hoy nos meterían en problemas irreparables. Y ambos bandos creen honestamente que su enfoque es la única forma de mantenernos a salvo (o tan a salvo como sea realista). Afortunadamente, la economía no es leal a ninguno.
El régimen de apropiabilidad que nunca existió
Anthropic y OpenAI han sido objeto de numerosos ataques por parte de otros laboratorios que intentan alcanzar la frontera. Anthropic llegó al punto de pedir públicamente al Congreso que actuara contra Alibaba por lo que calificó como ataques descarados e ilícitos diseñados para robar su tecnología. ¿Cómo pueden los laboratorios estadounidenses seguir financiando las corridas de entrenamiento necesarias si los laboratorios chinos pueden, por las buenas o por las malas, replicar en meses el rendimiento de sus modelos a bajo costo?
El problema con la solicitud de Anthropic es que, más allá de las cuentas fraudulentas y el abuso sistemático de sus API, el régimen de apropiabilidad similar al de patentes que parece desear nunca existió. La destilación es una práctica legítima de la industria y es diferente del tipo de espionaje y robo de secretos comerciales con el que tuvieron que lidiar en el pasado los contratistas de defensa, aeroespaciales y de semiconductores de Estados Unidos. Los laboratorios chinos no están robando los pesos secretos de los laboratorios; están haciendo que los modelos estadounidenses actúen como maestros para los suyos.
Los resultados no son protegibles por derechos de autor, y los laboratorios de IA suelen asignar su propiedad a sus clientes. Los términos de servicio pueden seguir prohibiendo que los clientes usen esos resultados para entrenar modelos competidores. Pero eso invita a una pregunta obvia: si la tecnología es tan avanzada, ¿por qué los laboratorios no pueden usarla para detener la destilación? La respuesta es que ni el contenido ni la fuente delatan el ataque. Cada solicitud individual parece el trabajo de clientes legítimos, y una operación organizada puede dispersar su volumen entre cuentas creadas en masa, agregadores y jurisdicciones. Sin fricciones más onerosas para todos, la aplicación de la ley se convierte en un juego de eliminar cuentas que se reemplazan sin esfuerzo. La disyuntiva ya es palpable con Fable, cuyas restricciones para ayudar en la investigación y el desarrollo de IA de frontera frustraron tanto a los clientes que Anthropic tuvo que ajustarlas en cuestión de días. Los controles antifraude lo suficientemente agresivos como para marcar la diferencia afectarían inevitablemente a una gama aún más amplia de trabajo legítimo. A largo plazo, impedir que los clientes entrenen con los resultados por los que han pagado es una propuesta comercial perdedora: si se endurecen demasiado las restricciones, los usuarios avanzados migrarán a los modelos de pesos abiertos.
Por último, señalar como ilegítima precisamente la técnica responsable de una parte significativa del progreso de la IA durante la última década coloca a los principales laboratorios en una posición muy difícil, ya que hoy dependen de amplios argumentos de uso justo para su propia destilación de cantidades masivas de material de internet, medios y libros.
Pero si dejamos de lado el escepticismo, ¿es malo para la IA estadounidense que los principales modelos de IA puedan actuar como maestros para mejorar modelos inferiores? Si el gobierno pudiera utilizar sus palancas de poder blando, políticas y diplomáticas para hacerlo cumplir, ¿lo querríamos siquiera?
¿Monopolio o no monopolio?
Tanto Richard Nelson en 1959 como el premio Nobel Kenneth Arrow en 1962 lidiaron con una versión de este mismo problema. El conocimiento es no rival: mi uso de una idea no te impide hacer lo mismo. Una vez compartidas, las ideas tampoco son excluyentes. Como resultado, el valor social de una idea supera lo que su inventor puede capturar, lo que lleva a la preocupación canónica de que algunos tipos de ideas nunca se exploren y financien adecuadamente en primer lugar.
Los pesos de los modelos, al menos sin ningún software adicional a su alrededor, se comportan en gran medida como ideas.
Para la sociedad, todo se reduce entonces a una simple tensión intertemporal: una vez que una idea ha llegado, la sociedad quiere que se difunda lo más ampliamente posible. Después de todo, su costo marginal, como el costo de descargar los pesos de un modelo, es cercano a cero. Pero antes de que se descubra, la sociedad necesita que alguien crea verdaderamente que podrá apropiarse de retornos significativos y recuperar sus costos de I+D.
Joseph Schumpeter luchó con este conflicto toda su vida, oscilando entre el valor de las rentas de monopolio para fomentar las inversiones iniciales y la necesidad de que las startups y la destrucción creativa deshagan el monopolio e impulsen un crecimiento masivo más adelante. En última instancia, concluyó que lo mejor que la sociedad puede hacer es algo algo esquizofrénico: otorgar un monopolio temporal y luego darle rienda suelta.
Todo lo demás desde entonces en la economía de la innovación ha sido esencialmente un debate interminable sobre cuán temporal debería ser ese monopolio y qué, en todo caso, debería hacerlo cumplir. Pero hay un detalle importante que puede inclinar significativamente la balanza hacia lo abierto frente a lo cerrado.
La capitalización de las ideas
La mayor parte, si no toda, la innovación es el resultado de alguna forma de recombinación de ideas. En los ámbitos donde la acumulación y la capacidad de remezclar el trabajo pasado son particularmente importantes, la duración y la fuerza de los derechos otorgados a los primeros en moverse deben sopesarse cuidadosamente frente a los costos adicionales de la exploración retrasada por parte de los seguidores. Los principales laboratorios de IA, por bien financiados que estén, solo pueden perseguir un número selecto de caminos prometedores, y esto también se aplica a la seguridad de la IA.
La IA siempre ha sido fruto de una destilación rápida: los modelos maravillosos de hoy son tanto un regalo de décadas de investigación académica sobre redes neuronales durante el "invierno de la IA" como de la publicación por parte de Google de la arquitectura del transformador. Bajo esa luz, los modelos de pesos abiertos que actúan como estudiantes de los modelos cerrados son una continuación directa de ese linaje. Los resultados de los modelos son un insumo de investigación clave para que el ecosistema avance.
El experimento natural más limpio sobre cómo restringir el acceso a los insumos de I+D afecta la innovación proviene de una carrera diferente: la que libraron la empresa con fines de lucro Celera y el Proyecto Genoma Humano, financiado con fondos públicos, para secuenciar nuestro ADN. Cuando Celera fue la primera en secuenciar un gen, restringió el acceso mediante tarifas, límites a la redistribución y requisitos de licencia para uso comercial. Heidi Williams encontró que estos genes atraían entre un 20 y un 30 por ciento menos de investigación posterior y desarrollo de productos que los genes comparables que habían sido públicos desde el principio. Aunque las restricciones fueron de corta duración y desaparecieron en dos años cuando el proyecto público secuenció de forma independiente los mismos genes, la brecha persistió. Ya en 2009, los genes secuenciados por Celera aún estaban rezagados con respecto a los demás.
Cuando el valor del trabajo posterior es alto, incluso las pequeñas fricciones iniciales se capitalizan. Simétricamente, la eliminación de la fricción puede tener grandes consecuencias tanto para la tasa como para la dirección de la innovación: al observar los biomateriales, Jeff Furman y Scott Stern encontraron un aumento del 57 % al 135 % en la acumulación cuando los insumos se pusieron a disposición más fácilmente. En el contexto de los ratones genéticamente modificados, Fiona Murray, Philippe Aghion y coautores estudiaron lo que sucedió cuando los NIH negociaron la eliminación de las restricciones de DuPont sobre cientos de cepas Cre-lox y Onco, poniendo fin a las regalías de alcance y los informes que habían limitado el acceso académico. La investigación posterior aumentó. Lo más revelador es que se diversificó: nuevos investigadores entraron y exploraron trayectorias más novedosas. Aguas arriba, la creación de nuevos ratones modificados genéticamente no se vio afectada.
En general, siempre que los beneficios de la acumulación y la exploración amplia son altos, la apertura es la estrategia dominante. Esto también significa que la sociedad se beneficia más de la apertura cuando la incertidumbre es todavía relativamente alta, como en la IA de hoy. Cuando todo lo que queda es la ejecución a lo largo de una trayectoria conocida, entonces lo cerrado es mucho menos dañino. E incluso en ese caso estrecho (por ejemplo, una molécula con beneficios clínicos bien comprendidos que ahora necesita comercializarse), la sociedad solo otorga un monopolio temporal a cambio de información relevante. Las propias patentes son instrumentos para la difusión y para evitar que los secretos comerciales impidan toda divulgación.
Ahora quizás te preguntes si estos ejemplos de ámbitos de alta ciencia también se aplican a la IA. Después de todo, servir modelos a escala requiere inversiones masivas en infraestructura, y esa construcción es donde reside la mayor parte del riesgo para los laboratorios. Pero la lección de las telecomunicaciones es exactamente la misma. En 1956, un acuerdo antimonopolio obligó a AT&T a licenciar, sin regalías, una de las carteras de patentes más valiosas de todos los tiempos. Según lo medido por Martin Watzinger y sus coautores, una vez que las invenciones de AT&T, que incluían el transistor, estuvieron repentinamente disponibles para que otros construyeran sobre ellas, la actividad inventiva aumentó un 17 por ciento en cinco años. Curiosamente, el efecto no fue impulsado por otras grandes empresas que se aprovecharan de la propiedad intelectual de AT&T, sino por nuevas empresas que buscaban mercados completamente diferentes. Bell Labs también redobló su apuesta por su negocio principal y no se dejó disuadir de innovar: el láser en 1957, el satélite de comunicaciones en 1962, Unix en 1969.
Si bien la idea de dejar que otros capitalicen tus ideas puede ser frustrante para Anthropic y OpenAI, la buena noticia es que, con un número muy limitado de excepciones, así es exactamente como funciona el progreso económico. William Nordhaus encontró que los innovadores capturan, en promedio, solo alrededor del 2,2 % del excedente social que aportan al mundo. La IA no será una excepción. Pero esto también pone en contexto la petición de Anthropic al gobierno de Estados Unidos: la sociedad no les debe a los laboratorios un régimen de apropiabilidad más fuerte. Resulta que ya existe uno diferente.
La última milla de la innovación
Cuando surge una nueva tecnología de propósito general, inicialmente tiene que ser reacondicionada a la fuerza dentro del sistema existente. Estas "soluciones puntuales" iniciales solo realizan parte del valor del nuevo paradigma, y solo cuando la arquitectura puede rediseñarse desde primeros principios la tecnología se vuelve verdaderamente transformadora.
La reconfiguración requiere control y adaptación de los activos complementarios clave, incluidos la infraestructura, la confianza, el acceso a la distribución y las relaciones con los reguladores. Esto les da a las empresas establecidas una segunda oportunidad: aunque los nuevos participantes pueden haberlos tomado por sorpresa y haberlos superado en innovación hasta este punto, a medida que la dependencia de los activos complementarios se convierte en el factor limitante, pueden imitar o adquirir, ponerse al día y preservar su posición.
En la década de 1980, Richard Levin y sus colegas de Yale preguntaron a ejecutivos de sectores innovadores de todo Estados Unidos una pregunta básica: ¿qué protege sus apuestas de I+D? Las patentes ocupaban el último lugar. ¿En el primero? El aprendizaje, el secreto, la ventaja temporal y los activos complementarios. El estudio se repitió una década después: la misma respuesta. ¿Las excepciones? La farmacéutica y la química, sectores donde una molécula específica puede definir una categoría completa de producto, y la exclusividad limitada tiene dientes. Pero la gran mayoría de la economía funciona con una capacidad limitada de excluir a otros de las ideas subyacentes.
Cuando la apropiabilidad es débil, todavía hay ganancias significativas que obtener; solo que fluyen hacia quienes controlan los complementos de lo que de repente es mejor, más barato y más rápido. Un ejemplo clásico es el sello discográfico de los Beatles, EMI, que también funcionaba como empresa de electrónica y patentó el primer escáner CT. Su ingeniero principal, Godfrey Hounsfield, recibió un Nobel por ello. EMI no capturó nada del valor. En pocos años, fue adquirida, y el mercado de los CT quedó en manos de GE y Siemens. ¿Los activos complementarios de GE? Las redes de distribución y servicio hospitalario, la "última milla" para que los escáneres llegaran realmente al mercado.
La IA nació en el lado débil de la escala de apropiabilidad. A pesar de la feroz competencia en la carrera hacia la ASI (superinteligencia artificial), los conocimientos de investigación salen regularmente de los confines de los laboratorios, el talento rota entre empresas continuamente según la tradición de Silicon Valley, y las API de los modelos inevitablemente filtran información valiosa. A través de todos estos vectores, incluso las contramedidas draconianas solo comprarían a los laboratorios de frontera un poco de tiempo adicional. Además, fracasarían estrepitosamente dado el apalancamiento que tienen los mejores talentos y los grandes clientes empresariales en esta fase.
Por supuesto, no toda la receta secreta de un laboratorio llega al dominio público. Según Epoch AI, las corridas de entrenamiento finales representan solo entre el 10 % y el 23 % de los costos totales de cómputo, y los laboratorios están acumulando conocimiento tácito significativo en la recopilación y curación de datos, el diseño y la optimización de infraestructura, y el aprendizaje de experimentos fallidos y trayectorias. Pero la lección es la misma: si los laboratorios no pueden apoderarse rápidamente de los activos complementarios clave necesarios para escalar la IA en el mercado, el valor se acumulará en otro lugar.
Esto explica por qué los laboratorios de IA han intentado aumentar la dependencia de los clientes acoplando estrechamente los modelos y los arneses, y expandiéndose aguas abajo hacia la capa de aplicaciones con herramientas como Claude Cowork, Claude Tag y el uso de computadora de ChatGPT. Estas herramientas no solo recopilan rastros significativos para replicar habilidades, decisiones y juicio humanos, sino que también amplifican el valor que los clientes obtienen al comprometer todas sus interacciones y recuerdos con la misma familia de productos en lugar de usar múltiples proveedores. Si puedes ser el punto de entrada para todas las necesidades de IA de un cliente, hay muchas maneras de evolucionar esa experiencia para que sea más pegajosa, incluso si la inteligencia subyacente se mercantiliza.
Además de la expansión en la capa de aplicaciones y la integración vertical en cómputo para obtener una ventaja de costos, la regulación es probablemente la forma más efectiva en que los laboratorios de frontera pueden incorporar un activo complementario al panorama: si, en nombre de la seguridad, pueden elevar significativamente el estándar para la evaluación y aprobación de modelos, pueden hacer que sea mucho más difícil competir para quienes no tienen acceso a los mismos equipos de primer nivel, bien dotados, en política, regulación, cumplimiento y seguridad.
Es una lección que ha funcionado bien en otras industrias fuertemente reguladas, desde los servicios financieros hasta la atención médica. También es lo que sucedió en las plataformas digitales después de la introducción de las reglas de privacidad de la UE supuestamente "proconsumidor": más que limitar la recopilación de datos por parte de los actores más grandes, el GDPR tuvo un efecto paralizante sobre todos los demás que no tienen los recursos para cumplir con un laberinto de reglas.
Pero la posibilidad de captura regulatoria no resuelve la cuestión de la seguridad. Las afirmaciones de los laboratorios podrían ser interesadas y correctas al mismo tiempo. ¿Son los modelos de pesos abiertos necesariamente más riesgosos que los cerrados, o concentrar el control en un puñado de actores crea un riesgo sistémico aún mayor?
La última milla de la seguridad
Estados Unidos tiene una ventaja comparativa en permitir la experimentación sin permisos en lugar de regular prematuramente las nuevas tecnologías o elegir ganadores. Pero lo que funcionó bien para internet puede ser un pésimo ajuste para la IA: ¿qué pasa si los pesos abiertos son simplemente demasiado peligrosos, y las salvaguardas sólidas y la verificación de identidad son la única forma segura de aprovechar las capacidades de frontera?
Los controles más fuertes elevan el estándar para los actores malintencionados que buscan abusar del sistema. Pero debido a que la tecnología es de doble uso, esos controles inevitablemente restringen el acceso también para un conjunto más amplio de actores legítimos. Dependiendo de cuán importante sea la difusión rápida de capacidades defensivas dentro de un ámbito particular, los modelos cerrados pueden no ser siempre más seguros.
El equilibrio depende de dos cuestiones económicas: quién se beneficia más de la difusión en el margen, y dónde se puede restringir realmente el acceso. En el ámbito cibernético, la defensa está distribuida entre una gran cantidad de organizaciones y dispositivos. Los pesos abiertos reducen el costo de auditar código, parchear vulnerabilidades y actualizar infraestructura heredada, mientras que los atacantes sofisticados pueden ser capaces de eludir los controles a nivel de modelo. Restringir el acceso gravaría, por tanto, a una amplia población de defensores sin excluir efectivamente a los adversarios más capaces.
En biología, el cálculo es probablemente diferente. Una sola capacidad peligrosa puede producir un daño irreversible que la sociedad tendría dificultades para defenderse. Retrasar la difusión tiene entonces un valor particular si el tiempo se utiliza para fortalecer la detección y el control de los insumos físicos escasos (sintetizadores, equipos especializados y materiales biológicos) necesarios para convertir el resultado de un modelo en daño físico a gran escala. La lección de los activos complementarios también se aplica a la seguridad: cuando el cuello de botella está hecho de átomos, ofrece un punto de estrangulamiento mucho más efectivo contra los actores malintencionados que las salvaguardas de software.
Para los riesgos verdaderamente sistémicos y existenciales, el equilibrio podría inclinarse aún más a favor de la apertura. Cuando dominan las incógnitas desconocidas, es probable que el conocimiento necesario para detectar o neutralizar un ataque o un efecto secundario importante de la IA esté distribuido en lugar de concentrado entre un pequeño número de empleados de laboratorios de IA. Si es así, los pesos abiertos pueden fomentar un sistema inmunológico de IA mucho más resiliente y diverso, uno en el que las capacidades defensivas estén ampliamente distribuidas en lugar de encerradas en unos pocos monocultivos. Concentrar el talento, las ideas y la capacidad de evaluar y probar vulnerabilidades dentro de una población pequeña dejaría a la sociedad con pocas opciones cuando surjan los problemas.
Por supuesto, esto no significa que los modelos de pesos abiertos altamente capaces deban lanzarse sin las mismas pruebas independientes de terceros a las que deberían someterse los modelos cerrados. Los lanzamientos por fases también permitirían que el ecosistema aprenda y se adapte a medida que surjan nuevas capacidades. En términos más generales, los investigadores de seguridad deberían invertir más en comprender qué se puede hacer durante las diferentes fases del entrenamiento para reducir o eliminar las capacidades dañinas, en lugar de depender únicamente de los rechazos.
Nuestro enfoque actual depende en gran medida de las salvaguardas. Pero si el punto de partida más realista es asumir que se ha producido una brecha, es importante avanzar en la investigación de alternativas. La elección puede no ser entre apertura y seguridad, sino entre una seguridad que depende de nuestra capacidad para contener los bits y una seguridad que planifica para el fracaso de esa contención.
Eso aún deja la pregunta de estrategia de negocio: sean cuales sean los méritos, ¿pueden los laboratorios de IA capturar la regulación de seguridad para frenar el avance de los pesos abiertos, tanto en su país como en el extranjero? ¿O la economía de la tecnología está empujando en una dirección diferente?
Dueños de los pesos de producción
Un buen número de empresas ven la posible captura regulatoria por parte de los principales laboratorios de IA como una amenaza para su negocio, y han comenzado a abogar por enfoques "soberanos" de la tecnología, empezando por que los pesos abiertos no queden en desventaja regulatoria. El enfoque en los pesos abiertos apunta tanto a reducir la dependencia del proveedor, ya que los despliegues empresariales implican una cantidad nada trivial de trabajo personalizado para exprimir el rendimiento de un modelo, como a proteger la información más valiosa de una empresa.
Para que los modelos aborden flujos de trabajo especializados cada vez más avanzados, se necesitan datos más granulares y propietarios. Hoy, esos datos siguen en manos de los líderes de la industria, pero en ingeniería, diseño, finanzas, contabilidad y derecho, los laboratorios de IA están buscando agresivamente formas creativas de recopilar más. Parte es conocimiento tácito codificado en los "pesos" de las cabezas de los expertos del dominio; parte está en sistemas de registro de larga data; y parte aún no se ha medido—aunque las empresas a menudo tienen las relaciones preestablecidas con los proveedores y clientes adecuados para recopilarla.
Como resultado, mientras la primera ola de conversaciones entre laboratorios y empresas se centró en la colaboración (nuestra tecnología, tu experiencia de dominio), muchos clientes sienten cada vez más que están a un paso de tener que competir con su proveedor de IA. Perder el control sobre los "pesos de producción" es una preocupación real, especialmente porque los proveedores de plataformas tienen fuertes incentivos para incumplir sus promesas de neutralidad y favorecer sus propios productos. Un buen ejemplo es la ahora tensa relación entre Anthropic y Figma, donde Figma comenzó como cliente, pero ahora tiene que competir para evitar la desintermediación.
El interés inicial de las empresas por los modelos de pesos abiertos fue impulsado principalmente por el costo, y llegó como una corrección natural a meses de empleados haciendo "tokenmaxxing" para llegar a una mayor productividad. Al cambiar sus prompts a modelos de pesos abiertos de menor costo, las empresas pueden trasladar una parte significativa de su demanda de tokens lejos de los modelos de frontera más caros. Los laboratorios de IA han comenzado a combatir esto recortando progresivamente los precios de los modelos de nivel básico y entrenando sus modelos para que rindan mejor con sus productos.
Pero a largo plazo, el costo no es la razón por la que las empresas deberían preocuparse por la apertura: el control es la dimensión crítica. Sí, los laboratorios prometen no entrenar con entradas y salidas, pero la realidad es que las interacciones con sus herramientas siguen filtrando información valiosa. Además, a medida que las herramientas evolucionan y las empresas invierten recursos significativos en personalizar sus flujos de IA, la dependencia del proveedor solo aumenta. Para la mayoría de los líderes del mercado, los pesos abiertos no son, por lo tanto, solo una vía de escape en costos, sino una cuestión existencial. En los próximos años, toda empresa necesitará una forma de entrenar, optimizar y poseer los modelos que respaldan sus operaciones más estratégicas. Si no puede retener su conocimiento tácito y sus aprendizajes más valiosos, será desintermediada.
Podemos vislumbrar cómo podría verse el futuro bajo un esquema más soberano en una colaboración reciente entre Thinking Machines y la firma de inversión Bridgewater. Para un fondo de cobertura, el alpha es el negocio, así que esperaríamos que Bridgewater fuera particularmente cauteloso al seleccionar una arquitectura de IA. En este caso, las dos entidades colaboraron para entrenar un modelo personalizado como extensión del modelo base de Thinking Machines. El laboratorio aporta inteligencia artificial generalizada y herramientas de entrenamiento de IA; el fondo de cobertura, los conocimientos propietarios. Esta especialización del trabajo protege a Bridgewater y le da más control sobre los pesos que capturan su propiedad intelectual central y su conocimiento tácito.
Desde una perspectiva estratégica, mientras que Anthropic y OpenAI a veces son vistos como competidores potenciales por sus propios clientes, Thinking Machines está adoptando un enfoque que fortalece la cadena de valor, en el que solo gana si sus clientes también ganan. Microsoft y Palantir han hecho apuestas similares para convertirse en proveedores de infraestructura y herramientas de IA para empresas que quieren mantener su inteligencia artificial dentro de su propio perímetro, y muchos más seguirán.
¿Qué enfoque se adapta mejor al mercado de la inteligencia? ¿El que comienza con la inteligencia general construida por unos pocos laboratorios de IA de primer nivel y trabaja hacia abajo, o el que comienza de abajo hacia arriba desde la capa de aplicación y retroalimenta ideas y mejoras a una multitud de modelos de pesos abiertos? Depende de la forma de la demanda de inteligencia.
Mapeando la curvatura de la inteligencia
Cualquier tecnología de propósito general trae beneficios tan extendidos entre
