Se os pesos são livres, quem paga pela próxima rodada e quem nos manterá seguros?
Vista da Knightsbridge Road do Palácio de Cristal no Hyde Park para a Grande Exposição Internacional de 1851. Dedicado aos Comissários Reais. Londres: Read & Co. Engravers & Printers, 1851. Wikimedia.
Em maio de 1851, milhões de pessoas percorreram os corredores de um edifício de vidro para ver uma prévia do futuro. A Grande Exposição reuniu o melhor do que o mundo estava desenvolvendo na época, incluindo martelos a vapor, telégrafos, ceifeiras mecânicas e vasos sanitários com descarga. Qualquer pessoa podia se aproximar da tecnologia para tentar fazer engenharia reversa, e as nações enviavam seus melhores engenheiros para extrair o máximo possível de seus rivais. Seu patrocinador, o Príncipe Alberto, acreditava firmemente que a difusão era crucial para acelerar o progresso econômico.
Um século e meio depois, a economista Petra Moser transformou os catálogos da exposição e quase 15.000 invenções da feira e de sua sequência americana de 1876 em um conjunto de dados. Fundamentalmente, as invenções vinham de países com e sem proteção de patentes. O que ela descobriu desconcertou os defensores mais ferrenhos dos direitos de propriedade intelectual: os sistemas de patentes não tinham efeito sobre o nível de inovação, apenas sobre para onde os inventores direcionavam sua atenção. Na época, a Suíça não tinha proteção de patentes, então os inovadores se aglomeravam em domínios como instrumentos científicos e alimentos (a Nestlé foi fundada lá em 1866), onde sigilo, vantagem de tempo e ativos complementares lhes davam vantagem suficiente. Sob regimes fortes de propriedade intelectual, a inovação se espalhava mais amplamente. A mesma quantidade de inovação, apenas alocada de forma diferente entre os campos.
A mesma tensão agora está no centro da batalha entre modelos de IA de pesos abertos e fechados. A Anthropic e a OpenAI argumentam que os "ataques de destilação" de empresas chinesas ameaçam tanto a capacidade do setor de financiar a próxima geração de modelos quanto a segurança nacional dos EUA. Os defensores dos pesos abertos rebatem que a difusão é essencial para um mercado competitivo e inovador de inteligência de máquinas.
Mas as evidências de Moser sugerem que o debate está focado na margem errada. Os pesos abertos dificilmente mudarão o nível de investimento em IA, apenas sua direção: o que é construído, quem constrói e quem captura os retornos. Laboratórios fechados podem continuar avançando a fronteira mais geral, enquanto os pesos abertos permitem que a experimentação se espalhe pelas empresas e domínios que podem combinar inteligência de máquinas com dados escassos, distribuição e conhecimento tácito. O mesmo problema de alocação molda a segurança. A questão relevante não é se a abertura é perigosa em abstrato, mas quando a difusão fortalece os defensores e onde capacidades prejudiciais podem realmente ser contidas.
Visões Concorrentes para o Mercado de Inteligência
O argumento econômico contra os pesos abertos é simples: destilação é roubo de propriedade intelectual e corrói os incentivos para inovar. Se o governo dos Estados Unidos não intervier e usar todas as ferramentas disponíveis para impedir isso, não apenas os laboratórios americanos serão incapazes de financiar suas próximas grandes rodadas de treinamento, mas a China pegará carona no nosso progresso e assumirá o controle. De acordo com essa visão de mundo, os pesos abertos são profundamente desaceleracionistas.
O contra-argumento, por sua vez, se baseia em examinar de perto como as tecnologias de uso geral historicamente se difundem pela economia e conclui não apenas que os pesos abertos são fundamentalmente pró-competitivos e aceleracionistas, mas também que, sem eles, os Estados Unidos ficariam rapidamente para trás. Abertura e experimentação foram como lideramos na era da internet, e desta vez não é diferente.
As preocupações com segurança complicam ainda mais a discussão. Dario Amodei está em uma cruzada de vários anos contra os pesos abertos, alegando que eles nos tornam incrivelmente inseguros. Ele acredita que, uma vez ultrapassado certo limiar de inteligência, será impossível para a sociedade se defender de agentes mal-intencionados, e modelos descontrolados causarão danos potencialmente existenciais. Somente controlando o acesso e impondo salvaguardas é que o "país de gênios em um datacenter" poderá existir. Mas fica pior: como os pesos abertos não podem ser "recolhidos", podemos de repente nos encontrar em um cenário de fim do mundo sem muito aviso ou recurso.
Os detratores de Amodei apontam que, sem pesos abertos, o mercado de inteligência se tornaria rapidamente extremamente concentrado, e que é bastante conveniente para a Anthropic que seus incentivos comerciais estejam perfeitamente alinhados não apenas com os objetivos de segurança da IA, mas também com as preocupações de segurança nacional dos EUA. Pesquisadores de segurança também quebram regularmente as proteções de modelos fechados, e os modelos da Anthropic e da OpenAI já foram amplamente usados por hackers, inclusive para invadir infraestrutura governamental sensível. Embora os modelos fechados possam nos dar a ilusão de segurança, eles argumentam que, na melhor das hipóteses, podem nos comprar a ilusão de tempo.
Cada lado tem suas próprias preocupações sobre como as ações erradas de hoje nos colocariam irreparavelmente em apuros. E ambos os lados acreditam sinceramente que sua abordagem é a única maneira de nos manter seguros (ou tão seguros quanto realisticamente possível). Felizmente, a economia não é leal a nenhum dos dois.
O Regime de Apropriabilidade Que Nunca Existiu
A Anthropic e a OpenAI têm sido amplamente visadas por outros laboratórios que buscam alcançar a fronteira. A Anthropic chegou ao ponto de pedir publicamente ao Congresso que agisse contra a Alibaba pelo que chamou de ataques descarados e ilícitos projetados para roubar sua tecnologia. Como os laboratórios americanos podem continuar financiando as rodadas de treinamento necessárias se os laboratórios chineses conseguem, por bem ou por mal, replicar em poucos meses o desempenho de seus modelos por um custo baixo?
O problema com o pedido da Anthropic é que, além de contas fraudulentas e abuso sistemático de suas APIs, o regime de apropriabilidade semelhante a patentes que ela parece desejar nunca existiu. A destilação é uma prática legítima do setor e é diferente do tipo de espionagem e roubo de segredos comerciais com que os contratantes americanos de defesa, aeroespacial e chips tiveram que lidar no passado. Os laboratórios chineses não estão furtando os pesos secretos dos laboratórios americanos; eles estão usando os modelos dos EUA como professores para os seus, por meio de prompts.
As saídas não são protegíveis por direitos autorais, e os laboratórios de IA normalmente transferem a propriedade delas para seus clientes. Os termos de serviço ainda podem proibir os clientes de usar essas saídas para treinar modelos concorrentes. Mas isso levanta uma pergunta óbvia: se a tecnologia é tão avançada, por que os laboratórios não podem usá-la para impedir a destilação? A resposta é que nem o conteúdo nem a origem denunciam o ataque. Cada solicitação individual parece o trabalho de clientes legítimos, e uma operação organizada pode distribuir seu volume entre contas criadas em massa, agregadores e jurisdições. Sem fricções mais onerosas para todos, a aplicação da lei se torna um jogo de banir contas que são trivialmente substituídas. O trade-off já é palpável com a Fable, cujas restrições ao auxílio em P&D de IA de fronteira frustraram os clientes o suficiente para que a Anthropic tivesse que ajustá-las em questão de dias. Controles antifraude agressivos o suficiente para fazer diferença inevitavelmente afetariam uma gama ainda maior de trabalho legítimo. No longo prazo, impedir que os clientes treinem com saídas pelas quais já pagaram é uma proposta comercial perdedora: aperte demais as restrições e os usuários avançados migrarão para modelos de pesos abertos.
Por último, apontar a própria técnica responsável por uma parcela significativa do progresso da IA na última década como ilegítima coloca os principais laboratórios em uma situação muito difícil, já que eles dependem hoje de extensos argumentos de uso justo para sua própria destilação de quantidades massivas de material da internet, mídia e livros.
Mas, se suspendermos a descrença, o fato de os principais modelos de IA poderem atuar como professores para melhorar modelos inferiores é ruim para a IA americana? Se o governo pudesse usar suas alavancas de poder suave, políticas e diplomáticas para impor isso, será que nós realmente quereríamos?
Monopólio ou Não Monopólio?
Tanto Richard Nelson em 1959 quanto o laureado com o Nobel Kenneth Arrow em 1962 se debruçaram sobre uma versão desse exato problema. O conhecimento é não rival: meu uso de uma ideia não impede que você faça o mesmo. Uma vez compartilhadas, as ideias também são não excludentes. Como resultado, o valor social de uma ideia excede o que seu inventor pode capturar, o que leva à preocupação canônica de que alguns tipos de ideias nunca serão devidamente explorados e financiados em primeiro lugar.
Os pesos de modelos, pelo menos sem qualquer software adicional em torno deles, se comportam muito como ideias.
Para a sociedade, tudo se resume a uma tensão intertemporal simples: uma vez que uma ideia chega, a sociedade quer que ela se espalhe o mais amplamente possível. Afinal, seu custo marginal, como o custo de baixar os pesos de um modelo, é próximo de zero. Mas antes que ela seja encontrada, a sociedade precisa que alguém realmente acredite que será capaz de apropriar retornos significativos e recuperar seus custos de P&D.
Joseph Schumpeter lutou com esse conflito a vida inteira, oscilando entre o valor das rendas de monopólio para incentivar os investimentos iniciais e a necessidade de startups e destruição criativa para desfazer o monopólio e impulsionar o crescimento massivo mais tarde. Em última análise, ele concluiu que o melhor que a sociedade pode fazer é algo esquizofrênico: conceder um monopólio temporário e depois soltar as rédeas.
Tudo o que veio depois na economia da inovação tem sido essencialmente um debate interminável sobre quão temporário esse monopólio deveria ser e o que, se é que algo, deveria impô-lo. Mas há um detalhe importante que pode inclinar significativamente a balança para o lado aberto ou fechado.
Composição de Ideias
A maior parte da inovação, se não toda, é resultado de alguma forma de recombinação de ideias. Em domínios onde a cumulatividade e a capacidade de remixar trabalhos anteriores são particularmente importantes, a duração e a força dos direitos concedidos aos primeiros a agir precisam ser cuidadosamente pesadas contra os custos adicionais da exploração atrasada pelos seguidores. Os principais laboratórios de IA, por mais bem equipados que sejam, só podem perseguir um número seleto de caminhos promissores, e isso também se aplica à segurança da IA.
A IA sempre foi fruto de destilação rápida: os modelos maravilhosos de hoje são tanto um presente de décadas de pesquisa acadêmica sobre redes neurais durante o "inverno da IA" quanto da publicação da arquitetura transformer pela Google. Sob essa luz, os modelos de pesos abertos agindo como alunos dos modelos fechados são uma continuação direta dessa linhagem. As saídas dos modelos são um insumo de pesquisa fundamental para o avanço do ecossistema.
O experimento natural mais limpo sobre como a restrição de acesso a insumos de P&D afeta a inovação vem de uma corrida diferente: a disputa entre a Celera, com fins lucrativos, e o Projeto Genoma Humano, financiado com recursos públicos, para sequenciar nosso DNA. Quando a Celera era a primeira a sequenciar um gene, ela restringia o acesso por meio de taxas, limites à redistribuição e exigências de licenciamento para uso comercial. Heidi Williams descobriu que esses genes atraíam de 20 a 30 por cento menos pesquisa de acompanhamento e desenvolvimento de produtos do que genes comparáveis que haviam sido públicos desde o início. Embora as restrições tenham sido de curta duração e desaparecido em dois anos, quando o projeto público sequenciou independentemente os mesmos genes, a lacuna persistiu. Ainda em 2009, os genes sequenciados pela Celera continuavam atrás dos demais.
Quando o valor do trabalho de acompanhamento é alto, até pequenas fricções iniciais se acumulam. Simetricamente, a remoção de fricção pode ter grandes consequências tanto para o ritmo quanto para a direção da inovação: ao analisar biomateriais, Jeff Furman e Scott Stern encontraram um aumento de 57 a 135% na cumulatividade quando os insumos foram disponibilizados mais facilmente. No contexto de camundongos geneticamente modificados, Fiona Murray, Philippe Aghion e coautores estudaram o que aconteceu quando o NIH negociou a remoção das restrições da DuPont sobre centenas de linhagens Cre-lox e Onco, eliminando os royalties de reach-through e os relatórios que limitavam o acesso acadêmico. A pesquisa de acompanhamento aumentou. Mais revelador ainda, ela se espalhou: novos pesquisadores entraram e exploraram trajetórias mais inovadoras. A montante, a criação de novos camundongos geneticamente modificados não foi afetada.
No geral, sempre que os benefícios da cumulatividade e da exploração ampla são altos, a abertura é a estratégia dominante. Isso também significa que a sociedade se beneficia mais da abertura quando a incerteza ainda é relativamente alta, como na IA de hoje. Quando tudo o que resta é a execução ao longo de uma trajetória conhecida, então o fechado é muito menos prejudicial. E mesmo nesse caso restrito (por exemplo, uma molécula com benefícios clínicos bem compreendidos que agora precisa ser comercializada), a sociedade só concede um monopólio temporário em troca de informações relevantes. As patentes em si são instrumentos de difusão e servem para evitar que segredos comerciais levem a nenhuma divulgação.
Você pode se perguntar se esses exemplos de domínios com forte base científica também se aplicam à IA. Afinal, servir modelos em escala exige investimentos massivos em infraestrutura, e é nessa construção que está a maior parte do risco para os laboratórios. Mas a lição das telecomunicações é exatamente a mesma. Em 1956, um acordo antitruste forçou a AT&T a licenciar, sem royalties, um dos portfólios de patentes mais valiosos de todos os tempos. Como medido por Martin Watzinger e coautores, uma vez que as invenções da AT&T, que incluíam o transistor, ficaram subitamente disponíveis para outros desenvolverem, a atividade inventiva aumentou 17% em cinco anos. Curiosamente, o efeito não foi impulsionado por outras grandes empresas pegando carona na propriedade intelectual da AT&T, mas por novas empresas que buscavam mercados completamente diferentes. O Bell Labs também dobrou a aposta em seu negócio principal e não foi dissuadido de inovar: o laser em 1957, o satélite de comunicações em 1962, o Unix em 1969.
Embora a ideia de deixar outros comporem sobre suas ideias possa ser frustrante para a Anthropic e a OpenAI, a boa notícia é que, com um número muito limitado de exceções, é exatamente assim que o progresso econômico funciona. William Nordhaus descobriu que os inovadores capturam, em média, apenas ~2,2% do excedente social que trazem ao mundo. A IA não será exceção. Mas isso também coloca o pedido da Anthropic ao governo dos EUA em contexto: a sociedade não deve aos laboratórios um regime de apropriabilidade mais forte. Como se vê, já existe um regime diferente em vigor.
A Última Milha da Inovação
Quando uma nova tecnologia de uso geral surge, ela inicialmente precisa ser adaptada à força ao sistema existente. Essas "soluções pontuais" iniciais apenas realizam parte do valor do novo paradigma, e é somente quando a arquitetura pode ser redesenhada a partir dos primeiros princípios que a tecnologia se torna verdadeiramente transformadora.
Essa reconfiguração exige controle e adaptação de ativos complementares essenciais, incluindo infraestrutura, confiança, acesso à distribuição e relacionamentos com reguladores. Isso dá aos incumbentes uma segunda chance: embora os novos entrantes possam tê-los pego de surpresa e superado em inovação até esse ponto, à medida que a dependência de ativos complementares se torna a função limitante, eles podem ser capazes de imitar ou adquirir, alcançar e preservar sua posição.
Na década de 1980, Richard Levin e colegas de Yale fizeram uma pergunta básica a executivos de setores inovadores em todos os Estados Unidos: o que protege suas apostas em P&D? Patentes ficaram no último lugar. No topo? Aprendizado, sigilo, vantagem de tempo e ativos complementares. O estudo foi repetido uma década depois: mesma resposta. As exceções? Farma e química, setores onde uma molécula específica pode definir uma classe inteira de produtos e a exclusividade restrita tem força. Mas a grande maioria da economia funciona com uma capacidade limitada de excluir outros das ideias subjacentes.
Sempre que a apropriabilidade é fraca, ainda há lucros significativos a serem obtidos; eles apenas fluem para quem controla os complementos daquilo que de repente se torna melhor, mais barato e mais rápido. Um exemplo clássico é a EMI, gravadora dos Beatles, que também era uma empresa de eletrônicos e patenteou o primeiro tomógrafo computadorizado. Seu principal engenheiro, Godfrey Hounsfield, ganhou um Nobel por isso. A EMI não capturou nada desse valor. Em poucos anos, ela foi adquirida, e o mercado de tomografia estava nas mãos da GE e da Siemens. Os ativos complementares da GE? Redes de distribuição e serviços hospitalares, a "última milha" para os tomógrafos efetivamente chegarem ao mercado.
A IA nasceu no lado fraco da escala de apropriabilidade. Apesar da competição feroz na corrida para a ASI, os insights de pesquisa regularmente deixam os confins dos laboratórios, o talento circula continuamente entre as empresas, conforme a tradição do Vale do Silício, e as APIs dos modelos inevitavelmente vazam informações valiosas. Através de todos esses vetores, até mesmo contramedidas draconianas só comprariam aos laboratórios de fronteira um pouco de vantagem de tempo adicional. Além disso, elas teriam um efeito contrário desastroso, dado o poder de barganha que os melhores talentos e os grandes clientes corporativos têm nesta fase.
É claro que nem toda a receita secreta de um laboratório chega ao domínio público. De acordo com a Epoch AI, as rodadas finais de treinamento representam apenas 10% a 23% dos custos totais de computação, e os laboratórios estão acumulando conhecimento tácito significativo em coleta e curadoria de dados, design e otimizações de infraestrutura, e aprendizado com experimentos e trajetórias fracassados. Mas a lição é a mesma: se os laboratórios não conseguirem rapidamente obter os ativos complementares essenciais para escalar a IA no mercado, o valor será acumulado em outro lugar.
Isso explica por que os laboratórios de IA vêm tentando aumentar o lock-in dos clientes, acoplando firmemente modelos e interfaces e expandindo downstream para a camada de aplicações com ferramentas como Claude Cowork, Claude Tag e o uso de computador do ChatGPT. Essas ferramentas não apenas coletam rastros significativos para replicar habilidades, decisões e julgamento humanos, mas também amplificam o valor que os clientes obtêm ao comprometer todas as suas interações e memórias com a mesma família de produtos, em vez de fazer multi-homing. Se você pode ser o ponto de entrada para todas as necessidades de IA de um cliente, há muitas maneiras de evoluir essa experiência para torná-la mais aderente, mesmo que a inteligência subjacente seja commoditizada.
Além da expansão na camada de aplicações e da integração vertical em computação para obter vantagem de custo, a regulação é provavelmente a maneira mais eficaz de os laboratórios de fronteira forçarem um ativo complementar a entrar em cena: se, em nome da segurança, eles puderem elevar significativamente o nível exigido para avaliação e aprovação de modelos, eles podem tornar muito mais difícil para outros que não têm acesso às mesmas equipes bem estruturadas e de primeira linha em políticas, regulação, compliance e segurança competirem.
É uma lição que funcionou bem em outros setores fortemente regulados, de serviços financeiros a saúde. Foi também o que aconteceu nas plataformas digitais após a introdução das supostamente "pró-consumidor" regras de privacidade da UE: em vez de limitar a coleta de dados pelos maiores players, o GDPR teve um efeito inibidor sobre todos os outros que não têm recursos para cumprir um labirinto de regras.
Mas a possibilidade de captura regulatória não resolve a questão da segurança. Os argumentos dos laboratórios podem ser interessados e corretos ao mesmo tempo. Os modelos de pesos abertos são necessariamente mais arriscados do que os fechados, ou concentrar o controle nas mãos de um punhado de players cria um risco sistêmico ainda maior?
A Última Milha da Segurança
Os Estados Unidos têm uma vantagem comparativa em permitir experimentação sem permissão, em vez de regular prematuramente novas tecnologias ou escolher vencedores. Mas o que funcionou bem para a internet pode ser um péssimo ajuste para a IA: e se os pesos abertos forem simplesmente perigosos demais, e fortes salvaguardas e verificação de identidade forem a única maneira segura de aproveitar as capacidades de fronteira?
Controles mais fortes elevam o nível exigido para agentes mal-intencionados que buscam abusar do sistema. Mas como a tecnologia é de duplo uso, esses controles inevitavelmente também restringem o acesso a um conjunto mais amplo de bons atores. Dependendo de quão importante é a rápida difusão de capacidades defensivas em um domínio específico, os modelos fechados podem nem sempre ser mais seguros.
O equilíbrio depende de duas questões econômicas: quem se beneficia mais com a difusão na margem, e onde o acesso pode realmente ser restringido? No ciberespaço, a defesa é distribuída por um número muito grande de organizações e dispositivos. Os pesos abertos reduzem o custo de auditar código, corrigir vulnerabilidades e atualizar infraestrutura legada, enquanto atacantes sofisticados podem ser capazes de contornar controles no nível do modelo. Restringir o acesso, portanto, oneraria uma ampla população de defensores sem excluir efetivamente os adversários mais capazes.
Em biologia, o cálculo é provavelmente diferente. Uma única capacidade perigosa pode produzir danos irreversíveis contra os quais a sociedade teria dificuldade de se defender. Adiar a difusão, portanto, tem valor particular se o tempo for usado para fortalecer a triagem e controlar os insumos físicos escassos (sintetizadores, equipamentos especializados e materiais biológicos) necessários para transformar uma saída de modelo em dano físico em escala. A lição dos ativos complementares também se aplica à segurança: quando o gargalo é feito de átomos, ele oferece um ponto de estrangulamento muito mais eficaz contra agentes mal-intencionados do que salvaguardas de software.
Para riscos verdadeiramente sistêmicos e existenciais, o equilíbrio pode pender ainda mais a favor da abertura. Quando os desconhecidos desconhecidos dominam, o conhecimento necessário para detectar ou neutralizar um ataque ou um grande efeito colateral da IA provavelmente está distribuído, em vez de concentrado entre um pequeno número de funcionários de laboratórios de IA. Se for esse o caso, os pesos abertos podem fomentar um sistema imunológico de IA muito mais resiliente e diverso, um no qual as capacidades defensivas são amplamente distribuídas em vez de trancadas dentro de poucas monoculturas. Concentrar talento, ideias e a capacidade de avaliar e testar vulnerabilidades em uma pequena população deixaria a sociedade com poucas opções quando os problemas surgissem.
É claro que isso não significa que modelos de pesos abertos altamente capazes devam ser lançados sem os mesmos testes independentes de terceiros a que os modelos fechados deveriam ser submetidos. Lançamentos em fases também permitiriam que o ecossistema aprendesse e se adaptasse à medida que novas capacidades surgem. De forma mais ampla, os pesquisadores de segurança deveriam investir mais em entender o que pode ser feito durante as diferentes fases do treinamento para reduzir ou remover capacidades prejudiciais, em vez de depender apenas de recusas.
Nossa abordagem atual depende fortemente de salvaguardas. Mas se o ponto de partida mais realista é assumir a violação, é importante avançar a pesquisa sobre alternativas. A escolha pode não ser entre abertura e segurança, mas entre uma segurança que depende de nossa capacidade de conter bits e uma segurança que planeja o fracasso da contenção.
Isso ainda nos deixa com a questão de estratégia de negócios: sejam quais forem os méritos, conseguirão os laboratórios de IA capturar a regulação de segurança para desacelerar o avanço dos pesos abertos, em casa e no exterior? Ou será que a economia da tecnologia está empurrando em outra direção?
Domine os Pesos da Produção
Um número de empresas veem a potencial captura regulatória pelos principais laboratórios de IA como uma ameaça aos seus negócios e começaram a defender abordagens "soberanas" para a tecnologia, começando por não colocar os pesos abertos em desvantagem regulatória. O foco em pesos abertos visa tanto reduzir o vendor lock-in — já que implantações empresariais envolvem uma quantidade não trivial de trabalho personalizado para extrair o melhor desempenho de um modelo — quanto proteger as informações mais valiosas de uma empresa.
Para que os modelos enfrentem fluxos de trabalho especializados cada vez mais avançados, são necessários dados proprietários e mais granulares. Hoje, esses dados ainda estão nas mãos dos líderes do setor, mas em engenharia, design, finanças, contabilidade e direito, os laboratórios de IA estão buscando agressivamente maneiras criativas de coletar mais deles. Parte desse conhecimento é tácito, codificado nos "pesos" das cabeças dos especialistas de domínio; parte está em sistemas de registro de longa data; e parte ainda não foi medida — embora as empresas muitas vezes já tenham as relações pré-estabelecidas com os fornecedores e clientes certos para coletá-los.
Como resultado, enquanto a primeira onda de conversas entre laboratórios e empresas era centrada na colaboração (nossa tecnologia, sua expertise de domínio), muitos clientes sentem cada vez mais que estão a um passo de ter que competir com seu provedor de IA. Perder o controle sobre os "pesos da produção" é uma preocupação real, especialmente porque os provedores de plataforma têm fortes incentivos para voltar atrás em suas promessas de neutralidade e favorecer seus próprios produtos. Um bom exemplo é a agora tensa relação entre a Anthropic e a Figma, na qual a Figma começou como cliente, mas agora precisa competir para evitar a desintermediação.
O interesse inicial das empresas em modelos de pesos abertos era movido principalmente por custo, e veio como uma correção natural a meses de funcionários fazendo "tokenmaxxing" para alcançar maior produtividade. Ao trocar os prompts por modelos de pesos abertos de menor custo, as empresas podem deslocar uma parcela significativa de sua demanda por tokens para longe dos modelos de fronteira mais caros. Os laboratórios de IA começaram a combater isso reduzindo drasticamente os preços dos modelos de entrada e treinando seus modelos para terem o melhor desempenho com seus produtos.
Mas no longo prazo, não é por causa do custo que as empresas deveriam se importar com a abertura: o controle é a dimensão crítica. Sim, os laboratórios prometem não treinar com entradas e saídas, mas a realidade é que as interações com suas ferramentas ainda vazam informações valiosas. Além disso, à medida que as ferramentas evoluem e as empresas investem recursos significativos na personalização de seus fluxos de IA, o vendor lock-in só aumenta. Para a maioria dos líderes de mercado, os pesos abertos não são, portanto, apenas uma válvula de escape de custos, mas uma questão existencial. Nos próximos anos, toda empresa precisará de uma maneira de treinar, otimizar e possuir os modelos que sustentam suas operações mais estratégicas. Se não conseguir reter seu conhecimento mais tácito e seus aprendizados, será desintermediada.
Um vislumbre de como pode ser o futuro sob uma estrutura mais soberana pode
