Como o laboratório mais inteligente do mundo acidentalmente enviou o produto errado
Pedi ao modelo público mais capaz da Anthropic para editar um ensaio sobre a Anthropic. Ele nunca teve a chance. Anexei este rascunho e digitei sete palavras inofensivas: "Reescreva para dar mais impacto. Formate para o Twitter." O aplicativo automaticamente mudou a tarefa do Fable 5 para o Opus 4.8. A explicação foi simples: "Os protocolos de segurança do Fable sinalizaram esta mensagem."
Para ser preciso, isso não era uma limitação de taxa comum. O Fable não respondeu e recusou. O mecanismo de segurança da Anthropic interceptou a solicitação antes que o modelo selecionado pudesse responder e a encaminhou para outro modelo. A Anthropic explicou que é exatamente assim que o sistema funciona: quando o classificador do Fable bloqueia uma solicitação, ela é enviada para o Opus 4.8. A empresa também reconheceu que aumentou deliberadamente a margem de segurança do classificador, sabendo que o resultado seria mais falsos positivos em trabalhos benignos. (Anthropic
Não sei por que o mecanismo de segurança foi acionado, e não estou afirmando que a Anthropic censurou críticas. O fato verificável — e suficientemente estranho — é que uma solicitação de edição de rotina foi capturada por um mecanismo de segurança cujo próprio aviso discutia falsos positivos em áreas legítimas de programação, segurança cibernética e biologia. Foi uma abertura quase comicamente perfeita para um ensaio sobre a equipe que criou o que muitos acreditam ser o sistema de IA mais brilhante do planeta.
Este ensaio examina o que acontece quando um sistema fica tão preocupado com o desempenho de suas partes individuais que perde de vista o resultado que o sistema inteiro existe para produzir. O modelo pode ser brilhante, o mecanismo de segurança pode operar exatamente como projetado, e a política de preços pode fazer perfeito sentido para as pessoas que a criaram. O trabalho do usuário ainda pode permanecer inacabado.
Exemplo A:
Pedi ao Fable 5 para editar este artigo. Os mecanismos de segurança da Anthropic sinalizaram a solicitação e a trocaram para o Opus 4.8.
As Galinhas e Seus Ovos
Em 1982, o geneticista da Purdue, William Muir, começou um experimento de reprodução incomum com galinhas poedeiras. Muir queria saber o que aconteceria se a produtividade fosse selecionada no nível do grupo, em vez do indivíduo. Em vez de reproduzir apenas a partir das aves individuais de maior produção — uma medida de produção individual pura —, ele alojou galinhas aparentadas juntas e selecionou grupos familiares inteiros de acordo com seu desempenho coletivo. A gaiola, em vez da galinha isolada, tornou-se a unidade de seleção. (PubMed
Margaret Heffernan transformou mais tarde o programa de reprodução técnica de Muir na famosa história da "supergalinha". Para gestores, sua história se tornou um aviso sinistro: contratar os mais fortes e mais inteligentes nem sempre produz o melhor resultado. Em sua releitura, um grupo de galinhas foi autorizado a permanecer como um grupo comum — sem supergalinhas permitidas. Um segundo grupo foi repetidamente reproduzido a partir das galinhas individuais mais produtivas; ela as chama de "as galinhas all-star". (Purdue Alumnus
Os resultados foram dramáticos. Ao longo de seis gerações, a mortalidade anual no grupo selecionado coletivamente por Muir caiu de 68% para 8,8%. No mesmo período, a produção subiu de 91 para 237 ovos por galinha alojada — 2,6 vezes sua produção original. Em uma comparação direta posterior realizada em grupos de doze, uma linhagem comercial selecionada para desempenho individual sofreu 89% de mortalidade com 58 semanas de idade. A linhagem selecionada coletivamente por Muir sofreu apenas 20% de mortalidade, enquanto o controle não selecionado sofreu 54%. Nesse mesmo ambiente de grupo, o grupo selecionado coletivamente superou as all-stars comerciais em ovos por galinha alojada, massa de ovo e ovos por galinha por dia. (PubMed
Enquanto isso, o grupo de supergalinhas estava esfarrapado e desgastado. Na versão do experimento que tornou a história famosa, seis das nove galinhas all-star estavam mortas e as três restantes haviam sido bicadas até ficarem nuas. O grupo havia, quase literalmente, se bicado até a morte. (Purdue Alumnus
A lição nunca foi que a mediocridade vence o talento. A verdadeira lição é que seu resultado refletirá o que você recompensa. Selecione apenas para desempenho individual e você pode acidentalmente construir uma equipe mais fraca, porque as características que permitem que um indivíduo domine podem reduzir a produtividade de todos ao redor. Selecione indivíduos de acordo com o que eles contribuem para o grupo, e qualidades que desaparecem dentro de uma classificação individual — compatibilidade, contenção, confiabilidade e cooperação — de repente se tornam visíveis.
A verdadeira contribuição de uma galinha não é meramente quantos ovos ela consegue produzir. Inclui o que sua presença permite — ou impede — que as outras galinhas produzam. Muir não havia abandonado a produtividade em favor da harmonia. Ele havia descoberto que, em um sistema social, a harmonia é parte da produtividade. A verdadeira unidade de desempenho nunca foi a galinha. Era o galinheiro.
Aprendi uma versão dessa lição dura enquanto administrava minha própria empresa de construção. Por anos, a ajuda confiável era tão difícil de encontrar em nosso ofício específico que uma all-star parecia uma salvação. Mas as pessoas que pareciam all-stars muitas vezes vinham com um imposto oculto: exceções extras, gerenciamento extra, moral danificado e atrito que o resto da equipe tinha que absorver.
Eventualmente, parei de perguntar apenas: "Quão boa é essa pessoa em seu ofício?" e comecei a perguntar: "O que acontece com o trabalho de todos os outros quando essa pessoa entra na equipe?" A pessoa que parece mais forte nem sempre é a pessoa que realmente torna a empresa mais forte. Um mestre artesão que atrasa todos os ofícios adjacentes, consome a atenção do encarregado ou afasta pessoas confiáveis pode ser impressionante isoladamente e caro na prática. Um trabalhador mais quieto que torna toda a equipe mais confiável pode contribuir muito mais do que sua produção individual revela.
O Supergalinheiro
A Anthropic realmente montou um grupo extraordinário de galinhas muito inteligentes. Uma análise da SignalFire de 2025, baseada em dados públicos de emprego, estimou que os engenheiros eram oito vezes mais propensos a se mudar da OpenAI para a Anthropic do que o contrário e quase onze vezes mais propensos a se mudar para lá da DeepMind. Também estimou que 80% dos funcionários da Anthropic contratados pelo menos dois anos antes permaneceram até o final do segundo ano, em comparação com 78% na DeepMind e 67% na OpenAI. (SignalFire
Esses números não descrevem uma empresa com dificuldade para atrair ou reter talentos. Eles descrevem um ímã para all-stars.
Isso não significa que os funcionários da Anthropic estão se bicando até a morte. Essa seria uma analogia barata, e os números de talento não a provam. O perigo mais importante é mais sutil. Quando uma empresa pode apontar de forma credível para pesquisadores excepcionais, retenção incomumente alta e modelos de ponta, torna-se fácil tratar a excelência nas partes individuais como prova de que todo o sistema está funcionando.
O experimento de Muir demonstra por que essa inferência não pode ser confiável. O perigo não é o brilhantismo em si. O perigo é medir o desempenho um nível abaixo do correto.
O Modelo Não é o Produto
A indústria de IA é construída em torno de supergalinhas: pesquisadores famosos, modelos líderes de benchmark, pacotes de remuneração enormes e páginas de lançamento cobertas de superlativos. Dentro do laboratório, a hierarquia é óbvia. Fora dele, só vemos os ovos.
O Vale do Silício tem um ponto cego claro: sua equipe pode ser extraordinária enquanto o produto que você construiu permanece frustrante, inacessível ou não confiável.
Os usuários do dia a dia não julgam um modelo por sua equipe de galinhas talentosas ou seus benchmarks. Nós só temos o modelo, o aplicativo, os mecanismos de segurança, os limites de uso, os preços, o suporte ao cliente.
Duas Empresas, 74 Minutos de Distância
Em 17 de julho, a Anthropic respondeu à demanda esmagadora pelo Fable com um compromisso. A partir de 20 de julho, os assinantes Max e Team Premium receberiam o Fable como parte de seus planos, mas com metade de seus limites normais. Os usuários Pro e Team Standard continuariam a acessar o modelo através de créditos de uso e receberiam um crédito único de $100.
https://x.com/claudeai/status/2078302415804379218
Setenta e quatro minutos depois, Thibault Sottiaux, da OpenAI, anunciou que os limites de uso haviam sido redefinidos para todos os usuários pagos do Codex e ChatGPT Work.
Estas não eram ofertas economicamente idênticas. A Anthropic estava estabelecendo uma política de acesso contínuo para um modelo excepcionalmente intensivo em computação, enquanto a OpenAI estava concedendo uma redefinição temporária após um lançamento de produto difícil. Essa ressalva é importante. O contraste na postura do produto era, no entanto, difícil de ignorar.
https://x.com/thsottiaux/status/2078320950488297917
A OpenAI não estava agindo de uma posição de perfeição. Recentemente, havia estragado partes de seu próprio lançamento do desktop e ChatGPT Work, e Sottiaux havia admitido publicamente que a empresa "não acertou tudo". Os usuários encontraram configurações confusas de alta computação, custos de uso opacos e um redesign que interrompeu fluxos de trabalho familiares. A OpenAI respondeu alterando os padrões, prometendo reparar a interface e redefinindo o uso repetidamente para que os clientes pudessem continuar trabalhando.
Uma organização estava justificando a escassez.
A outra estava fabricando boa vontade.
A OpenAI não é um grupo de galinhas medíocres. Ela também está repleta de talentos excepcionais e cometeu seus próprios erros sérios de cultura e produto. A diferença significativa neste momento não é inteligência, nem nos modelos nem no galinheiro. É o que o sistema parece recompensar quando a pressão chega.
No seu melhor, a postura atual de produto da OpenAI é implacavelmente comum. Ela começa com a tarefa do usuário: O que essa pessoa está tentando realizar? O que está impedindo-a de terminar? Onde está o atrito, e quão rapidamente podemos removê-lo? As redefinições não provam que a OpenAI resolveu a cultura do produto, mas demonstram aos usuários um instinto de absorver parte do custo de seus próprios erros, em vez de deixá-los carregar tudo.
A postura de produto da Anthropic muitas vezes comunica algo diferente: Criamos inteligência extraordinária, e nossa principal responsabilidade é determinar quanto dela você pode acessar com segurança. Essa pode ser uma postura institucional coerente, mas não é centrada no cliente. Ovos de ouro são impressionantes, mas não alimentam a família quando o galinheiro não deixa você coletá-los.
Uma empresa se organiza cada vez mais em torno da tarefa do usuário. A outra ainda se organiza em torno do risco sistêmico. Ambas as empresas devem se importar com ambas as questões, mas a questão que perguntam primeiro molda o produto que eventualmente constroem. A diferença não aparece apenas nas declarações de missão. Ela aparece no roteamento, limites, preços, comunicação e na disposição de reparar a confiança quando o sistema falha.
O galinheiro inteiro
Cultura não é o que uma empresa diz sobre si mesma. Cultura é o que seus sistemas repetidamente tornam fácil — e o que eles repetidamente tornam difícil.
A Anthropic não precisa de menos pessoas brilhantes. Ela precisa de uma definição mais ampla de sucesso, que inclua não apenas inteligência do modelo e força dos mecanismos de segurança, mas também acesso, confiabilidade, transparência e confiança. Do lado do cliente, a medida final é surpreendentemente simples: Posso depender de todo este sistema para terminar o trabalho?
Muir não tornou suas galinhas menos produtivas. Ele mudou o nível em que a produtividade era medida e descobriu que o desempenho coletivo continha informações que uma contagem individual de ovos não conseguia capturar. As aves selecionadas para desempenho de grupo tornaram-se mais saudáveis e produtivas porque a interação destrutiva não era mais invisível para a métrica. Cooperação não é uma alternativa sentimental à produção. É uma das condições que tornaram possível uma maior produção.
A corrida dos modelos de fronteira está entrando no mesmo estágio. Quando apenas um laboratório pode produzir inteligência extraordinária, o modelo mais inteligente pode parecer indistinguível do melhor produto. Uma vez que vários laboratórios podem produzir inteligência extraordinária, a vantagem competitiva se move para fora, para todo o sistema.
O modelo mais inteligente do mundo não é mais automaticamente o melhor produto ou o melhor ajuste ao mercado. O Claude pode ser a maior e mais inteligente galinha da IA, mas ninguém fora do galinheiro classifica as galinhas. Nós estamos apenas contando os ovos.
—
Fontes
William M. Muir, "Group Selection for Adaptation to Multiple-Hen Cages," Poultry Science (1996).
https://pubmed.ncbi.nlm.nih.gov/8786932/
William M. Muir, "Incorporation of Competitive Effects in Breeding Programs," Purdue University.
https://web.ics.purdue.edu/~bmuir/papers/muir%20group%20selection%20genetics%20final%20v2.pdf
Margaret Heffernan, A Bigger Prize.
https://www.hachettebookgroup.com/titles/margaret-heffernan/a-bigger-prize/9781610392914/
Margaret Heffernan, "Is the Professional Pecking Order Doing More Harm Than Good?," NPR/TED Radio Hour.
SignalFire, "The State of Tech Talent Report — 2025."
https://www.signalfire.com/blog/signalfire-state-of-talent-report-2025
Anthropic, "Claude Fable 5 and Claude Mythos 5."
https://www.anthropic.com/news/claude-fable-5-mythos-5
—
Divulgação de IA: Desenvolvi o argumento e escrevi o rascunho original a partir da minha própria experiência, depois usei o ChatGPT para ajudar a pesquisar, reestruturar e redigir partes do ensaio. Revisei e editei o texto final e assumo a responsabilidade por suas afirmações e conclusões.
**Curioso sobre o que estou construindo?
Uma IA que cita suas fontes:**
