Por que a Camada de Aplicação Não Está Morta
A pergunta que continuo recebendo de fundadores e potenciais funcionários: ainda existe alguma camada de aplicação de IA para construir, ou a OpenAI e a Anthropic vão acabar com tudo?
Há um tipo particular de psicose de IA por trás da pergunta. Algumas pessoas concluíram que os únicos lugares duráveis para evitar a subclasse permanente são dentro de um grande laboratório ou na fronteira construindo em robótica, hardtech, ou similar – teoricamente qualquer coisa "que os laboratórios não conseguem alcançar." Se todo software está prestes a ser devorado, seja pelo Codex ou Claude absorvendo o trabalho diretamente, ou por um modelo futuro que tornará desnecessário tudo que você construiu, então corra!
Olha, eu sou tão maximalista de IA quanto quase qualquer um, e acho que eles estão meio certos. Os laboratórios realmente estão vindo para uma enorme fatia da superfície de aplicação. Mas "a camada de aplicação" não é apenas uma oportunidade homogênea. O enquadramento correto é se você está na Estrada de Tijolos Amarelos ou em algum outro lugar de Oz.
A Estrada de Tijolos Amarelos é nossa abreviação para o caminho que os laboratórios estão percorrendo, onde estão comprometendo recursos extraordinários. A razão pela qual os laboratórios são mais adequados para problemas como geração de código, escrita ou criação de imagens é porque esses problemas melhoram com a capacidade bruta do modelo: cada dólar gasto em pré-treinamento e pós-treinamento melhora a qualidade do produto. Enquanto isso, o resto de Oz é habitado por problemas mais complexos, muitas vezes verticais, que não são tão simples quanto dar a um usuário de negócios uma ferramenta horizontal com acesso a ferramentas padrão e uso de computador. O valor vem menos da capacidade bruta do modelo subjacente (embora isso ainda seja importante!) do que da estrutura ao redor dele que torna a saída confiável, compatível e operacional dentro de uma indústria específica.
Estamos vendo isso acontecer em tempo real, pois OpenAI e Anthropic estão efetivamente dizendo ao mercado que não podem resolver todos os problemas com um colega de trabalho de IA genérico. Eles anunciaram joint ventures massivas implantadas na frente para construir empresas inteiras em torno da configuração e personalização de seus modelos para o enterprise. Você não despeja bilhões nesses programas se acha que o próximo lançamento de modelo vai cuidar disso.
Então, se você quer ficar rico construindo aplicativos de IA – evite a estrada de tijolos amarelos e construa em outro lugar de Oz. Aqui está o que aprendemos, e o que alguns de nossos fundadores de portfólio aprenderam, sobre o que funciona.
A Estrada de Tijolos Amarelos
Se você está começando uma empresa, a Estrada de Tijolos Amarelos é o caminho mais óbvio a seguir, mas é o mais perigoso. Pegue um modelo de alto desempenho, conecte alguns conectores prontos (como G Drive, Slack, Salesforce, Notion, GitHub) e coloque alguma camada de orquestração agentiva por cima disso. Mágica!
O problema com isso é que é exatamente o que os laboratórios estão fazendo com Cowork e Codex. Obviamente, eles são donos do modelo, o que lhes dá melhores margens, controle e a capacidade de exercer poder de precificação sobre qualquer um que esteja a jusante deles. Mas talvez o mais importante é que eles também são donos das escolhas arquitetônicas que definem para que seus produtos são construídos para resolver bem. Eles têm sido deliberados até agora sobre o padrão de modelo mais chamadas de ferramentas, e isso é exatamente o que o trabalho horizontal de baixa contagem de passos na estrada exige. Mesmo que uma startup pudesse de alguma forma superar o Codex ou o Claude Code, os laboratórios têm braços de distribuição massivos e a maior aura de marca em IA.
Se você é uma empresa de aplicativos de IA executando esse manual com os mesmos conectores, sem subagentes ou configuração abaixo disso, e sem distribuição, você provavelmente está andando por uma estrada que não leva a lugar nenhum.
O Resto de Oz
Não é só desgraça e tristeza para startups. Há uma oportunidade enorme fora da Estrada de Tijolos Amarelos, onde as startups têm um caminho claro para serem donas de seu cliente e resolver problemas complexos.
Esses negócios estão construindo experiências agentivas onde o modelo é tecido através de uma complexa teia de ferramentas, automações e integrações (leia-se: software), fazendo com que a maioria dessas startups seja vertical por padrão. Elas podem focar em trabalho multi-etapas e multi-player, com subagentes para tarefas específicas de função e vertical, que a Anthropic e a OpenAI não conseguem alcançar com plataformas horizontais: reunir contexto através de sistemas, então rotear por múltiplos humanos que precisam aprovar em diferentes estágios. Isso muitas vezes envolve um ou mais sistemas legados, tende a precisar de resultados determinísticos onde a ambiguidade não é aceitável, e às vezes está atrelado a algum resultado de negócio valioso. Os laboratórios entendem o quão valiosos esses problemas são: é por isso que eles estão construindo suas próprias lojas de configuração terceirizadas, e por que existe uma classe inteira de negócios de aprendizado por reforço voltados para o mercado alto.
Por que o resto de Oz não será dominado pelo Mágico
A resposta ao acima seria que, até agora, tem sido uma troca bem ruim apostar contra a melhoria dos modelos/laboratórios. Eles provavelmente continuarão melhorando e eventualmente vão comer o mercado atendido por esses negócios da camada de aplicação.
Os laboratórios certamente vão melhorar, mas eu diria que há algumas maneiras pelas quais o resto de Oz pode se defender ao longo do tempo:
Volantes de dados e aprendizado:
Muito do que você internaliza não está em nenhum conjunto de treinamento — normas não escritas da indústria, padrões não documentados, o conhecimento tribal que vive na cabeça dos profissionais. Nada disso está na web pública. Nenhuma quantidade de poder computacional de treinamento substitui estar dentro dos fluxos de trabalho onde esse conhecimento realmente vive. Há dois volantes empilhados um sobre o outro aqui: um entre clientes — padrões que se acumulam conforme você vê mais variantes do mesmo problema — e um dentro do cliente — o porquê por trás de decisões específicas, as exceções não ditas, as regras práticas da própria empresa que só vêm à tona através da interação real com o sistema.
Mesmo que os dados do cliente não possam ser usados entre clientes, as empresas de aplicação poderão alavancar o reconhecimento de padrões entre tipos de problemas de clientes, e usar isso para informar a arquitetura certa para problemas futuros. Uma empresa que executou seus agentes através de cem revisões jurídicas, mil ciclos de subscrição de seguros, ou dez mil campanhas de SDR internalizou a forma do problema de uma maneira que o próximo entrante não consegue replicar ao iniciar um agente novo pela primeira vez.
Um agente horizontal poderia, em princípio, construir a mesma infraestrutura de aprendizado. A razão pela qual não o faz, além do puro foco, é a UX: capturar esse tipo de conhecimento depende inteiramente das superfícies de fluxo de trabalho que você dá ao usuário, e players verticais podem moldar essas superfícies exatamente em torno do que seu fluxo de trabalho precisa trazer à tona. Ferramentas horizontais não conseguem. Conjuntos de avaliação, saídas rotuladas e taxonomias de casos extremos podem se acumular em um volante de dados específico da vertical que pode alimentar o ajuste fino que o próximo entrante não consegue gerar sem exposição de produção comparável. Se isso é possível depende dos direitos de dados, do volume de exposição de produção acumulado e da estrutura dos contratos com clientes, mas o reconhecimento de padrões se acumula independentemente disso.
Gerenciando variabilidade e complexidade do modelo: Os laboratórios já estão roteando internamente — diferentes classes de modelo para diferentes solicitações, ensembles sob o capô. O que eles não podem fazer é rotear entre fornecedores, ou avaliar o modelo de um concorrente para uma subtarefa específica, ou usar um ajuste fino de código aberto para a parte estreita onde ele é realmente melhor. A empresa do Resto de Oz escolhe o modelo certo para cada subtarefa em todo o mercado de modelos, não apenas o que seu laboratório pai lança. Ela também faz o trabalho que ninguém quer fazer — reexecutar avaliações em atualizações, recalibrar prompts para os casos extremos do cliente, implementar sem quebrar a produção — toda vez que um novo modelo chega. Os laboratórios não estão fazendo isso em nome do cliente; eles vendem seu próximo modelo e dizem para você migrar. A empresa do Resto de Oz absorve a migração. O que o cliente recebe é a melhor inteligência disponível em todo o mercado, mais continuidade através de cada atualização.
Otimização de custos: Executar toda consulta através do Opus 4.7 é o caminho mais rápido para margens brutas negativas. As melhores empresas do Resto de Oz roteiam através de níveis de modelos — modelos de fronteira para as tarefas mais difíceis, nível médio para a maior parte, modelos menores personalizados ou ajustados onde eles ganharam o direito de usá-los. Algumas agora estão pós-treinando seus próprios modelos sobre isso, otimizando-os para a fatia estreita de trabalho que seu cliente se importa e servindo-os a uma fração do custo de uma chamada de API de fronteira. Os laboratórios precificam o piso: a menor inteligência disponível a $X. A empresa do Resto de Oz vende o inverso — o menor custo em dólar para o nível específico de inteligência que o fluxo de trabalho realmente requer. Isso só é possível se você sabe exatamente qual nível cada subtarefa precisa, o que os laboratórios estruturalmente não podem saber em todas as verticais. Isso se traduz diretamente em preços mais baixos e controlados para resultados.
Governança: Há um valor considerável em se tornar o plano de controle de como seus clientes executam IA nessa vertical – o lugar onde permissões, auditoria, o-que-o-agente-pode-fazer e o-que-o-agente-realmente-fez convergem. Esse plano de controle é construído com salvaguardas específicas para o caso de uso que parecem completamente diferentes entre indústrias e tipos de trabalho. Porque eles são donos das ferramentas, dos fluxos de trabalho e dos dados que o agente toca de ponta a ponta, eles podem fornecer resultados determinísticos de maneiras que as ferramentas horizontais terão dificuldade. Eles também são a entidade que absorve a complexidade regulatória para o comprador final — regras da FRCP e da Ordem dos Advogados no direito, HIPAA na saúde, SEC e FINRA em finanças, regulamentações estaduais de seguros, e assim por diante. Um player horizontal não pode fazer isso de forma crível sem se tornar cem verticais diferentes ao mesmo tempo. CIOs querem ter um parceiro que declare contratualmente que está lidando com a conformidade para os agentes que estão fornecendo.
Tudo isso volta para a mesma coisa: foco. Isso poderia ser uma vertical (seguros, direito, contabilidade) ou uma função feita profundamente (vendas, suporte ao cliente, finanças). De qualquer forma, o trabalho precisa de um time que está focado em um conjunto de clientes — seus fluxos de trabalho, seus casos extremos, suas regulamentações. Os laboratórios não são construídos para isso. Eles têm que estar em toda parte, para todos, que é como construíram a Estrada de Tijolos Amarelos em primeiro lugar. A mesma troca os mantém fora do resto de Oz — você pode estar em toda parte ao mesmo tempo, ou pode ser ótimo em uma coisa. Não ambos.
Vendas como exemplo – dicas práticas do CEO técnico da 11x
Como você deve pensar sobre isso na prática? Aqui estão algumas dicas práticas de Prabhav Jain, o CEO da 11x.
Foco em resultados
Um caminho tático para construir uma empresa que é resiliente aos laboratórios é simplesmente começar a partir de um resultado específico que seus clientes realmente se importam. Para nós, isso era ajudar empresas a gerar mais pipeline. A partir daí, as perguntas se tornam táticas. Quais atividades queremos possuir de ponta a ponta que realmente geram pipeline? Decomponha cada atividade em tarefas. Quais tarefas são agentivas e quais não são. Quais requerem insight intrincado de domínio e quais não. Os laboratórios também lançarão fluxos de trabalho, mas quando o fluxo de trabalho tem muitos passos, entradas bagunçadas, estado difícil de interpretar, ou restrições do mundo real, um modelo melhor sozinho não vai te levar até lá. O trabalho recai na boa e velha engenharia de software, e os laboratórios não têm vantagem sobre uma empresa de aplicação focada nessa superfície. Por exemplo, aqui estão algumas das tarefas que tratamos, algumas agentivas e outras não: prospecção de leads baseada em sinais personalizados, enriquecimento de leads, pesquisa profunda de contas, coletor de contexto do CRM, escritor de mensagens específico do canal, agente de qualificação de leads e sistema de entregabilidade de email. Essas não são tarefas que você pode resolver de uma só vez e requerem engenharia profunda.
O insight crítico na analogia de Oz é que aproximadamente metade de qualquer fluxo de trabalho real que não é agentivo não carrega vantagem do laboratório. Eles não são melhores que você em escrever o software determinístico por baixo da camada do modelo. E a metade que é agentiva ainda requer que você ajuste, treine e restrinja os modelos contra o resultado que você realmente quer. O conhecimento de domínio muitas vezes não está nos dados de treinamento gerais. Essas habilidades são construídas a partir do zero para a vertical ou função, e alimentadas no modelo no momento certo do fluxo de trabalho. Quando nossos agentes estão qualificando um lead de entrada por telefone, tenho que ser treinado no que é uma boa conversa de vendas para aquela indústria específica e para aquela persona. Esse é trabalho de empresa de aplicação, e ele se acumula.
Mais importante, essas habilidades se tornam desatualizadas o tempo todo porque os negócios evoluem, então sua capacidade de evoluir esses fluxos de trabalho e contexto se torna uma vantagem competitiva. Como exemplo, quando começamos nosso produto de alcance de email em escala, emails escritos por "IA" estavam apenas começando a entrar em jogo. Avançando para hoje, as pessoas têm um senso apurado de emails que são escritos por IA versus humanos e, crucialmente, isso muda a cada poucos meses. Nossos agentes têm que se adaptar constantemente dada a dinâmica do mercado, mas é aí que o fosso é construído. Na verdade, apesar dessa dinâmica, nossas taxas de resposta positiva aumentaram 4x nos últimos meses e geramos centenas de milhões em pipeline para nossos clientes.
Trabalhe em problemas onde a complexidade é alta
Problemas complexos são onde o valor real do negócio é desbloqueado. Caso contrário, você se verá construindo uma camada fina.
Decomponha qualquer problema de negócio suficientemente complexo e a bagunça aparece rapidamente. Aqui está um exemplo do mundo GTM que parece trivial: você não deve entrar em contato com um contato em uma empresa se essa empresa já é cliente. É tudo menos trivial. Talvez você tenha o domínio associado à empresa no seu CRM. E quanto a empresas com dezenas de subsidiárias? E se o registro do CRM tiver o domínio da matriz? E se um campo de correspondência desatualizado no Salesforce enviar uma proposta fria para o CRO de um cliente atual? Dados do mundo real são bagunçados. Humanos têm dificuldade com isso. Modelos não ultrapassam essa barreira magicamente. Trazer ordem dessa bagunça requer agentes construídos para o propósito, projetados para a forma específica do problema, não um copiloto de propósito geral apontado para um CRM. Na verdade, com base nos dados que temos, percebemos que a qualidade e a frescura dos nossos dados são muito maiores que as de nossos clientes, então, por padrão, nos ancoramos nos nossos.
Salvaguardas não são apenas para evitar que coisas ruins aconteçam. É para isso que seus clientes estão te pagando.
Salvaguardas são severamente subestimadas. Mesmo dentro do mesmo produto, cada caso de uso precisa das suas próprias. Para nós, um prospect de serviços financeiros regulamentado exige garantias diferentes de um cliente SaaS de médio mercado, e essas garantias se desdobram em como o agente pode escrever, quem ele pode contatar, quais dados ele pode tocar, o que ele pode dizer em uma chamada e como cada decisão é registrada.
Um sistema único para todos colapsa sob essa variância. Salvaguardas têm que ser construídas por caso de uso, configuradas por cliente e auditadas continuamente, e esse trabalho fica diretamente com a empresa de aplicação. É por isso que temos FDEs e estrategistas de implantação técnica que precisam ajustar para cada requisito do cliente. Como exemplo, trabalhamos com uma instituição do F1000 para fazer alcance externo consentido por voz para sua grande base de clientes SMB. As primeiras iterações tiveram baixas taxas de atendimento — tivemos que iterar rapidamente e aprender como fazer esse tipo específico de público se engajar nos primeiros 10 segundos da chamada. Donos de negócios SMB se comportam de forma muito diferente de compradores B2B maiores ou consumidores. Agora geramos mais oportunidades de vendas para eles em um dia do que toda a equipe de vendas deles para aquele segmento em um mês.
Seguros como exemplo – dicas práticas do CEO da FurtherAI
Vendas é um exemplo. Seguros é outro, e faz o mesmo ponto de um ângulo diferente. Aqui está como Aman Gour, CEO da FurtherAI, pensa sobre construir fora da estrada:
Quando começamos a implantar IA dentro de operações reais de seguros, continuávamos ouvindo uma suposição particular: o modelo é a inteligência, e o fluxo de trabalho é apenas a estrutura ao redor dele.
Quanto mais seguradoras com que trabalhávamos, mais convencidos ficávamos de que isso está ao contrário.
Em seguros, muita da inteligência vive dentro do próprio fluxo de trabalho. Duas seguradoras podem executar uma submissão através do que parece ser o mesmo caminho: submissão, revisão, cotação, vinculação. Mas o caminho é a parte fácil. O que separa as duas seguradoras é tudo dentro dele: quais riscos são escalados, quais sinais de perda importam, qual regra de apetite vence quando duas delas entram em conflito, quando um humano tem que aprovar, quais dados externos são puxados, e como a decisão final é documentada.
Essa lógica não vive em um motor de regras limpo. Ela está espalhada por POPs, revisões de gerentes, filosofia de subscrição, apetite específico da seguradora e anos de experiência operacional. Muito disso não está escrito de uma forma que um modelo possa simplesmente ler.
É por isso que não acreditamos em um agente puro que raciocina do zero toda vez, e não acreditamos em um fluxo de trabalho rígido que quebra no momento em que a realidade fica bagunçada. E em vez disso, estamos construindo fluxos de trabalho agentivos. O fluxo de trabalho te dá repetibilidade, auditabilidade e controle de custos. O agente lida com a variabilidade e se recupera quando o caminho feliz quebra. O humano permanece no loop para os julgamentos onde a responsabilidade importa.
No primeiro dia, isso automatiza o trabalho manual. Mas com o tempo, cada escalação se torna um sinal, cada exceção é um feedback e cada correção humana mostra onde o manual estava incompleto. Com o tempo, o fluxo de trabalho para de ser um script e começa a se tornar a memória operacional da seguradora. Esta é a parte que os laboratórios acharão difícil alcançar. Eles continuarão lançando modelos melhores e agentes gerais melhores, e eles deveriam. Mas eles não ficam dentro dos fluxos de trabalho de produção de uma seguradora tempo suficiente para aprender por que uma conta foi escalada, por que um risco foi recusado, ou por que um subscritor sobrepujou o guia de apetite e estava certo ao fazê-lo.
Essa compreensão só vem de executar o fluxo de trabalho, em produção, muitos milhares de vezes. O fluxo de trabalho que você envia no primeiro dia não é o fosso. O loop que o uso em produção cria ao longo do tempo é.
Para nós, é isso que significa construir fora da estrada.
Como você decide se está no resto de Oz ou não?
O teste de ferramentas e passos: Quantos passos o trabalho leva, e quão complexas são as ferramentas que você tem que construir para suportá-lo? Compare uma busca horizontal de IA no Google Drive — um passo contra uma ferramenta com um resultado tolerante, o usuário lê o resumo e pergunta de novo se estiver errado — a uma revisão jurídica multi-etapas contra três anos de precedentes da firma: dezenas de passos através de muitas ferramentas, saída que tem que passar pela revisão do sócio e pode precisar ser argumentada no tribunal. Ambos parecem "um agente fazendo trabalho," mas apenas um deles requer o tipo de software profundo que um time focado leva anos para construir.
O teste de sistema: Você está construindo um sistema pelo qual o cliente executa seu trabalho, ou uma ferramenta que fica em cima de um sistema que eles já têm? Sistemas são donos do fluxo de trabalho de ponta a ponta — a captura de dados, a governança, os registros do que foi feito — e são o que o cliente aponta ao descrever como o trabalho real acontece. Ferramentas, por outro lado, apenas adicionam inteligência a um fluxo de trabalho que o cliente já executa. O caso da ferramenta gera receita real e os laboratórios podem tomá-la porque o cliente não está dependendo de você como a camada de orquestração. ACV alto é geralmente um sinal de um sistema, já que sistemas substituem headcount real e são pagos de acordo, mas não é uma garantia. Pergunte a si mesmo se o cliente ainda precisaria da sua ferramenta se um laboratório lançasse algo que supostamente compete diretamente com você. Se sim, você está construindo um sistema. Se não, você é uma ferramenta — mesmo que seu ACV seja alto.
O teste do hedge fund / P&L: Enquanto o desempenho do laboratório é julgado contra benchmarks, o desempenho do resto de Oz é julgado contra o P&L do seu cliente. Seu cliente não se importa que seu modelo foi bem no SWE-Bench ou MMLU — eles se importam se seu agente fechou o negócio, revisou o contrato corretamente, ou vinculou a apólice certa. Se eles estão fixados no resultado específico do fluxo de trabalho deles, não em uma pontuação de capacidade genérica, você está no resto de Oz. Se eles estão pagando por capacidade genérica, você está vendendo para eles algo que eles podem obter com um assento do Claude ou Codex. Os melhores negócios de agentes vão precisar executar como hedge funds — vencendo no alpha medido no P&L do cliente, não em pontuações de benchmark.
Ambos podem (e vão) vencer
Vamos ver vencedores massivos dentro e fora da Estrada de Tijolos Amarelos. Os modelos continuarão vencendo porque eles são donos do modelo e eles são donos da distribuição para as ferramentas horizontais que projetaram.
O resto de Oz pode vencer se eles forem donos do sistema de trabalho — a superfície onde o trabalho da empresa realmente executa e os dados que fluem dela são capturados. Essas empresas são donas da captura de dados, do sistema de ação do fluxo de trabalho e da governança. Conforme fluxos de trabalho mais complexos amadurecem em uma vertical, eles se acumulam em uma experiência central da qual o cliente passa a depender. Conforme novas gerações de modelos são lançadas por incumbentes e novos entrantes, a empresa se torna a camada que os integra e os entrega ao cliente. O modelo é fungível por baixo; o sistema de trabalho não é.
A próxima geração de software enterprise será construída fora da estrada.
Se você está construindo isso, entre em contato: jschmidt@a16z.com.
