Construindo um Diferencial Competitivo: Agentes de Autoaprendizado

Autoaperfeiçoamento é o novo diferencial competitivo, permitindo que empresas de produto vão além de simplesmente encapsular APIs de LLM.

Existem duas fontes para colher esse aprendizado: atividade no navegador (o que os usuários realmente fazem nos aplicativos) e rastros do agente (o que seu agente realmente fez).

Se feito corretamente, seu produto pode melhorar simplesmente sendo usado.

Seu produto pode ter centenas, milhares ou milhões de interações agente-usuário todos os dias. Isso é uma mina de ouro de dados.

Hoje, no entanto, a maior parte desse valor não é capturada.

Seus usuários "ensinam" o agente, e essa "lição" simplesmente desaparece.

Capturar sinais de dados é um ativo que se acumula.

Mas capturar não é suficiente — o agente ainda precisa usar esses dados sem se afogar em contexto. Os modelos têm um orçamento de atenção limitado, e entupir o contexto com tudo não é a solução...

Visão geral do artigo

Vamos abordar agentes de autoaperfeiçoamento com os quais você pode construir um diferencial competitivo, incluindo:

• Aprendizado a partir de rastros do agente e atividade no navegador
• Onde os aprendizados podem ser aplicados: pesos do modelo, a estrutura de suporte e o contexto
• Os diferentes tipos de aprendizado: processual, semântico, episódico
• Privacidade de dados: mantenha os dados dos seus usuários seguros
• Propriedade dos dados: construa um diferencial competitivo
• Dicas práticas para implementar facilmente o autoaprendizado para qualquer agente, usando AG-UI

Estaremos lançando nossa solução de Autoaprendizado nas próximas semanas.

Inscreva-se aqui para acesso antecipado e parceria de design.

Seu agente deve aprender de 2 lugares

Os agentes devem aprender a partir de rastros do agente e da atividade ambiente no navegador.

A maioria das abordagens de aprendizado usa apenas um ou outro, mas produtos que aproveitam ambos terão um desempenho significativamente superior àqueles que não o fazem.

1. Rastros do Agente

O agente é executado e cada etapa é registrada como um rastro. O que foi solicitado, quais ferramentas ele chamou, o que retornou, onde falhou.

Aponte outro agente para esses rastros, e ele encontra os padrões de falha e reescreve os prompts, ferramentas e instruções.

A metade que falta: Qualquer coisa fora da interação do agente, onde a maior parte da atividade ainda ocorre.

2. Atividade ambiente do usuário no navegador

Ou seja, observando o usuário.

Seus cliques, edições, respostas e fluxos de trabalho.

A Brex construiu sua integração dessa forma. Eles observaram seus analistas trabalhando e alimentaram cada correção humana de volta como um sinal de treinamento.

Cada correção humana cria um ponto de dado rotulado que aprimora a próxima execução.

A metade que falta: Este método vê o humano perfeitamente. Mas não sabe nada sobre o que o agente tentou ou por que falhou.

Você deve capturar ambos os sinais

Como? Ou melhor, onde?

Há um lugar em quase todos os produtos hoje que vê ambos simultaneamente: a superfície onde a pessoa e o agente trabalham lado a lado.

Ou seja, a interface.

O como é através do Protocolo de Interação Agente-Usuário (AG-UI): um padrão aberto que transmite cada evento entre seu aplicativo, seus usuários e o agente. Mais sobre por que isso é importante abaixo.

Onde o aprendizado pode ser aplicado

Existem três lugares, cada um com suas próprias compensações.

→ Pesos do modelo: Ajuste fino da lição no próprio modelo.

→ Estrutura de suporte: Tudo ao redor do modelo. O ciclo que ele segue, as ferramentas que ele pode chamar, as verificações que o impedem antes de agir.

→ No contexto: Adicione a nova informação diretamente no prompt. O agente a lê em cada chamada.

Abordei todas as 10 abordagens nessas três camadas no primeiro artigo ↓

https://x.com/svpino/status/2070210421995569537

Os diferentes tipos de aprendizado

Existem três tipos principais que ajudarão seus agentes a melhorar ao longo do tempo.

1. Processual (fluxos de trabalho/como fazer as coisas)

A memória processual é o que muitos de nós incluímos em arquivos de habilidades ou agents.md:

Fluxos de trabalho e regras aprendidos para realizar uma tarefa.

Por exemplo:

Um gerente aprovando um reembolso acima do limite para um cliente fiel. O agente aprende isso e faz o mesmo na próxima vez.

Pró: O agente lida com o mesmo caso da mesma forma todas as vezes. Consistente e independente.

Contra: Se aprender o fluxo de trabalho errado, fará a coisa errada com confiança, todas as vezes.

2. Episódico (coisas que aconteceram)

Um registro de eventos e interações passadas específicas.

Por exemplo:

"Em 5 de janeiro, o reembolso de Joe Jonas falhou porque o cartão dele havia expirado."

Pró: Um caso real passado supera uma regra abstrata. O agente vê como aconteceu e copia o que funcionou.

Contra: A maioria dos casos passados é ruído inútil. Alguém tem que revisar e manter apenas os que valem a pena lembrar, ou o útil acaba sendo enterrado.

3. Semântico (os fatos)

Fatos estáveis que o agente deve saber.

Por exemplo:

"Todos os planos de cartão de crédito têm algum limite, mas o limite varia por plano"

Pró: Reutilizável em todos os lugares. Um fato é um fato.

Contra: Fica desatualizado sem aviso. No dia em que o limite muda, o agente está confiantemente errado e age com base nele de qualquer maneira.

Autoaprendizado em ação via CopilotKit Intelligence e AG-UI

Semântico mantém o que é verdade.

Episódico mantém o caso que aconteceu.

Processual mantém a regra para lidar com ele.

A jornada do fluxo, da interação agente-usuário ao autoaprendizado

Assumindo o controle do ciclo você mesmo e construindo um diferencial

Os dados de aprendizado são a parte mais importante do seu produto, e se tornarão cada vez mais valiosos à medida que o custo de criar software do zero diminuir.

Possuir os dados de aprendizado permite que você se torne mais do que um invólucro de uma API de LLM.

A falha do agente e a correção do humano geralmente acabam em dois lugares diferentes.

E ninguém os conecta.

A superfície para fazer isso já existe dentro do seu produto: a interface.

Ferramentas de rastreamento veem apenas o agente.

Ferramentas ambientes, do tipo que observam o navegador, veem apenas o humano, e invadem a privacidade para conseguir isso.

Mas o CopilotKit vê ambos os sinais.

O CopilotKit lê os eventos que fluem através do seu aplicativo: cada chamada de ferramenta, mudança de estado, aprovação e edição, tanto do agente quanto da pessoa que o utiliza.

Ele faz isso através do AG-UI (Protocolo de Interação Agente-Usuário) que transporta cada evento entre seu aplicativo, seus usuários e o agente em tempo real.

Agora, a tentativa do agente e a correção do humano chegam no mesmo fluxo.

O AG-UI funciona com qualquer agente e qualquer estrutura de suporte

O AG-UI é um padrão aberto que é independente de framework.

Foi adotado pela AWS, Google, Microsoft, Oracle, LangChain, Mastra, Pydantic AI, CrewAI, LlamaIndex e mais.

O AG-UI vê os eventos e injeta o contexto aprendido diretamente no agente, independentemente de como a estrutura de suporte desse agente se pareça internamente.

Isso significa que o mesmo aprendizado se aplica a qualquer agente que você trouxer, hoje ou no próximo ano, automaticamente, sem necessidade de trabalho de integração personalizado para cada novo.

Um de nossos clientes executa uma interface que conversa com o agente do CopilotKit + Google ADK + Microsoft Agent Framework, e todas as memórias são compartilhadas entre os três.

Memória desvinculada da escolha do framework = portabilidade

Tudo é executado na sua infraestrutura, então você possui o aprendizado

O CopilotKit Intelligence é auto-hospedado no seu próprio cluster Kubernetes. Soberania total de dados, SOC 2 Tipo II, implantação em ambiente isolado, se necessário.

Os dados ficam com você. Assim como tudo o que o agente aprende com eles.

A abordagem de todos os outros mantém seu aprendizado na nuvem deles ou, como a da Meta, usa vigilância para obtê-lo.

O @CopilotKit Intelligence está ativo em produção em empresas da Fortune 500 hoje e está aberto para acesso antecipado. Se você quer que seu agente melhore quanto mais pessoas o usarem, entre em contato.

Contêineres de Aprendizado: decidindo "quem" recebe os novos aprendizados

Assim que você ativa o aprendizado em seu produto, surge a pergunta: até onde o aprendizado se estende? Fatos confidenciais de um usuário não devem vazar para o contexto do agente de outro usuário.

A solução do CopilotKit são os Contêineres de Aprendizado: escopos amigáveis ao desenvolvedor que você pode controlar, decidindo o 'alcance' de cada lição.

O CopilotKit permite que você defina facilmente contêineres de aprendizado para diferentes coortes de usuários:

• Por usuário. Como preferências específicas.
• Por equipe. Como procedimentos de aprovação.
• Por aplicativo. Como regras da empresa.

Os contêineres de aprendizado são totalmente auditáveis. Você pode ver exatamente o que foi aprendido e em qual contêiner foi parar.

Há muito mais sobre isso.

Recentemente, realizamos uma transmissão ao vivo aprofundada abordando tudo o que acabei de mencionar.

Assista à gravação completa aqui.

Resumo em poucas palavras

Compartilhe este gráfico com sua rede como um resumo rápido

O @CopilotKit Intelligence já está executando isso em produção dentro de grandes empresas, e está aberto para acesso antecipado.

Se você quer um agente que melhore quanto mais seus usuários o utilizarem, entre em contato e nós o incluiremos.

Siga @ataiiam para mais.