O sistema de IA que vimos construindo nos últimos dois anos acabou de evitar um exploit de US$ 27,7 milhões. O projeto nos concedeu uma recompensa de US$ 250.000, tornando-se a maior já paga por uma vulnerabilidade encontrada inteiramente por IA.
Nenhum humano guiou a busca. O sistema encontrada. O sistema a encontrou sozinho. Nós a validamos com nossa equipe de pesquisadores de segurança de classe mundial e a reportamos.
A IA já resolveu problemas de matemática de olimpíada, descobriu novas proteínas e superou médicos no diagnóstico de doenças. Acabou de adicionar mais um item à lista.
A tese que deu início a tudo
Começamos a construir isso com base em uma tese específica. Existe um limite cognitivo para quão fundo qualquer auditor humano consegue rastrear através de sistemas quebra sistemas que interagem. Os melhores pesquisadores do mundo encontram um teto em cerca de 4 a 5 níveis de interações entre sistemas. E a maioria dos bugs críticos que sobrevivem às auditorias está abaixo desse teto.
Então, queríamos descobrir se a IA conseguiria superá-lo.
O que construímos não foi outro scanner. Nem outro wrapper do ChatGPT que te inunda com falsos positivos. Construímos uma arquitetura de raciocínio sobre modelos de IA existentes que os leva muito além do que foram projetados para fazer. Um sistema que rastreia a lógica através de 7 ou mais camadas de sistemas que interagem simultaneamente, encontrando vulnerabilidades que nenhum humano sequer sabe que deve procurar.
Os modelos de fronteira dos principais laboratórios de IA têm uma limitação fundamental de raciocínio. Eles não conseguem manter e rastrear lógica complexa através de muitas camadas de sistemas que interagem de sistemas. Nenhum laboratório resolveu isso. Nós resolvemos. Para os mesmos modelos, nosso sistema obtemos um nível completamente diferente de saída completamente diferente. É como se o modelo estivesse rodando a 30% e ninguém tivesse notado.
Como me envolvi
Caço bugs há anos. Já vi todas as gerações de "ferramenta de segurança com IA" surgirem. Scanners de alto nível sinalizando problemas óbvios, wrappers do ChatGPT que te dão centenas de falsos positivos. Tudo perda de tempo.
Quando o @0xitsgreg me mostrou o que ele havia construído, esperava a demonstração de sempre. O que vi, em vez disso, foi um sistema que realizava mergulhos profundos extremos em cada base de código para desenterrar os bugs mais obscuros e impossíveis de encontrar.
Entrei como cofundador e CEO.
O campo de provas mais difícil que poderíamos encontrar
Escolhemos cripto porque, quando uma vulnerabilidade é explorada em um protocolo ativo, dinheiro de verdade é drenado em minutos. Não existe "vamos corrigir no próximo trimestre". E os maiores protocolos já foram auditados 3, 4, 5 vezes pelas melhores empresas do mundo.
Se nosso sistema conseguisse encontrar o que todas elas perderam, essa seria a prova mais forte imaginável.
Nos últimos meses, ele encontrou vulnerabilidades confirmadas em protocolos ativos como Ethereum, Lido, Chainlink, Aave, Uniswap, Polygon e outros. Todos esses protocolos protegem bilhões de dólares. Todos foram auditados várias vezes por empresas de ponta. Cada descoberta passou despercebida por todos os revisores humanos.
A descoberta de US$250.000
O sistema analisou um protocolo grande e fortemente auditado usando o que chamamos de Deep Invariant Analysis. Ele ingeriu a base de código, mapeou cada módulo, cada dependência, cada interação entre sistemas. Rastreou caminhos de execução em busca de invariantes — coisas que nunca deveriam quebrar, mas que podem sob condições específicas.
Quando encontrava uma linha promissora, ele ativava subagentes conectados para explorar diferentes ângulos em paralelo, iniciava um sandbox, escrevia provas de conceito de exploração, iterava e refinava o caminho de ataque até ter algo totalmente reproduzível.
Então, ele nos notificava.
Abrimos a descoberta esperando outro caso de borda esperando outro caso de borda de borda de gravidade média. O que estávamos vendo era uma falha lógica crítica na interação de múltiplos sistemas. US$ 27,7 milhões em fundos de usuários em risco direto de serem drenados em um único ataque.
Validamos e reportamos através do @HackenProof. O protocolo confirmou, corrigiu imediatamente e nos concedeu uma recompensa de US$ 250.000 de gravidade máxima.
O que isso significa
O c testemunhou muitos exploits recentemente e, na maioria das vezes, os protocolos desviam a culpa. Enquanto isso, os atacantes estão se tornando mais sofisticados, cada vez mais auxiliados por IA, e a profundidade da revisão da revisão de segurança não acompanhou.
O teto do que a segurança apenas humana pode alcançar se manteve por anos. Esta recompensa é a prova de que a IA pode agora rompê-lo. E já fomos procurados por um dos principais laboratórios de IA para explorar o que construímos.
Hoje, estamos saindo do modo furtivo. Nos chamamos @therealgregoai. Estamos apenas começando.
Se você quiser descobrir quais vulnerabilidades seu protocolo pode ter perdido, me mande uma DM.
