私たちが過去 2 2 年間かけて構築してきた AI システムが、2,770 万ドルのエクスプロイトを未然に防ぎました。このプロジェクトにより、AI 単独で発見された脆弱性に対して支払われた史上最高額となる 25 万ドルの報奨金を獲得しました。
人間による探索の指示は一切ありません。システムが自ら発見しました。私たちは世界トップクラスのセキュリティ研究者チームで検証し、報告しました。
AI はすでにオリンピックレベルの数学問題を解き、新たなタンパク質を発見し、医師を凌ぐ病気の診断を行っています。今回、そのリストにもう 1 つが加わりました。
すべての始まりとなった仮説
私たちは特定の仮説に基づいてこれを構築し始めました。人間の監査担当者が相互に作用するシステムをどこまで深く追跡できるかには、認知的な限界があります。世界最高の研究者でも、システム間の相互作用は 4 ～ 5 レベル程度が限界です。そして監査を生き残る重大なバグのほとんどは、その限界以下の深さに潜んでいます。
そこで私たちは、AI がその限界を超えられるかどうかを確かめたいと考えました。
私たちが構築したのは、単なるスキャナーや、誤検知を大量に送りつける ChatGPT ラッパーではありません。既存の AI モデルの上に推論アーキテクチャを構築し、設計された能力をはるかに超えて活用できるようにしました。このシステムは、7 層以上の相互作用するシステムをまたいで同時にロジックを追跡し、人間が探すことさえ知らない脆弱性を発見します。
主要な AI 研究所の最先端モデルにはすべて、根本的な推論の推論限界があります。複数の層にわたる複雑なロジックを保持して追跡することができません。どの研究所もこの問題を解決していませんでした。私たちは解決しました。同じモデルでも、私たちのシステムを使うと、まったく異なるレベルの出力が得られます。まるでモデルが 30% の能力で動作していて、誰もそれに気づいていなかったかのようです。
ようです。
私が関わった経緯
私は長年バグハンティングをしてきました。これまで「AI セキュリティツール」のあらゆる世代を見てきました。高レベルのスキャナーは明白な問題を指摘し、ChatGPT ラッパーは何百もの誤検知を出します。すべて時間の無駄でした。
@0xitsgreg が構築したものを見せてもらったとき、私はいつものデモを期待していました。しかし、私が見たのは、各コードベースを徹底的に深掘りし、最も obscure で発見困難なバグを掘り起こすシステムでした。
私は共同創業者兼 CEO として参加しました。
私たちが見つけた最も厳しい試練の場
私たちが暗号資産（クリプト）を選んだ理由は、ライブのプロトコルで脆弱性が悪用されると、数分で実際の資金が流出するからです。「来四半期にパッチを当てよう」では済みません。そして、最大手のプロトコルはすでに世界最高の監査会社によって 3 回、4 回、5 回と監査されています。
もし私たちのシステムが、それらが見逃したものを発見できれば、それこそが想像しうる最強の証明です。
過去数か月で、このシステムは Ethereum、Lido、Chainlink、Aave、Uniswap、Polygon などで確認済みのライブ脆弱性を発見しました。これらのプロトコルはすべて数十億ドルを保護しており、すべてトップ企業による複数回の監査済みです。発見された脆弱性はすべて、すべての人間のレビュアーが見逃していました。
25 万ドルの発見
このシステムは、私たちが「Deep Invariant Analysis（深い不変条件分析）」と呼ぶ手法を用いて、大規模で厳重に監査されたプロトコルを分析しました。コードベースを読み込み、すべてのモジュール、すべての依存関係、システム間のすべての相互作用をマッピングしました。そして、不変条件（決して破られるべきではないが、特定の条件下で破られる可能性がある不変条件（invariants）を探して、実行パスを追跡しました。
有望なスレッドを見つけると、接続されたサブエージェントを起動して並行して異なる角度から調査し、サンドボックスを立ち上げ、概念実証エクスプロイトを書き、反復して攻撃パスを洗練させ、完全に再現可能な状態にしました。
そして、私たちに通知が来ました。
私たちはその発見を開き、中程度の重大度のエッジケースを期待しました。しかし、私たちが見ていたのは、複数のシステムの相互作用における重大なロジックの重大な欠陥でした。2,770 万ドルのユーザー資金が、1 回の攻撃で直接流出するリスクにさらされていました。
私たちはそれを検証し、@HackenProof を通じて報告しました。プロトコルは確認し、即座にパッチを適用し、最大重大度の報奨金として 25 万ドルを授与しました。
これが意味すること
暗号資産（クリプト）業界では最近多くのエクスプロイトが発生しており、ほとんどの場合、プロトコル側は責任を回避しています。一方、攻撃者はますます高度化しており、ますます高度化し、AI の支援を受けるようになっており、セキュリティレビューの深さは追いついていません。
人間だけのセキュリティが到達できる上限は、長年にわたって変わっていません。今回の報奨金は、AI がその上限を突破できるようになった証拠です。そして、私たちはすでに主要な AI 研究所の 1 つから、私たちが構築したものを探るために連絡を受けています。
本日、私たちはステルスモードから脱します。私たちは @therealgregoai と名乗っています。まだ始まったばかりです。
もしあなたのプロトコルが見逃しているかもしれない脆弱性を発見したいなら、DM を送ってください。
