これは人類史における重要な岐路です。人間の脳が持つあらゆる認知能力を備えたシステム、人工汎用知能（AGI）は、おそらくあと数年で実現するでしょう。数十年後、この時代を振り返るとき、私たちは特異点の麓に立っていたのだと気づくはずです。それは人類にとっての新たな夜明けにほかなりません。
私は AGI の研究に人生を捧げてきました。それは、責任を持って構築・展開されれば、これまでに発明された中で最も有益で変革的なテクノロジーの一つになると、深く確信してきたからです。AGI は、インターネットやモバイルといった標準的な技術的ブレイクスルーとは比較になりません。むしろ、電気や火の発見に近いものです。考えてみれば、私たちは砂に思考させる方法を本質的に見つけたのです。まさに奇跡的です。
このテクノロジーの影響の大きさは前例がなく、おそらく産業革命の 10 倍の規模を 10 倍の速さで実現するでしょう。それは、創薬の加速から、新しいクリーンエネルギー源の開発、そして革新的な先端素材の創出に至るまで、社会が直面する最大の課題のいくつかを解決するのに役立ちます。資源がもはや人類の進歩の制約要因ではなくなり、驚くべき豊かさの新時代をもたらす地点にさえ到達できるかもしれません。
フロンティアの課題
AI はすでに現実世界で利益をもたらし始めていますが、その計り知れない可能性を実現するには、この重要な発展期を思慮深く慎重に乗り越えなければなりません。AGI に近づくにつれて生じる可能性のあるリスクに対処するために、緊急の行動が必要です。私たちはすでに、フロンティアモデルがサイバーセキュリティにもたらす課題を目の当たりにしており、能力がさらに進歩するにつれて、核やバイオのリスクなどの他の脅威もすぐに現れるかもしれません。将来的には、ますます自律的で自己改善を繰り返すシステムを制御するための強固な安全策が必要となり、時間の経過とともに明らかになる未知の問題にも取り組む必要があります。
私は常に、人間の創意工夫と創造性にはあらゆる問題を解決する力があると信じてきました。AI に関連する技術的リスクの軽減は、私たちが協力して取り組める課題だと確信しています。ただし、それは、この次の重要なステップを正しく踏むための時間と空間を自分たちに与えた場合に限ります。現状、分野としても、より広い社会としても、私たちはそれを実践できていません。
現在、私たちは非常に激しく、多層的な商業的・地政学的な競争の中に閉じ込められています。これらの競争力学が急速な進歩を促進し、信じられないような利点を加速させる一方で、フロンティアでの進歩は、私たちのテクノロジーに対する理解を上回っています。世界中の誰も、この先何が起こるのか確実には知らず、専門家の間でも意見は分かれています。不確実性が大きく、かくも高いリスクが伴う場合、慎重な楽観主義をもって進むことが賢明で正しい戦略です。そのためには、イノベーションを促進すると同時に責任とセキュリティを促す公共政策、主要な安全問題に関する国際協力を促進すること、そして社会の利益のために AI がどのように展開されるかを慎重に考慮することを促す政策が必要です。
フロンティア AI 基準機関の枠組み
AI における急速な進歩には、動的で適応性があり、厳格な、フロンティア AI モデルの能力をテストするための新しいアプローチが必要です。米国は、その経済的・技術的地位を考慮すると、そのような枠組みを開発するための第一歩を踏み出すのに適した立場にあります。米国は、金融取引業規制機構（FINRA）と同様に、連邦政府の監督下にある官民パートナーシップまたは自主規制機関をモデルとした新しい基準機関を設立することができます。その理事会には、独立した主要な技術専門家とオープンソースの代表者が含まれます。資金は多額である必要があり、おそらく主に業界から提供され、世界的に優れた技術人材を引きつけ、大規模なテストに必要な計算リソースを提供する必要があります。
この基準機関は、評価プロトコルを開発し、適切な連邦機関や米国国立研究所と協力して、国家安全保障に関連する分野でのテストを実施する責任を負います。モデルは、基準機関によって決定され、進化する AI 能力に合わせて定期的に更新される一連のベンチマークで特定のしきい値を満たした場合、「フロンティアクラス」として認定されます。これらのベンチマークで定義された「フロンティアモデル」を持つ組織は「フロンティアラボ」と見なされ、技術詳細を含むモデルカードの発行、強力な内部サイバーセキュリティの維持、主要な人員の審査、安全性とセキュリティ研究への十分なリソース提供など、ベストプラクティスの採用が奨励されます。
初期段階では、フロンティアラボは自主的に、リリースの最大 30 日前にモデルを基準機関と共有してレビューを受けます。評価プロトコルが有効で堅牢であることが示されれば、すぐに正式化が進み、フロンティアモデルは米国市場で展開するために評価に合格することが義務付けられる可能性があります。ラボはまた、リリース後の重要な脆弱性に対処するために基準機関と協力します。
モデル評価には、サイバーセキュリティ、生物学的脅威、その他のリスクの高い領域における能力の厳格な科学的評価が含まれるべきです。特定のエージェント AI テストでは、安全ガードレールを回避しようとする試みや欺瞞の兆候を探し、AI 生成画像へのデジタル透かしや、モデルの推論を理解するための人間が読める出力トークンの生成などのベストプラクティスを確保する可能性があります。
これらの評価は、おそらく最初は四半期ごとに定期的に更新され、時代遅れまたは飽和したベンチマークは非推奨となり、置き換えられます。最初はフロンティアラボとの協議の上で開発されますが、最終的には基準機関は、過学習を防ぐためにラボから独立した独自のホールドアウトテストを作成するための技術的能力を構築する必要があります。米国政府と協力して、評価と新しいベンチマークや評価の開発を支援するサードパーティ監査人のエコシステムを促進する可能性があります。
このアプローチの強みは、技術に焦点を当てながら、同時にイノベーションを支援し、責任ある行動を促進することです。これは、分野の加速に追いつき、特定された最大のリスクに適応するように設計されており、状況の深刻さが要求する場合には、必要に応じてフロンティアラボ間の開発の減速を調整するなど、強化することができます。フロンティアラボに指定されることは大きな名声をもたらし、ベンチマーク基準を満たすモデルを構築することで、どの組織にも開かれています。この枠組みは、原産国やオープンかクローズドかにかかわらず、フロンティアクラスのモデルに適用されますが、スタートアップや学界からの非フロンティアモデルはこのプロセスから除外されます。
この米国主導の取り組みは、フロンティア AI に関する共通の国際基準を作成するための強力な出発点となるでしょう。このテクノロジーは地球全体に影響を与えるため、理想的には、この枠組みが国際社会に、最も深刻なリスクを管理し、同時に誰もが AI がもたらす機会にアクセスして利益を得られるようにするためのコンセンサスに達することを促すでしょう。
未来はまだ書かれていない
AGI は、科学と医学を進歩させるための究極のツールとなり、莫大な生産性の向上と経済成長を促進する可能性を秘めています。しかし、これを達成するためには、共有されたグローバルな枠組みを中心に調整し、最も厳格な科学的方法を使用し、直面する課題に取り組むために最高の頭脳を結集することによって、技術的な基盤を正しく確立する必要があります。
これらの困難な技術的課題を解決したとしても、さらに複雑な経済的・哲学的な問題に取り組む必要があります。ポスト希少性の世界で誰もが繁栄するためには、どのような新しい経済モデルが必要になるのでしょうか？私たちはどのような価値観に従って生きたいのでしょうか？意味や目的は何になるのでしょうか？そして、人間の状態そのものさえもどのように変化するのでしょうか？これらの問題を解決することは、明らかにテクノロジストだけに任せることはできず、またそうすべきでもありません。社会のあらゆる部分が集まって、この新しい章を定義するのを助けることが必要です。
AI に関しては、大きな興奮と不確実性の両方があり、その両方に正当な理由があります。しかし、未来はまだ書かれていません。AGI が到来する前のこの貴重な期間を利用して、全人類の利益のためにこのテクノロジーを形作らなければなりません。私たちが今、団結して行うことが、文明の次のフェーズがどのように展開されるかを決定します。AGI を安全に世に導くことで、科学的発見と進歩の新たな黄金時代に入り、信じられないほどの人類の繁栄という明るい未来を迎えることができるのです。
