スケールされた LLM（GPT-6）が AGI ではない理由：
スケールの幻想と汎用知能の現実
テクノロジー業界の支配的な物語は、汎用人工知能（AGI）が主にスケールのエンジニアリング課題であると示唆しています。つまり、より多くの計算リソース、より大規模なデータセット、より長いコンテキストウィンドウ、そして大規模な強化学習クラスターです。OpenAI の CEO である Sam Altman や NVIDIA の CEO である Jensen Huang などの著名人は、現在のフロンティアの軌道（仮想的な「GPT-6」まで）を、人類が人間レベルの主体性のすぐ目前に立っているものとして繰り返し位置づけています。しかし、スケールされた自己回帰型トランスフォーマーを AGI として扱うことは、高次元の統計的検索と真の汎用知能を混同しています。アーキテクチャ、数学、経済学の観点からの批判により、次トークン予測器が構造的なスケーリング限界に直面する理由、現在のベンチマークが欠陥がある理由、そして真の汎用知能が実際に何を必要とするかが明らかになります。
1. AGI の定義：運用ベースライン
自己回帰が AGI をもたらすのに失敗する理由を評価するには、まず厳格で非マーケティング的なベースラインを確立する必要があります。基礎的な論文『知能の測定について』において、AI 研究者の François Chollet は知能を静的なスキルの百科事典としてではなく、サンプル効率的な学習能力として形式化しています：
汎用人工知能（AGI） とは、不確実性の下で未遭遇の問題を解決するために、新しいコンピテンシーを獲得、統合、適用できる自律システムであり、サンプル学習、継続的適応、因果推論、目標策定において、手動介入やタスク固有の事前学習なしに人間の効率に匹敵またはそれを上回るものです。AGI は、すべての人間の知識を重み行列に圧縮したものではなく、既存の知識が失敗したときに世界のまったく新しいモデルを生成できるメタ学習エンジンです。
2. 自己回帰型トランスフォーマーのアーキテクチャ上のボトルネック
たとえ将来のフロンティアモデルがマルチモーダル入力で $10^{27}$ FLOPs でトレーニングされたとしても、トランスフォーマーアーキテクチャの基本的なメカニズムに縛られ続けます：
1[ 入力トークン ] ──> [ 静的マトリックス乗算（凍結重み）] ──> [ 次トークン確率分布 ]2 │3 └──（実行時可塑性なし / 動的世界モデルなし）
A. 自律的・継続的学習の欠如
- 静的推論時の重み： 標準的な LLM はトレーニングと推論の間に厳格な構造的境界を維持します。バックプロパゲーションが終了すると、モデルの重みは凍結されたままになります。実行中、LLM は自身の内部パラメータをリアルタイムで変更できません。
- 破滅的忘却： 新しいタスクでニューラルネットワークの重みを更新すると、以前に獲得した能力が低下します。
- コンテキストウィンドウ ≠ メモリ： コンテキストウィンドウを拡張したり、検索拡張生成（RAG）を追加したりしても、一時的なスクラッチパッドが提供されるだけで、統合されたエピソード記憶や意味記憶は提供されません。実行中に誤った信念を独立して刈り込み、新しい公理を同化できないシステムは、動的学習者ではなく、情報検索システムとして機能します。
B. 統計的相関 vs. 因果推論
- 次トークンホライゾン： トランスフォーマーは $P(\text{Token}_n \mid \text{Tokens}_{1 \dots n-1})$ を最適化します。チューリング賞受賞者の Judea Pearl が『因果推論の7つのツール』で概説しているように、連想モデルは因果階層（関連付け／「見ること」）の最下位の段を占めています。
- 介入のボトルネック： 真の汎用知能は、介入（「X をするとどうなるか？」）と反事実（「もし違う行動をとっていたらどうなっていたか？」）のレベルでの推論を必要とします。LLM はこれらのメカニズムをトークンパターンを通じて近似しますが、明示的な因果的世界モデルがないため、トレーニング分布の外側で推論を強いられると脆弱なままです。
3. 批判的分析：リーダーシップの物語 vs. アーキテクチャの現実
AGI のタイムラインに関する公開声明は、それらを行う企業の構造的インセンティブとともに客観的に分析する必要があります。
Jensen Huang（NVIDIA）：ハードウェア拡大のインセンティブ
枠組み： Huang は AGI が5年以内に到来すると繰り返し述べており、具体的には AI が法律、医療、技術分野の人間の専門家テストで上位パーセンタイルを獲得できる時点と定義しています。
視点： AGI を主に標準化された試験のパフォーマンスで定義することは、静的知識の検索とパターンマッチングを評価します。これは、自己回帰モデルがインターネット規模の記憶化によって優れているタスクです。アーキテクチャの観点からは、司法試験や医師国家試験に合格することは、分布外推論や自律的適応性を示すものではありません。試験合格を AGI と位置づけることは、エンタープライズ GPU クラスターへの継続的な設備投資を促進し、ハードウェア販売目標に直接沿ったものとなります。
Sam Altman（OpenAI）：資本と評価のインセンティブ
枠組み： Altman は AGI に向けた積極的なタイムラインを頻繁に参照し、エージェントシステムから完全な認知的自律性への急速な移行を予測して、数兆ドル規模のチップおよびデータセンター構想などの大規模インフラ投資を正当化しています。
インセンティブ問題：誤解を招く業界レトリック
テクノロジー企業幹部の公開声明を理解するには、彼らの構造的インセンティブを分析する必要があります：
1┌───────────────────────────────┐ ┌───────────────────────────────┐2│ Jensen Huang（NVIDIA） │ │ Sam Altman（OpenAI） │3├───────────────────────────────┤ ├───────────────────────────────┤4│ インセンティブ：H100/B200 を売る │ │ インセンティブ：数十億ドルの │5│ 戦略：AGI を標準化試験合格と │ │ 資金調達ラウンドと Stargate │6│ 再定義し、5年以内と主張。 │ │ 戦略：「差し迫った神のような │7│ │ │ AGI」と「単なる便利なツール」 │8│ │ │ の間で揺れ動く。 │9└───────────────────────────────┘ └───────────────────────────────┘
視点： OpenAI の運用焦点は、計算実行のための巨額の資本準備金を確保することに依存しています。差し迫った AGI の物語を促進することは、高いベンチャー評価を維持し、戦略的な政府支援を確保します。しかし、定義を変動させ、新リリースを技術的飛躍として位置づけたり、規制議論中に AGI の主張を撤回したりすることは、市場メッセージと技術的能力の間の緊張を浮き彫りにします。推論時計算スケーリングなどの技術は、構造化された問題空間全体の検索を改善しますが、重み凍結、リアルタイム適応、または真の認識論的自律性を解決しません。
4. ベンチマークの誤謬：現在の指標が誤解を招く理由
フロンティアモデルが AGI に近づいているという認識は、主にベンチマークの飽和に起因しています。現在の評価方法論は、3つの構造的な欠陥に悩まされています：
- データ汚染とベンチマーク飽和： MMLU や GSM8K などの人気評価スイートは、ウェブ規模の事前トレーニングデータセットに頻繁に漏れ出します。高いスコアは、分布外推論ではなく、高次元のパターン想起を反映していることがよくあります。
- AI 最適化におけるグッドハートの法則： フロンティア AI モデルの評価に関する研究が示すように、「指標が目標になると、それは良い指標でなくなる」。ポストトレーニング技術（RLHF、DPO、合成データ生成）は、標準的な公開評価に合格するようにモデルを積極的に最適化します。
- 抽象化と推論コーパス（ARC-AGI）： 記憶化に抵抗するように特別に設計された新しい視覚的抽象論理パズルでモデルを評価すること（ARC-AGI ベンチマークなど）は、スケールされた検索とテスト時計算がスコアを押し上げることができる一方で、ブルートフォースの統計的検索が同一の抽象化問題を解決するために、人間のサンプル効率よりも数桁多くの計算を必要とすることを明らかにしています。
5. 真の AGI のためのアーキテクチャ要件
高次元の統計的パターンマッチングと真の AGI の間のギャップを埋めるには、純粋な自己回帰からの根本的なアーキテクチャシフトが必要です：
コア要件 | トランスフォーマーモデル（GPT-4/6）の限界 | 真の AGI のためのアーキテクチャ要件 |
|---|---|---|
継続的シナプス可塑性 | 凍結されたモデル重み；勾配更新による破滅的忘却。 | 実行中の継続的でリアルタイムなパラメータとメモリの適応。 |
因果的世界モデル | 1次元トークンレベルの連想確率マッピング。 | 運用メカニズムと論理に基づく多次元因果エンジン。 |
サンプル効率 | 基本的なタスクを学習するために数兆トークン／インターネット規模のデータが必要。 | 一桁のデモンストレーションから複雑な公理を抽象化（メタ学習）。 |
認識論的自己較正 | 自信に満ちた幻覚；真実の境界を独立して検証できない。 | 内在的な自己検証と確実性／無知の明示的追跡。 |
耐久性のある知識グラフ統合 | 一時的なコンテキストウィンドウと外部ベクトル検索（RAG）。 | 状態の事実を継続的に蒸留、検証、記憶、刈り込む統合知識グラフ。 |
結論
計算リソース、パラメータ数、事前トレーニングデータをスケーリングすることで、例外的なツール、非常に有能なコーディングアシスタント、流暢な自然言語インターフェースが生まれます。しかし、統計的予測をスケーリングしても、自律的推論、動的学習、または真の主体性が自発的に生成されるわけではありません。
将来の GPT-6 は、人間のテキスト全体でより速く、より大きく、より明瞭になるかもしれませんが、継続的可塑性、因果的基盤、動的自己検証がなければ、それは高度な相関エンジンに過ぎず、AGI ではありません。
Seedthink による要約
