超知能が到来した。おそらくあなたは気づかなかっただろう。なぜなら、それはどうやら漸進的なものだったからだ。
信じない？試してみてほしい。 Fable 5 と 1 時間話し、その後で最も賢い友人 10 人と話してみるといい。どちらが賢い？心配しなくていい、彼らは気分を害したりしない。
私たちはもっと大きなものを期待するように言われてきた。機械があるラインを超えれば、システムの IQ は私たちの追随を許さない高みに達し、ワープドライブを設計し、私たちの思考が犬の思考をはるかに超えているように、私たちを超越した思考をする何かと地球を共有することになると。
実際に得られたのは、優れたコードを書き、驚くべき範囲のタスクで人間に勝り、明らかに経済を再形成するツールだ。それでいて、なぜか漸進的でもある。離陸（テイクオフ）も爆発もない。それが奇妙な点だ。
私は、私たちが知性を過大評価していたか、その本質を誤解していたと思う。
私の定義はこうだ。私たちは世界に関するわずかな事実の散らばりを持っており、知性や推論とは、その間の空間を埋めるものだ。すでに知っている事柄の間を外挿する。そして LLM はそれが驚くほど得意だ。人間の言葉を研究することで、人間の思考の構造を学習した。やがて私たちはそれを、IQ 200 で、ほぼ無料で、無制限に手に入れることになる。
事実の間の空間が素直に振る舞う領域では、これは神に近い力だ。不動産法は難しくない。人間が作ったもので、内部的に一貫しており、すべての法令と判決を保持しているモデルは、どんな弁護士にも無料で勝てるはずだ。コーディング、数学、そしてほとんどの管理業務も同様に扱いやすい。それらが簡単なのは、解の空間が比較的滑らかで、検証が容易だからだ。
しかし、重要なことのほとんどはそうではない。宇宙は主に複雑系の創発的な振る舞いから成り立っている。コーヒーにクリームを入れて混ぜる。大気の温度差と水蒸気だけから嵐が発生するのを観察する。局所的なルールは単純だが、竜巻はそうではない。このようなシステムでは、どんなに推論しても答えは得られない。なぜなら、ギャップの中に近道が隠れていないからだ。実際にシステムを動かすしかない。そして、それを動かすこと自体にも限界がある。小さな誤差が積み重なるからだ。だからこそ、どんなスーパーコンピューターでも、2 週間先のきれいな予報を出せない。宇宙を完全にシミュレートできる最小の物体は、宇宙そのものだ。人間社会のシステムも同様に複雑だ。私たちは自分の行動さえ確実に予測できない。ましてや、時間をかけて行動する大集団の創発的な特性などなおさらだ。
それこそが、爆発が起こらなかった理由だろう。離陸（テイクオフ）の話は、限界が思考にあると仮定していた。違う。限界は現実との接触にある。より賢い推論者は、既知の事実の間のギャップを単純な領域でより速く、より良く埋めるが、新しい事実を生み出すわけではない。
AI は、ジェットタービンブレードの真に独創的な設計をあなたに差し出すだろう。それは、あなたのエンジニアが考え出したものよりもはるかに機能する可能性が高い。それでもおそらく失敗する。なぜなら、それが誰も知らない限界に近い領域でのベースレートだからだ。確かめる唯一の方法は、ブレードを実際に作って、壊そうと試みることだ。
それが学習における本当の限界であり、それがあなたの賢さに関係はない。アイデアを思いつくことは決して難しい部分ではなかった。難しいのは、現実がそのアイデアにどれだけ速く答えるかということだ。
これらはあなたを心配させるべきではない。人間が机に向かって考えて解けることは何でも、コンピューターは無料で解いてくれるようになる。それは大きなことであり、これらのツールは私たちの生活水準を大幅に向上させるだろう。しかし、ほとんどの問題は机に向かって考えても解けない。それらは、私たちがどれだけ速く物を作り、それが持つかどうかを確認できるかという速度に縛られたままだ。そして、その時計はほとんど動かない。
はっきり言って、私は非常に楽観的だ！ IQ 200 の推論をいつでも使えるようになることは、機械化された力がそうであったように、天の恵みだろう。精神の労働が筋肉の労働と同じくらい価値があるなら、その変化は産業革命に匹敵するかもしれない。私の孫たちは、私が曽祖父母の貧しさに驚くように、私の貧しさに驚くだろう。しかし、ワープドライブや、私たちが理解できない思考（私の犬が私の考えを理解できないのと同じように）を伴う奇妙な「離陸（テイクオフ）」を見ることはないだろう。未来は明るい。そして理解可能だ。
