超级智能来了。你可能没注意到，因为它实际上是渐进式出现的。
不信？做个测试。跟 Fable 5 聊一个小时，再跟你十个最聪明的朋友聊一聊。哪个更聪明？别担心，他们不会生气的。
我们被告知要期待更壮观的事情。一旦机器跨过某条线，系统的智商就会攀升到我们无法企及的高度，我们将会和某种能设计曲速引擎、思维远超我们（就像我的思维远超我的狗一样）的东西共享这颗星球。
但我们得到的，是一个能写出优秀代码、在大量任务上击败人类、并显然会重塑经济的工具。然而，它也是渐进式的。没有爆发。没有爆炸。这就是奇怪的地方。
我认为我们高估了智能，或者误解了它是什么。
我会这样定义它：我们掌握着关于世界的一小撮零星事实，而智能或推理就是填充这些事实之间空白的东西。它在我们已知事物之间进行外推，而大语言模型（LLM）在这方面非常出色。通过研究我们的文字，它们学会了我们思维的架构。我们很快就能以近乎零的成本，获得无限的、IQ 200 的推理能力。
在事实之间的空白处表现良好的领域，这近乎神一般的存在。房地产法并不难。它是我们创造的，内部逻辑一致，一个掌握所有法规和判例的模型应该能免费击败任何律师。编码、数学和大多数行政工作也同样温和。它们之所以简单，是因为它们的解空间相对平滑，且容易验证。
但大多数重要的事情并非如此。宇宙主要是复杂系统的涌现行为。把奶油搅进咖啡里。看着一场风暴仅由大气温差和水蒸气凭空形成。局部规则很简单，但龙卷风并不简单。在这样的系统中，再多的推理也无法给出答案，因为间隙中没有隐藏的捷径。你必须运行整个系统。而运行它也有自身的上限，因为小误差会累积，这就是为什么没有超级计算机能给你一个精确的两周天气预报。能完美模拟宇宙的最小物体就是宇宙本身。人类系统也同样复杂。我们甚至无法可靠地预测自己的行为，更不用说大量人群随时间推移所产生的涌现特性了。
我想，这就是为什么爆发从未发生的原因。那种"起飞"的故事假设了限制在于思考。但并非如此。限制在于与现实的接触。一个更聪明的推理者能在简单领域更快更好地填补已知事实之间的空白，但它并不能产生新的事实。
AI 会给你一个喷气涡轮叶片真正巧妙的设计。它很可能比你工程师想出的任何方案都更有可能成功。但它仍然可能会失败，因为这是在人类知识前沿的基础概率。唯一的方法就是把叶片造出来，然后试着把它弄坏。
这才是学习的真正限制，它不在乎你有多聪明。想出新点子从来都不是难事。难的是现实验证它们的速度。
这些都不应该让你担心。任何一个人坐在桌子前思考就能解决的问题，现在计算机都能免费解决了。这很多，这些工具将大大提升我们的生活水平。但大多数问题无法通过坐着思考来解决。那些问题仍然受限于我们建造实物并验证它是否有效的速度，而这个时钟几乎不走。
需要说明的是，我非常乐观！随手可得的 200 IQ 推理能力将是天赐之物，就像机械化力量一样。如果脑力劳动和体力劳动一样有价值，那么这种变化可能会达到工业革命的规模。我的孙辈会惊叹于我的贫穷，就像我惊叹于我曾祖父母的贫穷一样。但我们不会看到某种奇怪的"起飞"，伴随着曲速引擎和我们能理解的思想（就像我的狗能理解我的思想一样）。未来是光明的。而且是可以理解的。
