초지능이 도래했습니다. 아마 눈치채지 못하셨을 겁니다. 그게 점진적임이 드러났기 때문입니다.
믿기지 않으신다면, 테스트를 해보세요. Fable 5 와 한 시간 동안 대화해보고, 가장 똑똑한 친구 열 명과 대화해보세요. 누가 더 똑똑한가요? 걱정 마세요, 그들은 기분 나쁘지 않을 겁니다.
우리는 더 큰 무언가를 기대하라는 말을 들었습니다. 일단 기계가 어떤 선을 넘으면, 시스템의 IQ 는 우리가 따라잡을 수 없을 정도로 높아져서, 워프 드라이브를 설계하고 우리의 생각이 개의 생각보다 훨씬 뛰어난 것처럼 우리를 훨씬 능가하는 생각을 하는 존재와 지구를 공유하게 될 것이라고 했습니다.
하지만 우리가 얻은 것은 뛰어난 코드를 작성하고, 놀라운 범위의 작업에서 사람을 능가하며, 분명히 경제를 재편할 도구입니다. 그런데도 어쩐지 점진적입니다. 이륙도 없고, 폭발도 없습니다. 그게 이상한 부분입니다.
저는 우리가 지능을 과대평가했거나, 지능이 무엇인지 잘못 이해했다고 생각합니다.
이렇게 정의해보겠습니다. 우리는 세상에 대한 얇게 흩어진 사실들을 가지고 있고, 지능 또는 추론은 그 사실들 사이의 공간을 채우는 것입니다. 이미 알고 있는 것들 사이를 외삽하는 것이고, LLM 은 그걸 엄청나게 잘합니다. 우리의 말을 연구함으로써, 그들은 우리 생각의 구조를 배웠습니다. 우리는 곧 그것을 무제한으로, IQ 200 수준으로, 거의 공짜로 얻을 수 있을 것입니다.
사실들 사이의 공간이 잘 작동하는 경우, 이는 거의 신과 같습니다. 부동산법은 어렵지 않습니다. 우리가 만든 것이고, 내부적으로 일관되며, 모든 법령과 판례를 보유한 모델은 어떤 변호사도 공짜로 이길 수 있을 것입니다. 코딩, 수학, 대부분의 행정 업무도 비슷하게 순합니다. 이것들이 쉬운 이유는 해결 공간이 비교적 매끄럽고 다루기 쉽게 검증 가능하기 때문입니다.
중요한 것의 대부분은 그렇게 작동하지 않습니다. 우주는 대부분 복잡한 시스템의 창발적 행동입니다. 커피에 크림을 저어보세요. 대기 온도 차이와 수증기만으로 폭풍이 만들어지는 것을 지켜보세요. 국소 규칙은 단순하지만 토네이도는 그렇지 않습니다. 이런 시스템에서는 아무리 추론해도 답이 나오지 않습니다. 왜냐하면 간격에 숨은 지름길이 없기 때문입니다. 실제로 돌려봐야 합니다. 그리고 돌리는 것 자체에도 한계가 있는데, 작은 오차가 누적되기 때문입니다. 그래서 어떤 슈퍼컴퓨터도 깔끔한 2 주 예보를 줄 수 없는 것입니다. 우주를 완벽하게 시뮬레이션할 수 있는 가장 작은 대상은 우주 그 자체입니다. 인간 시스템도 비슷하게 복잡합니다. 우리는 우리 자신의 행동조차 믿을 만하게 예측할 수 없으며, 시간이 지남에 따라 행동하는 대규모 집단의 창발적 속성은 말할 것도 없습니다.
그것이 폭발이 일어나지 않은 이유라고 생각합니다. 이륙 이야기는 한계가 사고라고 가정했습니다. 하지만 그렇지 않습니다. 한계는 현실과의 접촉입니다. 더 똑똑한 추론자는 단순한 영역에서 알려진 사실 사이의 간격을 더 빠르고 더 잘 채우지만, 새로운 사실을 만들어내지는 않습니다.
AI 는 제트 터빈 블레이드에 대한 진정으로 영리한 디자인을 건네줄 것입니다. 엔지니어들이 생각해낸 어떤 것보다 훨씬 더 잘 작동할 가능성이 높습니다. 그래도 아마 실패할 것입니다. 왜냐하면 그것이 누구나 아는 지식의 경계에서의 기본 확률이기 때문입니다. 알아내는 유일한 방법은 블레이드를 만들어서 부러뜨려 보는 것입니다.
그것이 학습의 진정한 한계이며, 당신이 얼마나 똑똑한지는 중요하지 않습니다. 아이디어를 떠올리는 것은 결코 어려운 부분이 아니었습니다. 어려운 부분은 현실이 그 아이디어에 얼마나 빨리 답하는가입니다.
이것들 중 어느 것도 여러분을 걱정하게 해서는 안 됩니다. 사람이 책상에서 생각만으로 해결할 수 있는 일은 이제 컴퓨터가 공짜로 해결해 줄 것입니다. 그건 많고, 이 도구들은 우리의 생활 수준을 크게 향상시킬 것입니다. 하지만 대부분의 문제는 책상에서 생각만으로 해결할 수 없습니다. 그런 문제들은 우리가 얼마나 빨리 물건을 만들고 그것이 견디는지 확인할 수 있는 속도에 묶여 있으며, 그 시계는 거의 움직이지 않습니다.
분명히 말하자면, 저는 매우 낙관적입니다! IQ 200 의 추론을 즉시 사용할 수 있다는 것은 기계화된 힘이 그러했듯 신의 선물일 것입니다. 정신의 노동이 근육의 노동만큼 가치 있다면, 그 변화는 산업 혁명 수준이 될 수 있습니다. 제 손자들은 제 가난에 놀라워할 것입니다. 마치 제가 증조부모님의 가난에 놀라워하는 것처럼. 하지만 우리는 워프 드라이브와 내 개가 내 생각을 이해하는 방식으로 우리가 이해할 수 있는 생각을 가진 이상한 '이륙'을 보지 않을 것입니다. 미래는 밝습니다. 그리고 이해할 수 있습니다.
