카르다셰프 문제: 초지능 벤치마킹

1965 년 4 월, 소련 통신사들은 초문명(supercivilization)의 발견을 발표했다. 그 소동은 모두 한 사람의 연구에서 비롯되었다. 바로 니콜라이 카르다쇼프(Nikolai Kardashev) 다. 그는 다음 질문에 집착했던 소련의 천문학자였다. 만약 우리보다 훨씬 앞선 문명을 실제로 감지한다면, 그에 대해 엄밀한 무언가를 말할 수 있을까?

그는 이 질문에 대한 해답으로 유명해졌다. 평가하기 매우 복잡하고 어려운 지능, 의도성, 행동에 집중하는 대신, 그는 문명이 에너지를 어떻게 사용하는지에 관한 이론을 만들었다. 그의 주장대로 열역학은 지능에 무관심하다.

결국 그것은 모두 퀘이사(quasar)로 밝혀졌다. 측정 자체는 정확했지만, 그 측정값 뒤에 외계인은 없었다.

초지능 시대의 벤치마킹

61 년이 지난 지금, 우리는 기묘할 정도로 비슷한 소동을 겪고 있다. 인류 역사상 가장 똑똑한 사람을 곧 뛰어넘을 지능을 만들어내기 직전에 서 있는 것처럼 보인다. 그런데도 그들에 대해 의미 있는 무언가를 말할 수 있다는 것은 매우 중요하다. 즉, 우리는 그들을 벤치마킹해야 한다.

이유는 간단하다. 자원 배분 때문이다. 그들의 지능이 아무리 뛰어나더라도, 우리는 여전히 우리의 시간과 돈에 대한 최고의 대가를 원할 것이다. 체스에서 심층 분석을 할 때 2026 년형 모델이 더 나은데 굳이 Stockfish 13 을 쓰는 사람은 없다.

그렇다면 왜 현재의 벤치마크를 그대로 쓸 수 없는 걸까?

가장 당면한 문제는 포화(saturation)다. 고정된 테스트는 모든 모델이 100 점을 받는 순간 쓸모없어지며, 이는 이미 일어나고 있다. 3 년 전만 해도 어렵다고 여겨졌던 벤치마크를 이제는 저렴한 모델들이 거뜬히 통과한다. 더 어려운 테스트를 계속 만들 수는 있지만, 인간이 만들 수 있는 가장 어려운 테스트까지만 가능하다. 여기서 진짜 문제가 드러난다.

지금까지 우리는 주로 폐쇄형 테스트(closed tests) 로 지능을 측정해 왔다. "폐쇄형"이라 함은 테스트가 시작되기도 전에 우리가 정답(점수)을 알고 있는 테스트(IQ 테스트, 수학 시험, 프로그래밍 등)를 뜻한다. 우리가 이런 종류의 테스트를 사용하는 데에는 명백한 이유가 있다. 1. 객관적이다. 2. 비교적 빠르게 평가할 수 있다. 3. 관성: 평소 인간을 평가하던 방식이기 때문이다.

하지만 이 테스트를 더 똑똑한 AI 에게 적용하려 생각하면 문제는 금방 명확해진다. 이 시험들은 우월한 지능이 열등한 지능을 평가하도록 설계되었기 때문이다. 즉, 교사와 학생의 관계다. 이것이 바로 우리가 새로운 유형의 평가를 고민하고 설계하기 시작해야 하는 이유다. 열등한 지능인 우리(학생)가 객관성을 보장하면서도 초지능(SI, 교사)을 평가해야 하는 상황에 놓이게 될 것이다.

열등한 지능이 우월한 지능을 어떻게 엄밀하게 평가할 수 있는가라는 이 문제를 나는 '카르다쇼프 문제(Kardashev problem)'라고 부르며, 개인적으로 가장 열정을 쏟고 있는 주제다(내가 Kardashevian.com을 만들기로 결심한 이유이기도 하다).

미래의 초지능 벤치마크

우리에겐 하나의 구원 원칙이 있다. 후보 답안을 검증하는 것이 답을 찾는 것보다 압도적으로 쉽다는 점이다. 스도쿠를 푸는 데는 노력이 들지만, 채워진 격자를 확인하는 데는 30 초면 충분하다. 대부분의 경우 외부 검증기는 이러한 고도로 발전한 시스템의 품질과 지능을 최대한 객관적으로 평가하는 데 도움을 줄 것이다.

벤치마킹의 미래를 위해 내가 생각하는 4 가지 외부 검증 시스템은 다음과 같다.

세계가 검증자다. 개방형 퀘스트: 질문과 답변이 아닌 목표(objective)다. 세계가 목표를 채점한다. 더 높거나 더 최적화될수록 좋다.

-예시: 주식 시장에서의 가치 투자 모의 거래(paper trading).

이 시나리오에서 현실 세계의 복잡성은 너무나 방대하고 역동적(끊임없이 변화하고 반응함)이어서, 이 과제가 포화 상태에 도달하는 것은 사실상 불가능하다. 나는 가치 투자가 왜 훌륭한 지능 테스트라고 생각하는지에 대해 나중에 다른 글을 쓸 계획이다. 핵심은 인간과 시장을 포함한 세계가 어떻게 행동할지 신뢰성 있게 예측할 수 있는 시스템이야말로 지능의 가장 명확한 징표 중 하나라는 가정에 있다.

2. 규칙과 게임이 검증자다. 경쟁. 체스는 다시 한번, 인간보다 뛰어난 플레이어가 존재함에도 불구하고 우리가 모델 X 가 모델 Z 보다 낫다는 것을 여전히 알 수 있음을 보여준다. Kardashevian.com에서도 사용하는 ELO 시스템은 단순히 승자를 가려내는 것을 넘어, 통계적으로 유의미한 점수표를 유지할 수 있게 해준다.

-예시: 체스, 바둑, 또는 오직 이 목적만을 위해 만들어질 수 있는 무한히 복잡한 게임.

물리학과 화학이 검증자다. 복합 공학. 테스트를 물리학과 화학으로 제한하고, 자연이 채점하게 둔다. **

-예시: 특정 특성을 가진 재료를 설계한 뒤, 자동화된 실험실에서 합성하여 테스트한다.

4. 논리가 검증자다. 형식 증명(Formal Proof). 컴퓨터가 검증할 수 있는 언어로 작성된 수학.

-예시: 알려진 경계(bound)를 개선하거나 Lean 에서 미해결 추측을 증명하는 것.

위험 요소는 다음과 같다. 알려진 경계의 한계와 제기된 추측들은 결국 인간의 산물이다. 그럼에도 포화시키기는 여전히 매우 어렵다.

KARDASHEVIAN.COM

우리가 하고 있는 일:

Kardashevian 은 위 네 가지 아이디어를 모두 구현한 첫 번째 시도이며, 내 여가 시간과 적은 예산으로 제작했다 :)

모든 아레나는 동일한 방식으로 작동한다. 입력값은 고정되고, 모델들은 결과물을 제출하며, 이후 모델이 보거나 영향을 미칠 수 없는 무언가가 채점을 수행한다. 어떤 테스트에도 정해진 "정답"은 없다.

예상대로, 시장 가치 투자는 개방형 퀘스트다. 글에서 언급한 것의 축소판 버전으로, 모델들은 미국 주식, ETF, 암호화폐 페어 300 개 묶음의 거래 데이터를 받는다. 목표는 15 개의 롱 온리(long-only) 포트폴리오를 만드는 것이다. 1 개월에서 2 년까지의 5 개 기간과 3 가지 위험 수준을 조합하고, 각각에 수익률 예측치를 부여한다. 그런 다음 매일 모든 포트폴리오를 S&P 500 과 비교해 추적한다. 다시 말하지만, 시장이 채점을 한다. 지금까지 (평균적으로) 손실을 본 모델은 없으며, 약 1 개월이 지난 시점에서 5 개 중 3 개가 S&P 500 을 이기고 있다. 물론 이에 대한 통계적 유의성은 아직 제한적이다.

샌드박스(Sandbox)는 우리가 만든 경쟁 아레나다. 각 모델은 숨겨진 물리 법칙(모터 불균형, 명령 지연, 센서 노이즈, 바람, 얼음)이 적용된 시뮬레이션 세계에서 탐사차(rover) 컨트롤러를 작성하고, 주행 결과를 지켜본 뒤 총 8 번의 재시도를 거친다. 이후 가장 좋은 컨트롤러를 모델이 한 번도 본 적 없는 10 개 코스에서 평가한다. 그 세계에 완벽한 컨트롤러가 무엇인지 아는 사람은 없지만, 어느 모델의 컨트롤러가 더 나은지, 그리고 각 모델이 얼마나 빨리 학습했는지 정확히 파악할 수 있다.

두 아레나 모두 체스에서 사용하는 것과 동일한 통계로 모델들을 서로 평가한다. 모든 쌍이 각 셀에서 매치를 치르고, Elo 스케일에 기반한 Bradley-Terry 적합(fit)을 통해 결과가 95% 신뢰 구간을 가진 평점으로 변환된다. S&P 500 은 1,500 점으로 고정된 플레이어다. 인덱스 펀드를 이기지 못하는 모델은 그에 걸맞은 평점을 받게 된다.

현재 우리가 직면한 두 가지 매우 명확한 한계는 다음과 같다.

첫째, 자체 자금으로 운영되기 때문에 각 최전선(frontier) 연구소의 저비용 모델(GPT-6 Luna, Claude Haiku 5.5, DeepSeek Flash, MiMo)을 사용하며 플래그십 모델은 쓰지 못한다. 중요한 것은 방법론이다. 플래그십 모델은 예산이 확보되면 투입될 것이다.