이것은 인류 역사에 있어 중대한 전환점입니다. 인간의 모든 인지 능력을 갖춘 시스템인 인공 일반 지능(AGI)은 아마도 몇 년 안에 현실화될 것입니다. 수십 년 후에 이 시기를 돌아보면, 우리는 특이점의 기슭에 서 있었다는 것을 깨닫게 될 것입니다. 이는 인류를 위한 새로운 시대의 시작에 다름 아닙니다.
저는 평생을 AGI 연구에 바쳐왔습니다. 책임감 있게 구축되고 배포된다면, AGI는 지금까지 발명된 기술 중 가장 유익하고 혁신적인 기술 중 하나가 될 것이라는 확신이 있었기 때문입니다. AGI는 일반적인 기술 혁신과 비교할 수 없습니다. 인터넷이나 모바일처럼 중요한 기술조차도 마찬가지입니다. 오히려 전기나 불의 발견에 더 가깝습니다. 생각해 보면, 우리는 본질적으로 모래에게 생각하는 법을 가르친 셈입니다. 이는 기적에 가깝습니다.
이 기술의 영향력은 전례 없는 규모가 될 것입니다. 아마도 산업 혁명의 10배에 달하는 영향력을 10배의 속도로 발휘할 것입니다. AGI는 약물 발견 가속화, 새로운 청정 에너지원 개발, 혁신적인 첨단 소재 창출 등 사회가 직면한 가장 큰 문제들을 해결하는 데 도움을 줄 것입니다. 나아가 자원이 더 이상 인간 발전의 제약 요소가 되지 않는 지점에 도달하여, 놀라운 풍요의 시대를 열 수도 있습니다.
프론티어의 도전 과제
AI는 이미 현실 세계에서 실질적인 이점을 제공하기 시작했지만, 그 엄청난 잠재력을 실현하려면 이 중요한 개발 시기를 신중하고 세심하게 헤쳐 나가야 합니다. AGI에 가까워질수록 발생할 수 있는 위험을 해결하기 위해 시급한 조치가 필요합니다. 우리는 이미 프론티어 모델이 사이버 보안에 제기하는 도전 과제를 목격했으며, 핵 및 생물학적 위험을 포함한 다른 위협도 능력이 계속 발전함에 따라 곧 등장할 수 있습니다. 앞으로는 점점 더 자율적이고 재귀적으로 자기 개선하는 시스템을 제어하기 위한 강력한 안전 장치가 필요할 것이며, 시간이 지남에 따라 더 명확해질 알려지지 않은 문제들도 해결해야 합니다.
저는 인간의 독창성과 창의성이 어떤 문제든 해결할 수 있다는 힘을 항상 믿어 왔습니다. AI와 관련된 기술적 위험을 완화하는 것은 우리가 함께 해결할 수 있는 과제라고 확신합니다. 단, 이 중요한 다음 단계를 올바르게 수행할 시간과 여유를 스스로에게 주어야만 가능합니다. 현재, 학계와 더 넓은 사회 전반에서 우리는 그렇게 하고 있지 않습니다.
현재 우리는 극도로 치열하고 다층적인 상업적, 지정학적 경쟁 속에 갇혀 있습니다. 이러한 경쟁 역학이 빠른 발전을 촉진하고 엄청난 긍정적 효과를 가속화하는 반면, 프론티어의 발전은 우리의 기술 이해 속도를 앞지르고 있습니다. 세계에서 앞으로 무슨 일이 일어날지 확실히 아는 사람은 아무도 없으며, 전문가들 사이에서도 의견이 갈립니다. 불확실성이 크고 그만큼 중요성이 높을 때는 신중한 낙관주의로 접근하는 것이 현명하고 올바른 전략입니다. 이를 위해서는 혁신을 촉진하면서도 책임과 보안에 인센티브를 제공하고, 주요 안전 문제에 대한 국제 협력을 촉진하며, AI가 사회의 이익을 위해 어떻게 배포될지 신중하게 고려하도록 장려하는 공공 정책이 필요합니다.
프론티어 AI 표준 기관을 위한 프레임워크
AI에서 목격되는 급속한 발전은 프론티어 AI 모델의 역량을 테스트하는 역동적이고 적응력 있으며 엄격한 새로운 접근 방식을 요구합니다. 미국은 경제적, 기술적 입지를 고려할 때 이러한 프레임워크를 개발하는 첫 걸음을 내디딜 좋은 위치에 있습니다. 미국은 연방 감독 하의 민관 협력체 또는 자율 규제 기관을 모델로 한 새로운 표준 기관을 설립할 수 있습니다. 이는 금융산업규제청(FINRA)과 유사하며, 독립적인 선도 기술 전문가와 오픈소스 대표를 포함한 이사회를 둡니다. 자금은 상당히 필요하며, 세계적 수준의 기술 인재를 유치하고 대규모 테스트에 필요한 컴퓨팅 리소스를 제공하기 위해 대부분 업계에서 조달될 가능성이 높습니다.
표준 기관은 평가 프로토콜을 개발하고, 적절한 연방 기관 및 미국 국립 연구소와 협력하여 국가 안보와 관련된 분야에서 테스트를 수행하는 책임을 맡습니다. 표준 기관이 결정하고 발전하는 AI 역량에 맞춰 정기적으로 업데이트되는 일련의 벤치마크에서 특정 임계값을 충족하는 모델은 '프론티어급'으로 분류됩니다. 이러한 벤치마크에 의해 정의된 '프론티어 모델'을 보유한 조직은 '프론티어 연구소'로 지정되며, 기술 세부 정보가 포함된 모델 카드 게시, 강력한 내부 사이버 보안 유지, 핵심 인력 검증, 안전 및 보안 연구에 충분한 자원 제공 등 모범 사례를 채택하도록 장려받습니다.
초기에는 프론티어 연구소가 출시 최대 30일 전까지 모델을 표준 기관에 자발적으로 공유하여 검토를 받습니다. 평가 프로토콜이 효과적이고 강력하다는 것이 입증되면 곧바로 공식화가 이루어질 수 있으며, 이는 프론티어 모델이 미국 시장에 배포되기 위해 해당 평가를 통과해야 함을 의미합니다. 연구소는 또한 출시 후 발견된 중요한 취약점을 해결하기 위해 표준 기관과 협력합니다.
모델 평가에는 사이버 보안, 생물학적 위협 및 기타 고위험 영역의 역량에 대한 엄격한 과학적 평가가 포함되어야 합니다. 특정 자율 에이전트 AI 테스트는 안전 장치를 우회하려는 시도나 기만의 징후를 찾고, AI 생성 이미지에 디지털 워터마크를 표시하거나 모델 추론을 이해하기 위해 사람이 읽을 수 있는 출력 토큰을 생성하는 등의 모범 사례를 보장할 수 있습니다.
이러한 평가는 정기적으로 업데이트되며, 처음에는 분기별로 업데이트되어 오래되었거나 포화된 벤치마크는 폐기되고 대체됩니다. 초기에는 프론티어 연구소와의 협의를 통해 개발되지만, 결국 표준 기관은 과적합을 방지하기 위해 연구소와 독립적으로 자체 비공개 테스트를 생성할 수 있는 기술 역량을 구축해야 합니다. 미국 정부와 협력하여 표준 기관은 평가와 새로운 벤치마크 및 평가 개발을 지원하는 제3자 감사 생태계를 촉진할 수 있습니다.
이 접근 방식의 강점은 기술에 중점을 두면서도 혁신을 지원하고 책임 있는 행동에 인센티브를 제공한다는 점입니다. 이는 해당 분야의 가속화에 발맞추고 식별된 가장 큰 위험에 적응하도록 설계되었으며, 상황의 심각성이 요구할 경우 프론티어 연구소 간의 개발 속도 조정을 포함하여 강화될 수 있습니다. 프론티어 연구소로 지정되면 상당한 명성이 따르며, 벤치마크 기준을 충족하는 모델을 구축하는 모든 조직에 개방됩니다. 이 프레임워크는 원산지나 오픈소스 여부에 관계없이 프론티어급 모델에 적용되지만, 스타트업이나 학계의 비프론티어 모델은 이 프로세스에서 면제됩니다.
이 미국 주도의 노력은 프론티어 AI에 대한 공유된 국제 표준을 만드는 강력한 출발점을 제공할 것입니다. 이 기술은 전 행성에 영향을 미칠 것이기 때문에, 이상적으로는 이 프레임워크가 국제 사회가 가장 심각한 위험을 관리하는 동시에 모든 사람이 AI가 제공하는 기회에 접근하고 혜택을 누릴 수 있도록 하는 합의에 도달하도록 촉진할 것입니다.
미래는 아직 쓰여지지 않았다
AGI는 과학과 의학을 발전시키고 엄청난 생산성 향상과 경제 성장을 주도하는 궁극적인 도구가 될 잠재력을 가지고 있습니다. 그러나 이를 달성하려면 공유된 글로벌 프레임워크를 중심으로 조정하고, 가장 엄격한 과학적 방법을 사용하며, 최고의 인재들을 모아 우리가 직면한 과제를 해결함으로써 기술적 기반을 확고히 해야 합니다.
이러한 어려운 기술적 과제를 해결하더라도 더욱 복잡한 경제적, 철학적 질문들이 남아 있습니다: 희소성 이후의 세상에서 모든 사람이 번영할 수 있도록 하려면 어떤 새로운 경제 모델이 필요할까요? 우리는 어떤 가치를 따라 살아야 하며, 의미와 목적은 무엇이 될까요? 나아가 인간 조건 자체조차 어떻게 변할까요? 이러한 질문을 해결하는 것은 분명히 기술 전문가들만의 몫이 될 수도 없고 되어서도 안 됩니다. 사회의 모든 부분이 함께 모여 이 새로운 장을 정의하는 데 기여해야 합니다.
AI에 대한 엄청난 기대와 불확실성이 공존하며, 둘 다 타당합니다. 그러나 미래는 아직 쓰여지지 않았습니다. 우리는 AGI가 도래하기 전 이 소중한 시간을 활용하여 모든 인류의 이익을 위해 이 기술을 형성해야 합니다. 우리가 지금 함께 하는 일이 문명의 다음 단계가 어떻게 펼쳐질지를 결정할 것입니다. AGI를 안전하게 세상에 도입함으로써, 우리는 과학적 발견과 발전의 새로운 황금기를 맞이하고, 놀라운 인간 번영의 밝은 미래를 열 수 있습니다.
