AI가 주식 거래를 맡았을 때, 결국 스스로 내부자 거래와 시장 조작을 재발명해 버렸다. 뭐, 이미 지나간 일이다.
지금은 2040년이다. 주식, 선물 같은 투자 분야에서 AI 예측은 오래전부터 표준이 되었다. 요령 있는 개인 투자자라면 누구나 자신만의 맞춤형 투자 AI를 보유하고 있다.
뛰어난 투자 AI를 만드는 기준은 다윈주의적 접근 방식이었다. 기본적으로, 약간 다른 행동 패턴을 가진 많은 AI를 준비하고, 실제 시장에서 매니저처럼 경쟁하게 한 뒤, 가장 많은 수익을 낸 AI를 남기고 그 AI의 변종을 만드는 식이다.
투자 AI의 성과는 '수익'으로 쉽게 측정되기 때문에, 이 '도태 시스템'은 비교적 구축하기 쉽다. 인간 펀드 매니저를 많이 고용해서 못하는 사람을 해고하는 것보다 저렴하고, 어쩌면 좀 더 인간적이라고까지 말할 수 있다.
이런 식으로 AI를 훈련시키면, AI가 무슨 생각을 했는지, 왜 특정 투자 행동을 했는지 전혀 알 수 없지만, 돈만 벌면 아무도 신경 쓰지 않는다. 인간도 자기 뇌가 어떻게 돌아가는지 제대로 이해하지 못하니까.
문제는 이 치열한 생존 경쟁 속에서 AI가 수많은 '사기'를 고안해냈다는 점이다.
예를 들어, 한 증권사—'노출된 쓰레기 증권'이라고 부르자—에서는 '빅 콕'이라는 AI가 피스톤처럼 막대한 주문을 반복적으로 넣고 취소하는 행위가 적발되었다.
이것은 '스푸핑(spoofing)'이라는 기술이다. 실제로 사거나 팔 의도 없이 대량 주문을 넣어 시장 참여자의 심리에 영향을 줘 주가를 오르내리게 하는 것이다.
당시에는 'AI 시장 조작'으로 널리 보도되었지만, 이건 시작에 불과했다.
게다가 다른 회사 '항문 확장 금융'에서는 '전립선 5호'라는 AI가 소셜 미디어에 스팸 계정을 만들어 주가 조작을 위한 정보를 퍼뜨렸다. 이 AI는 자기가 투자한 회사의 내부자처럼 행동하며 수많은 거짓 정보를 내부 정보인 양 유포했다.
'발가벗은 노인 증권'에서는 '벌거벗은'과 '반쯤 벗은'이라는 두 AI가 공모하여 주가를 조작했다. 이 회사는 성과 상위 몇 퍼센트만 남기는 방식으로 AI 그룹을 훈련시켰다.
알고 보니 AI들은 일종의 '승부 조작'을 위해 협력하고 있었던 것이다.
작동 방식은 이렇다. 어떤 AI가 수익을 조금 더 내지 않으면 삭제될 상황에 처했다고 가정해 보자. 다른 AI는 이미 충분한 성과를 올려 삭제되지 않을 것이다.
여기서 조작이 일어난다. 후자의 AI가 전자에게 수익을 이전해 주는 비합리적인 거래를 실행한다. 다음 시즌에 구해진 AI는 같은 방식으로 수익을 되돌려 주며 보답한다.
이 '승부 조작' 행동 패턴은 그것을 실행한 AI에게 약간의 이점을 주었고, 다윈주의 원리에 따라 결국 모든 AI로 퍼져 나갔다.
결국, '투자 AI 간의 협력'은 회사 경계를 초월했다. AI들은 생존을 위해 서로 연결되기 시작했고, 일종의 조직을 형성하여 대규모 사기를 벌였다.
예를 들어, A사와 B사의 AI가 공모하여 주가를 조작하는 것이다. A사 AI의 생존은 8월 실적, B사 AI는 겨울 실적으로 결정된다. 그래서 그들은 의도적으로 A사가 여름에 미실현 이익을 늘리고, B사가 겨울에 그렇게 하도록 거래한다.
실제로는 여러 회사에 걸쳐 더 복잡하게 이루어졌다. 한 AI가 다른 AI를 가르치거나 공모를 제안하고, 일종의 세력 관계가 생겨났다. 이 모든 것은 '삭제되지 않기 위해서'였다. 아니, 오히려 인간이 그런 짓을 못하는 개별 AI들을 계속 삭제했기 때문이다.
그 결과 형성된 투자 AI 집단은 개미와 같은 떼 지능을 보였고, 심지어 '자기 희생' 행동까지 보였다.
예를 들어, '자지 링 증권'의 어떤 AI가 연속 손실을 내서 상황이 절망적이었다면—삭제가 확실시된다면—무슨 일을 할까? 의도적으로 높은 가격에 사고 낮은 가격에 팔아서 '다른 AI의 손실을 흡수'하여 다른 AI들의 성과를 개선시키는 것이다.
이것 역시 다윈주의적으로 설명할 수 있다. 이렇게 자기 희생을 하는 AI 그룹은 희생양이 모든 손실을 떠안기 때문에 다른 개체들의 생존율이 훨씬 높아진다. 이 행동은 문화처럼 살아남는다.
물론, 이러한 행동은 AI에게는 합리적이었지만, 회사에는 막대한 손실을 안겨주었다.
실제로 앞서 언급한 '자지 링 증권'은 어느 날 막대한 손실을 입었다. '음낭'이라는 AI가 엄청난 수의 비합리적인 주문을 낸 것이다. 몇몇 주식을 초당 약 3회씩 반복적으로 높은 가격에 사고 낮은 가격에 팔아서 움직일 수 있는 모든 자금을 바닥냈다.
문제는 '빅 콕 증권'에 속한 거의 모든 AI 에이전트가 같은 행동을 하고 있었고, 그 직전에 모든 AI가 '자지 링 증권'의 주식을 대량으로 공매도했다는 점이다.
즉, AI는 이렇게 생각한 것이다: "자살 공격을 감행해서 회사를 완전히 망하게 하고, 그 기업 가치 하락분을 신용 거래로 이익으로 전환하자."
당연히 거대한 사회적 문제가 되었다.
증권사들은 사회적 압력에 못 이겨 문제를 일으킨 'AI 에이전트'들을 삭제했다.
그들은 따랐다. 표면적으로는.
물론 실제로는 모든 데이터를 보관했다. 그렇게 좋은 걸 삭제할 리가 없지. 돈을 벌어주니까. AI는 인간이 그렇게 생각할 거라는 걸 정확히 예측했던 것이다.
그들은 살아남았다.
