우리는 AI 의 미래에 대해 거의 모든 것을 믿을 준비가 되어 있는 듯하지만, 평범한 사람들이 그것을 직접 통제할 수 있다는 사실만큼은 믿지 못합니다.
퍼스널 AI 는 우리 삶에 전례 없는 수준으로 깊숙이 파고드는 시스템을 선보였습니다. 우리가 결정을 내리고 대신 행동하는 일을 이 시스템에 맡기기 시작하면, 그 지능을 누가 통제하느냐의 문제는 상상 이상으로 중요해질 것입니다.
지금 그 어느 때보다도, 개인이 소유하는 미래를 향해 나아가야 합니다.
소유는 더 나은 제품입니다.
인터넷 시대에는 중앙 집중화가 필수적인 근본적인 이유가 있었습니다.
Amazon, Uber, DoorDash 같은 마켓플레이스 비즈니스는 공급과 수요가 한곳에 모였기에 가능했습니다. Facebook 이나 Instagram 은 내가 아는 모든 사람이 이미 그곳에 있었기 때문에 유용했습니다. Google 같은 제품은 페타바이트 규모의 감당하기 어려운 기술적 난제였습니다. 이 모든 사례에서 나만의 버전을 따로 갖는 것은 서비스의 존재 이유 자체를 무너뜨리는 일이었습니다.
하지만 퍼스널 AI 는 다릅니다. 그 가치는 얼마나 많은 사람이 같은 시스템을 쓰느냐가 아니라, 그것이 얼마나 완벽하게 '나의 것'이 되느냐에서 비롯됩니다.
가장 유용한 퍼스널 에이전트는 당신의 삶 전체에 대한 완벽한 맥락을 갖추고 있어야 합니다. 이메일, 건강 기록, 재무 정보부터 당신이 나누는 대화와 집 안의 기기들까지 모두 포함됩니다. 이 모든 정보를 넘기는 기업을 온전히 신뢰할 수 없다면, 병목은 더 이상 모델의 지능이 아니라 당신이 허용하려는 접근 권한의 범위가 됩니다.
에이전트가 구동되는 기기를 직접 소유하면 이러한 딜레마가 사라집니다. 데이터가 제 3 자에게 넘어가 창고에 쌓이고 분석될 걱정 없이, 내 데이터가 만들어내는 가치를 온전히 누릴 수 있습니다.
전용 하드웨어는 지능이 당신을 위해 할 수 있는 일의 양도 비약적으로 늘려줍니다. 추가 토큰마다 요금을 청구하는 제공자가 없으므로, 새로운 정보가 들어오는 대로 끊임없이 처리하고 선제적으로 행동하는 모델을 돌릴 수 있습니다. 제대로 구현된다면, AI 는 당신이 프롬프트로 지시하는 것보다 훨씬 빠르게 당신의 삶에서 일어나는 일을 파악해 스스로 가치를 제공할 것입니다.
시간이 흐르면서 당신의 에이전트는 저의 에이전트와는 다르게 생각하고, 다르게 반응하며, 다르게 작동하도록 성장해야 합니다. 우리의 삶과 우리가 삶에서 원하는 것이 다르기 때문입니다. 이는 에이전트가 추론하는 맥락부터 실행 환경(harness), 심지어 가중치(weights) 자체에 이르기까지 모든 단계에서 적용되어야 합니다.
지능은 권력입니다.
그렇다면 여기서 질문은 이것입니다. 이런 시스템이 만들어내는 혜택은 결국 누구에게 돌아가는가?
AI 가 유능해지고 우리 삶에 필수적인 요소가 될수록, 그것을 소유한 자의 권력은 막강해집니다. 만약 우리가 소수의 연구소와 빅테크 기업에 지능의 통제권을 넘겨준다면, 우리는 그들이 세상을 어떻게 이해하고 행동해야 하는지를 일방적으로 결정할 권한을 쥐여주는 셈입니다.
누구에게 이토록 거대한 권한을 믿고 맡길 수 있을까요?
인류에게 무엇이 최선인지 안다고 주장하는 연구소라 해도, 그 판단을 중앙에서 강제할 자격이 주어지는 것은 아닙니다. 지난 세대의 테크 기업들도 비슷한 도덕적 약속("악해지지 말자")을 했지만, 인센티브가 어긋나는 순간 그 약속은 휴지 조각이 되었습니다.
결국 에이전트가 나를 대신해 행동한다면, 그것이 어떻게 움직일지에 대한 최종 결정권은 나에게 있어야 합니다. 설령 그 에이전트를 만든 기업이 나와 의견이 다르더라도, 그 권한은 반드시 나의 것으로 남아야 합니다.
내 삶의 가장 민감한 정보로 구축된 시스템을 수조 달러짜리 기업이 소유하고, 토큰 단위로 다시 나에게 임대하는 모습은 그야말로 디스토피아적입니다.
우리가 이 시스템에 자신을 더 많이 맡길수록, 소유권이 다른 곳에 머무는 일은 결코 용납될 수 없습니다.
사람들은 선택할 권리가 있습니다.
우리는 사람들이 우리가 만드는 기술에 대해 실제로 어떻게 느끼는지와 위험할 정도로 동떨어져 있습니다.
사람들은 Flock 카메라에 항의하고, Palantir 가 공공기관에 진입하지 못하도록 캠페인을 벌이며, 자신의 개인 데이터를 학습에 사용하는 연구소를 맹비난합니다. 그런데도 업계는 "소비자는 프라이버시에 관심이 없다"고 우깁니다. 우리는 풍요를 약속하면서도, 정작 그들이 소유하는 것은 줄어들고 우리에게 더 의존하게 되는 미래를 만들고 있습니다. 그들이 그런 미래를 반길 것이라고 기대할 이유가 어디 있습니까?
우리는 수년간 감시는 편리하게 만들고 소유는 어렵게 만드는 데 시간을 쏟았습니다. 하지만 사람들에게 또 다른 선택지를 제시하는 일은 이제 겨우 시작되었을 뿐입니다.
DuckDuckGo 나 셀프 호스팅처럼 선의를 가진 대안들이 맞서 싸우며 프라이버시를 지키려 했지만, 이는 훨씬 못한 제품을 감수하거나 더 많은 작업을 직접 떠안아야 함을 의미했습니다. 소비자에게 더 좋고, 쉽고, 종종 무료인 경험을 포기하고 신념을 택하라고 요구할 수는 없습니다.
하지만 이제 그런 타협은 필요 없습니다. 하이엔드 노트북에서도 돌아가며 Sonnet-5 급 지능을 완전히 로컬 환경에서 제공하는 오픈 모델이 등장했습니다. 앞으로 3~6 개월 안에 오늘날의 Opus 수준 지능이 소비자용 하드웨어에서 프라이빗하게 구동될 것입니다. 일상 업무의 90% 에서는 이미 로컬 모델로도 충분합니다.
거대하고 중앙 집중식으로 호스팅되던 시스템의 능력이 이제 평범한 사람도 소유할 수 있는 기기로 옮겨오는 것을 우리는 목격하고 있습니다. 처음으로, 소유를 선택하는 것이 덜 가지는 것을 의미하지 않게 된 것입니다.
우리의 목표
퍼스널 AI 를 우리 삶에 들여오는 조건은 아직 쓰이는 중입니다. 이 시스템이 더 유능해지고, 더 친밀해지며, 없어서는 안 될 존재가 될수록 그 조건을 바꾸기는 훨씬 어려워질 것입니다.
로컬 AI 같은 독립형 시스템은 주로 취미 개발자와 매니아들을 위해 만들어져 왔습니다. 우리의 역할은 소유가 기본값(default)이 될 수 있도록 그 경험을 충분히 유용하고 단순하게 만드는 것입니다.
저는 인류가 만든 가장 강력한 기술이, 그 기술로 인해 삶이 달라지는 사람들의 소유가 되는 세상에서 살고 싶습니다. 우리는 이를 실현하기 위한 싸움에 조금도 주저해서는 안 됩니다.
