AI는 역사상 가장 강력한 가치 창출 기술 중 하나가 될 수 있지만, 여전히 가치 포착 문제를 안고 있습니다.
Alex Karp는 AI를 도입하는 기업들이 Anthropic과 OpenAI에 자사의 IP를 유출할 위험이 있다고 말합니다. Satya Nadella는 그 해답을 주권(sovereignty), 즉 기업이 자사의 지능을 통제하고 쿼리당 빌려오지 않는 것이라고 부릅니다. 두 사람은 비슷한 이야기를 하지만 약간 다르게 전달하고 있습니다: 희소 자산은 더 이상 모델만이 아니라, 모델이 회사와 경쟁사 전체의 집계된 패턴에서 학습하는 맥락과 노하우(know-how)이기도 합니다.
보험을 예로 들어보겠습니다. State Farm, Progressive, Allstate, Travelers, Chubb, AIG, Liberty Mutual, 그리고 100개 이상의 소형 보험사가 모두 동일한 모델을 통해 청구를 처리한다고 상상해보세요. 모든 보험사가 동일한 컨텍스트 스트림을 모델에 제공합니다: 사고 설명, 사진, 수리 견적, 조정자 메모, 한계 승인, 사기 신고, 재정의, 지급금, 항소, 회수 결과.
처음에는 이것이 분명 유용합니다. 모델이 청구 처리를 더 빠르게 하고, 의심스러운 사례를 식별하며, 어떤 수리 견적이 부풀려졌는지, 어떤 의료 패턴이 이상해 보이는지, 그리고 어떤 재정의가 나중에 손실로 이어지는지 학습합니다.
하지만 동일한 모델이 모든 보험사로부터 학습한다면, 귀하의 청구 판단이 여전히 귀하의 강점일까요? 손해율을 보호해주던 인더라이팅 예외는 벤치마크가 됩니다. 귀하의 팀이 일찍 발견한 사기 패턴은 시장에 되팔리는 기능이 됩니다.
무엇을 유지하고 무엇을 잃는지 주목하세요. 보험사는 여전히 위험, 고객 관계, 규제 기관, 손해율을 소유합니다. 공유 모델은 점점 더 학습 곡선을 소유합니다. 귀하의 실수, 재정의, 그리고 힘겹게 얻은 청구 직관은 훈련 신호가 됩니다.
그 직관은 귀하의 진정한 지적 재산의 일부입니다. 등록된 종류(특허와 브랜드)가 아니라 운영 종류입니다: 즉, 귀하의 직원들이 위험을 평가하고, 사기를 적발하고, 모호함을 해석하고, 회사가 알고 있는 모든 것을 활용하는 방법입니다. 모델은 그 희소한 판단력을 재현 가능하게 만들어 귀하의 해자(moat) 중 하나를 허물 수 있습니다.
이것이 바로 데이터 보호에만 집중하는 기업이 너무 좁게 생각하는 이유입니다. 더 깊은 자산은 제도적 맥락과 노하우(know-how), 즉 어려운 전문 업무에 대한 직원들의 머릿속 판단력입니다.
연구소들은 이를 이해하고 있습니다. OpenAI와 Anthropic은 데이터를 매년 10배씩 확장하고 있으며, 도메인 전문가를 동원하여 에이전트를 훈련할 작업(task)을 만드는 데 수십억 달러를 지출하고 있다고 알려졌습니다. 작업(task)은 전문가의 업무를 모델이 학습할 수 있는 무언가(프롬프트, 환경, 행동, 루브릭, 검증기, 점수)로 패키징한 것입니다.
이제 생명과학을 살펴보겠습니다. Anthropic은 그 방향성을 분명히 했습니다: 오늘날 연구자를 위한 도구, 시간이 지남에 따라 더 자율적인 발견으로 나아가는 것입니다. Claude for Life Sciences와 Claude Science는 문헌, 에이전트, 과학적 아티팩트, 재현성, 컴퓨팅을 하나의 "워크벤치"에 통합합니다. 수천 개의 바이오텍이 타겟, 분석, 안전성, 엔드포인트, 그리고 진행/중단 결정에 대해 그 시스템을 사용한다면, 악몽은 Anthropic이 특정 바이오텍의 특정 발견을 보는 것이 아닙니다. 그것은 Anthropic이 수천 개의 회사에 걸쳐 진지한 신약 개발 질문과 판단이 무엇인지 학습하면서 동시에 그 분야에 진입하는 것입니다.
자사(first-party) 제품이 이 "학습"을 대규모로 포착하는 방법입니다. 보험에서 모델은 귀하의 강점을 업계의 기준선으로 용해시킵니다. 제약에서는 그렇게 한 다음, 많은 기업이 가르친 것을 사용하여 귀하와 경쟁할 수 있습니다. 또한 귀하의 실제 해자를 더욱 취약하게 만듭니다(이에 대해서는 나중에 더 자세히 다룹니다).
AI가 사적 노하우를 대규모로 사용 가능하게 함으로써 가치를 창출한다는 사실에 누구도 이의를 제기하지 않을 것이라고 생각합니다. 그러나 동시에 "노하우(know-how)"를 덜 희소하게 만듭니다. 모든 보험사, 은행, 바이오텍이 동일한 모델을 통해 동일한 역량에 접근할 수 있다면, 한때 귀하의 강점이었던 것이 업계의 기준선이 됩니다. 가치는 사라지지 않습니다. 분할됩니다: 고객은 더 낮은 가격이나 더 나은 서비스를 받고, 모델 공급업체는 학습을 얻으며, 귀하는 경쟁이 침식시키는 선행 생산성 향상을 얻습니다.
지속 가능한 가치가 귀하에게 거의 남지 않는 이유는 다음과 같습니다.
- 모든 사람이 동일한 강점을 얻으면, 고객이 그 혜택을 가져갑니다. 자동차 제조업체가 모델을 사용하여 반도체, 수지, 운송, 위탁 생산 능력, 대체 부품을 협상한다고 상상해보세요. 강점은 다음 제조업체보다 더 잘 사는 것입니다: 어떤 공급업체 부족이 실제인지, 어떤 견적에 초과 마진이 포함되어 있는지, 가격을 쥐어짜는 것보다 공급을 유지하는 것이 언제 더 중요한지 아는 것입니다. 모든 제조업체가 동일한 모델을 통해 조달을 운영한다면, 모델은 단순히 비용을 낮추지 않습니다. 구매를 더 "유사하게" 만듭니다. 최고의 구매자는 자사 프로세스와 다른 업체 프로세스 간의 차이를 잃습니다. 공급업체도 적응합니다: 모든 구매자가 동일한 적정 비용 분석, 대체 소스 맵, 협상 스크립트를 가지고 도착하면, 그 플레이북은 가격에 반영됩니다.
- 모델은 또한 복리 효과를 포착합니다. 거대 제약사의 내부 플랫폼이 없기 때문에 Claude for Life Sciences를 사용하는 1,000개의 자원이 부족한 바이오텍을 상상해보세요. 각 회사는 자사의 화합물, 실험실 비용, 실패한 프로그램, 규제 이력을 소유합니다. 하지만 워크벤치는 이 모든 것의 패턴을 볼 수 있습니다: 어떤 독성 신호가 프로그램을 중단시켰는지, 어떤 분석이 잘못된 확신을 주었는지, 어떤 엔드포인트가 약했는지, 어떤 환자 하위 그룹이 적절하지 않았는지입니다. 충분한 수의 바이오텍과 제약사를 통해 데이터를 수집한다면, 단일 회사는 볼 수 없는 실패 패턴을 볼 수 있습니다. 데이터 우위는 독점성에 있는 반면, 공유 워크벤치는 집계를 통해 독점성을 깨뜨립니다. 그리고 Anthropic이 자체적으로 약물을 개발하려고 하기 때문에, 효율성을 위해 도입한 도구는 종국적으로 귀하가 하는 일을, 현장을 지켜보며 학습한 것을 사용하여 수행하는 것을 목표로 하는 주체에 의해 구축됩니다.
- 귀하는 독특한 것을 기여하고 평균을 돌려받습니다. 귀하는 차별화된 판단력, 데이터, 맥락, 결정을 기여합니다: 귀하의 팀만이 잡아낸 사기 패턴, 귀하의 구매자가 무시한 공급업체의 허세, 시장이 보기도 전에 PM이 중단시킨 거래. 귀하는 모든 사람의 것을 혼합한 결과를 돌려받습니다. Citadel은 세계 최고의 PM의 중단 기준이 업계의 모든 포드에 훈련되기를 결코 원하지 않을 것입니다. 최고의 기업에게 이것은 손해 보는 거래입니다: 평균 이상의 판단력을 넘겨주고 평균을 받는 것입니다.
- 데이터 권리는 학습 권리가 아닙니다. 기업들은 보존, 기밀 유지, 보안, 접근 통제, 훈련 거부(opt-out)를 협상하는 방법을 알고 있습니다. 하지만 더 중요한 질문은 파생된 판단력(작업, 피드백 루프, 평가, 워크플로 추적, 수정, 실패 모드, 의사 결정 패턴, 에이전트 스킬, 제품 인사이트)을 누가 소유하느냐는 것입니다. 일단 모델 회사가 어려운 문제를 알게 되면, 다른 방식으로 업무 로직을 획득할 수 있습니다. 동일한 결정을 테스트하는 사례를 만들기 위해 전문가를 고용할 수 있습니다: 모델이 요율을 인상해야 하는지, 인더라이팅을 강화해야 하는지, 사기를 신고해야 하는지, 특정 세그먼트를 배제해야 하는지, 수익성 있는 고객을 유지하기 위해 더 나쁜 손해율을 수용해야 하는지. 추론 과정은 훈련 가능해집니다.
- 이득은 선행되고, 의존성은 복리로 증가합니다. 첫 번째 도입은 실질적인 생산성 향상을 만듭니다. 그러나 일단 경쟁사들이 동일한 모델을 실행하면, 그 향상은 기준선이 되고, 남는 것은 귀하의 강점이 아니라 다음 업그레이드에 대한 귀하의 의존성입니다. 모든 사람이 첫 번째 상승을 포착하겠지만, 공급업체는 반복되는 학습 곡선을 포착합니다. 1년 차에 공장 모델은 가동 중단 시간을 줄이지만, 곧 모든 경쟁사가 동일한 예측 유지 관리 워크플로를 가지게 되고 공급업체는 이제 귀하가 의존하는 프로세스 직관을 소유하게 됩니다.
이것이 전혀 포착이 불가능하다는 의미는 아닙니다. 선도 기업(first mover)은 경쟁사가 도입하기 전의 기간 동안 실질적인 이익을 얻습니다. 유일한 문제는 지속 가능한 가치가 학습을 소유하는 사람에게 돌아가며, 기본적으로 그것이 귀하가 아니라는 점입니다. 이는 전체 상황을 워크플로별, 작업별로 결정해야 하는 문제로 만듭니다. 귀하의 업무가 일반적인 것이라면, 그것을 풀링(pool)하고 이득을 취하십시오. 거기서는 평범함을 보호하는 것이기 때문입니다. 귀하의 직원들의 판단력이 바로 제품인 경우, 그것을 공유 모델에서 떼어 놓으십시오.
이것을 보는 가장 간단한 방법은 TikTok, YouTube, Google을 생각해보는 것입니다: 여러분은 자신이 고객이라고 생각하지만, 사실은 원자재(raw material)입니다. 여러분이 시청을 마친 모든 동영상은 알고리즘에 무엇이 통하는지 가르치고, 그 학습이 진짜 제품이 되어 다음 광고주에게 판매되고 다음 사용자를 사로잡는 데 사용됩니다.
CEO들이 Anthropic과 OpenAI를 이렇게 생각해야 합니다: 기업 데이터를 위한 TikTok이지만, 피드는 여러분의 업무이고 참여 신호는 여러분의 판단력입니다. 모델 제공자는 여러분 회사에서 가장 비싼 노하우(know-how)를 겨냥한 그 기계입니다. 여러분의 전문가들은 청구, 거래, 조항, 공급업체, 임상 시험, 위험 관련 결정, 생산 문제에 대한 도움을 요청하며 나타납니다. 모든 망설임, 재정의, 에스컬레이션, 승인, 거부, 재검토는 모델에 여러분 회사가 어떻게 생각하는지 가르칩니다.
TikTok에서 크리에이터는 적어도 비용을 받습니다. 여기서 여러분은 데이터, 맥락, 그리고 데이터로부터의 학습(노하우/Know-how)을 제공하고, 플랫폼은 완성된 제품을 업계 전체에 되팔거나, 제약의 경우처럼 결국 여러분과 경쟁하기로 선택할 수 있습니다.
따라서 경영진의 질문은 간단합니다: 여러분은 여러분 회사만의 TikTok을 원하십니까, 아니면 공유된 것을 사용하시겠습니까? 아마도 두 가지 모두를 경로로 사용해야 할 필요가 있을 것입니다.
어떤 고가치 워크플로를 Anthropic, OpenAI 또는 다른 공유 모델에 넣기 전에 한 가지 질문을 해보십시오: 모든 경쟁사가 우리가 이 결정을 처리하는 방법을 알게 된다면, 우리가 여전히 그들보다 나을 수 있을까요?
