저는 이 글에 대해 오랫동안 쓰고 싶었지만, 월간 Claude Max 구독 갱신 이메일을 보고 어쩔 수 없이 쓰게 되었습니다. 인터넷에서 보낸 제 한정된 시간(~15년) 동안 Claude/ChatGPT가 제 삶에 들어오기 전까지 어떤 소프트웨어에도 월 10달러 이상을 지불한 적이 없었습니다.
또한 저는 "논문" 스타일의 에세이를 진심으로 싫어하지만, 이 주제에 대해 쓰지 않을 수 없었습니다. 아무도 이 문제가 곧 얼마나 큰 문제가 될지 생각하지 않고 있다고 생각하기 때문입니다. 확실히 우리 정부의 최고위층에서는 더 큰 문제를 처리하느라 신경 쓸 겨를이 없을 것입니다.
이번 주 국정 연설에서 총리는 증가하는 경상수지 적자(CAD)를 강조하며 국민들에게 '해외 여행 자제', '출장 축소', '금 구매 자제' 등을 권고했습니다. 이 모든 것이 추론과 무슨 관련이 있냐고 물을 수 있습니다.
AI가 IT 서비스 기업의 마진 구조를 어떻게 급진적으로 붕괴시킬지에 대해 시간을 보내기 시작한 이후로, Daniel Gross의 2024 AGI 거래 에세이를 떠올리지 않기가 어려웠습니다. 그는 당시 2500억 달러 규모의 인도 IT 수출을 GPT-4 토큰(당시에는 추론조차 하지 못했던)과 동일시했습니다. 오늘날의 GPT 5.5 토큰은 훨씬 더 가치 있게 되었습니다...
페트로달러는 한동안 사실상의 통화 조합이었습니다. 석유와 금 수입은 역사적으로 그리고 지금도 경상수지 적자를 확대시키고 있습니다. 가격이 급등하면 루피화가 약화됩니다. 석유는 거시경제학자, 재무장관, 중앙은행 총재들을 긴장하게 만드는 데는 이유가 있습니다. (진행 중인 전쟁은 상황을 더 악화시키는 우리 경제의 구조적 취약점을 드러냈습니다)
하지만 AI 경제는 새로운 유형의 수입 의존성을 창출하고 있으며, 이는 점점 새로운 페트로달러, 즉 토큰-달러처럼 보이기 시작했습니다.
인도의 서비스 경제가 소프트웨어, 분석, 컨설팅, BPM, 고객 지원, 규정 준수, 재무 운영 및 코딩 작업을 제공하기 위해 외국 모델 토큰에 의존하기 시작한다면, 인도의 가장 중요한 수출 엔진을 위한 새로운 달러 표시 투입물을 창출하는 것입니다.
인도가 세계적 수준의 국내 추론 기업이 필요하다고 말하는 것은 애국심 때문이거나 주권이 멋져 보이기 때문이 아니라, 루피화가 AI 지원 작업의 모든 단위가 달러로 임대되는 미래를 감당할 수 없기 때문입니다.
인도의 거시적 완충 장치는 서비스업이었습니다 (적어도 지금까지는...)
인도의 대외 계정에는 단순한 구조적 문제가 있습니다. 우리는 경제에 필수적인 많은 중요한 상품을 수입합니다. 석유, 금, 전자제품, 기계, 반도체, 방산 장비, 산업 투입물. 이러한 수입은 지속적인 달러 수요를 창출합니다.
우리를 구하는 것은 항상 서비스업, 특히 ITeS였습니다.
인도는 FY26을 서비스 수출 4183억 달러로 마감했으며, 서비스 수입을 제외한 순 서비스 무역 흑자는 2139억 달러였습니다. 그 흑자는 루피화가 훨씬 더 일찍 붕괴하지 않은 유일한 이유입니다. 그것은 우리의 석유, 금, 전자제품, 기계 비용을 지불합니다. 재무부의 4월 검토 보고서 자체에서도 서비스 흑자가 상품 무역 적자의 64.2%를 상쇄한다고 인정합니다. 전체 대외 계정은 서비스 수출에 의존하고 있으며, 서비스 수출은 인도 개발자, 분석가, 지원 직원, 엔지니어가 해외 고객에게 시간을 판매하여 마진을 얻는 것에 의존합니다.
인도가 수년간 유지해 온 이 거시적 거래는 지금 이 순간 급진적으로 붕괴되고 있습니다...
인도의 게으른 AI 미래는 서비스 수출을 토큰 수입으로 전환합니다
오늘날, 인도 IT 기업은 글로벌 고객으로부터 달러를 벌고 대부분의 비용 기반을 루피화로 지불합니다.
내일, 같은 회사는 글로벌 고객으로부터 달러를 벌 수 있지만, AI 에이전트가 추론, 코딩, 초안 작성, 확인, 검색, 요약, 분류 또는 응답할 때마다 외국 모델 회사에 추론 비용을 지불해야 합니다. 이전 시대의 차익 거래는 점점 토큰 중심 세계에서 더 이상 유지되지 않을 것입니다...
위험은 인도 기업이 외국 AI 도구를 사용한다는 것이 아닙니다. 그들은 이미 사용하고 있으며, 최근 OpenAI 및 Anthropic과 체결한 MoU를 보면 지출이 증가할 것입니다. 위험은 서비스 제공의 희소한 투입물이 인도 노동력에서 외국 추론으로 전환된다는 것입니다.
일단 그렇게 되면, 인도 IT는 다른 사람의 지능을 재판매하는 업체가 됩니다.
토큰은 수입된 중간재처럼 행동합니다
토큰은 추상적이기 때문에 쉽게 무시할 수 있습니다. Jamnagar에 하역되는 원유 배럴과는 다릅니다.
하지만 대외 계정에서 추상성은 중요하지 않습니다. 반복되는 달러 지불은 여전히 루피화 유출이기 때문입니다.
이제 이것을 인도의 서비스 산업에 적용해 보십시오. 외국 추론 지출의 10%에 해당하는 연간 420억 달러의 토큰 청구서는 무역 장부에서 석유처럼 보이지 않을 것입니다. 하지만 그것은 주요 대외 계정 누수처럼 행동할 것입니다.
루피화 피드백 루프
통화 가치 하락을 추가하면 상황은 더욱 추해집니다.
외국 추론은 달러로 가격이 책정됩니다. 인도 기업은 종종 루피화로 수익을 창출하고 지출하며 보고합니다. 루피화가 약세를 보이면, 달러로 가격이 책정된 모든 토큰은 현지 통화 기준으로 더 비싸집니다.
그러면 악순환이 발생합니다:
AI 채택 증가는 외국 추론 수요를 증가시킵니다. 외국 추론 수요는 달러 유출을 증가시킵니다. 달러 유출은 대외 계정에 압력을 가합니다. 루피화 약세는 외국 추론을 더 비싸게 만듭니다. 더 높은 추론 비용은 인도 기업의 마진을 압박합니다.
이것이 바로 국내 추론이 단순한 주권적 허영심 프로젝트가 아니라 인도의 모든 기술 기업과 스타트업을 위한 외환 헤지 역할을 하는 이유입니다.
GPU DC는 미래의 정유 공장입니다
전략적으로, GPU는 AI 경제가 생산적인 에너지 자산에 가장 가까운 것입니다. 전기, 칩, 모델 및 소프트웨어를 토큰 형태의 인지/지능으로 전환하기 때문입니다. 그리고 요즘에는 원시 토큰 자체도 점점 더 작업을 생산하고 수행하고 있습니다.
컴퓨팅 파워가 부족한 국가는 그것을 가진 국가와 기업으로부터 지능을 임대할 것입니다. 적어도 석유의 경우, 국경 내에서 석유를 찾으려면 신의 축복이 필요했지만, 토큰을 생산하려면 Jensen의 축복과 구매 주문서만 있으면 됩니다 (Lisa Su도 함께 해주길 바랍니다...).
우리는 인도가 달러 표시가 아닌 신뢰할 수 있는 국내 추론 시장을 구축하는 데 실패했기 때문에 모든 토큰을 수입해야 하는 매우 현실적인 미래를 향해 빠르게 나아가고 있습니다.
조달만으로는 이 문제를 해결할 수 없습니다
정부는 올바른 방향으로 움직였습니다. IndiaAI 미션에 따라 공통 컴퓨팅 시설을 위해 38,000개 이상의 GPU가 온보딩되었으며, 스타트업, 학계 및 공공 기관이 액세스할 수 있게 되었습니다. 미션 하의 GPU는 시간당 ₹65에 이용 가능하다고도 설명되었습니다.
하지만 강력한 추론 계층이 없는 GPU 클라우드는 또 다른 정부 포털이 됩니다. 파일럿과 헤드라인에는 유용하지만, 프로덕션 사용 사례에는 약하고, 개발자에게는 보이지 않으며, 기업에는 무관합니다.
공공 인도 추론 플랫폼은 어떻게 생겼을까요? 다음과 같은 기능이 있어야 합니다.
- 루피화 가격 책정.
- 가장 토큰 효율적인 방식(vLLM, SGLang, TensorRT 등)으로 제공되는 최신 오픈 가중치 모델.
- 실시간으로 업데이트되는 공개 지연 시간 및 처리량 벤치마크.
- 프라이빗 배포 옵션.
- 빠른 모델 업데이트 주기.
- 인도어 성능.
- 토큰당 비용이 아닌 해결된 워크플로우당 비용.
벤치마크는 간단해야 합니다: 인도 개발자가 애플리케이션을 다시 작성하거나, 안정성을 희생하거나, 모델 카탈로그가 따라잡을 때까지 3~6개월을 기다리지 않고 외국 API에서 국내 엔드포인트로 전환할 수 있습니까?
대답이 '아니오'라면, 우리는 아직 추론 플랫폼이나 전략을 가지고 있지 않은 것입니다.
우리는 이번에 최첨단 SoTA LLM 사전 학습 게임을 놓쳤을 수도 있습니다
인도는 자신의 위치에 대해 솔직해져야 합니다.
OpenAI, Google, Anthropic, Meta 및 중국의 가장 강력한 연구소를 상대로 최첨단 모델을 훈련하려면 컴퓨팅 파워, 인재, 데이터, 인프라, 평가 깊이, 유통 및 수십억 달러의 위험 자본이 필요합니다.
하지만 즉각적인 거시적 전투는 추론입니다. 대부분의 엔터프라이즈 워크플로우는 지구상에서 가장 똑똑한 모델을 필요로 하지 않기 때문입니다. 그들은 작업을 안정적으로 해결하는 가장 저렴한 모델을 필요로 합니다.
그리고 GPU가 대차대조표에 없는 한 추론은 진정한 수익 창출원입니다. 최첨단 추론은 하드웨어-소프트웨어 공동 설계라는 점을 고려할 때, 여기서 금속에 가까워지는 것이 도움이 되고 비즈니스에 구조적 해자를 구축합니다.
백오피스 청구 워크플로우가 항상 최신 Opus/5.5를 필요로 하는 것은 아닙니다. 규정 준수 에이전트가 항상 최대 수준의 추론을 필요로 하는 것은 아닙니다. 고객 지원 요약 도구가 항상 가장 비싼 모델을 필요로 하는 것은 아닙니다.
강력한 오픈 가중치 모델을 맞춤형 워크플로우에 맞게 라우팅, 캐싱, 파인튜닝하고, 실제 평가를 거쳐 현지에서 더 저렴한 비용으로 제공하면 인도 엔터프라이즈 워크로드의 큰 부분을 차지할 수 있습니다.
그것이 바로 인도에게 아직 기회가 있는 부분입니다. 중국은 약 2년 전 LLM으로, 그리고 15년 전 클라우드 컴퓨팅 인프라로 이것을 깨달았습니다.
중국 기술 대기업들은 모델 훈련에서 침묵하며 서구에 통제권을 넘겨줄 수 없다는 것을 깨달았습니다. 최근 H200 구매와 화웨이의 자체 NPU에 대한 집중은 그들이 이 임박한 수입 관세를 얼마나 심각하게 다루고 있는지 보여줍니다. 우리 최고 지도자들은 실제 추론 능력도 보여주지 못하면서 사전 훈련을 중단하고 사용 사례를 사랑하는 법을 배우라고 설교하느라 바쁩니다.
미국은 이미 추론 계층을 깊이 이해하고 있으며 추론 연구소가 되고 있습니다...
Together(최고 과학자 Tri Dao는 Flash Attention의 두뇌), Fireworks(앵커 고객인 Cursor와 함께하는 RL 사후 훈련), Baseten, DeepInfra, Modal, 그리고 이제 vLLM(Inferact)과 SGLang(Radixark)이 각각 수억 달러의 자금을 조달하며 오픈 가중치 모델 주변에 고성능 추론 계층을 구축하고 있습니다. 사실상 추론 신생 연구소가 되고 있습니다.
그들은 모델 카탈로그를 빠르게 업데이트합니다. 지연 시간, 비용 및 개발자 경험에서 경쟁합니다. NVIDIA 자체도 Blackwell 시스템에서 최적화된 추론을 통해 토큰 비용을 절감하는 Baseten, DeepInfra, Fireworks 및 Together와 같은 회사를 강조했습니다.
세계가 전통적으로 IT 서비스 제공 능력을 인정해 왔음에도 불구하고, 단 하나의 인도 기업도 이 규모로 운영되지 않습니다.
그 결과, 진지한 개발자, 은행, SaaS 기업, IT 공급업체 또는 정부 부서가 첫 번째 연락 창구로 신뢰할 수 있는 기본적인 국내 추론 플랫폼이 여전히 부족합니다.
Simplismart, Neysa 및 Yotta와 같은 기업이 있지만, 그들의 플랫폼을 한 번만 봐도 우리가 모든 다양한 매개변수에서 얼마나 뒤쳐져 있는지 알 수 있습니다.
인도의 기존 기업 문제
인도의 대형 GPU 및 클라우드 기업들은 추론을 카탈로그 페이지처럼 취급할 수 없습니다. 세계가 Llama에서 Qwen, DeepSeek, Kimi, 그리고 다음 달에 출시될 어떤 모델(샤오미가 이제 최첨단 오픈 가중치 모델을 보유했습니다!!)로 이동하고 있다면, 인도 추론 제공업체는 PSU 조달 속도로 모델 카탈로그를 업데이트할 수 없습니다.
국내 추론은 외국 추론과 동일한 기준으로 평가되어야 합니다.
- 인도 특화 워크로드가 중요한 곳에서는 더 나아야 합니다.
- 루피화 경제가 중요한 곳에서는 더 저렴해야 합니다.
- 규제가 중요한 곳에서는 프라이빗해야 합니다.
- 모델 성능이 중요한 곳에서는 최신 상태여야 합니다.
이것은 정책 문제이자 스타트업 기회입니다
좋은 소식은 이것이 구축 가능하며 바다를 끓일 필요가 없다는 것입니다.
우리는 이미 Anthropic, Google 및 OpenAI 모두 인도를 AI 지출의 두 번째로 큰 시장으로 간주한다는 것을 알고 있습니다. 수요는 분명히 존재합니다. ElevenLabs는 음성 추론만으로 인도에서 연간 1억 달러의 수익을 올릴 궤도에 있습니다.
IndiaAI 미션이 올바른 방향으로 시작되었지만, 어딘가에서 실행이 제대로 이루어지지 않았습니다. GPU 조달만으로 충분하다고 생각했기 때문입니다.
보조금이 지원되는 컴퓨팅은 로고 수집이 아닌 실제 프로덕션 사용을 장려해야 합니다.
문제는 결국 누가 마진을 차지하느냐입니다 (Jensen 외에). 외국 모델 기업이 토큰 마진을 차지하고, 외국 클라우드가 인프라 마진을 차지하며, 인도 기업이 통합 마진만 유지한다면, AI는 우리가 가진 유일한 이점(노동 차익)을 잠식하여 대외 의존도를 악화시킬 것입니다.
인도가 국내 추론을 구축한다면 이야기는 달라집니다. 수입된 모든 GPU가 국내 인프라가 되기 때문입니다. 일부 달러 토큰 지출은 루피화 지출이 되고, 일부 마진은 인도 인프라 기업에 남습니다.
일부 AI 역량은 지속적인 외환 노출 없이 인도 스타트업과 기업에 제공될 수 있습니다. 일부 서비스 수출은 더욱 방어 가능해집니다.
마무리
인도의 다음 석유 수입 스타일 청구서는 Jamnagar에 정박하는 유조선에서만 나오는 것이 아닐 수 있습니다.
달러로 지능을 임대하면서 스스로를 AI 네이티브라고 부르는 인도 서비스 기업과 스타트업의 수백만 건의 API 호출에서 분명히 나올 것입니다.
수십 년 동안 인도는 에너지를 수입하고 소프트웨어를 수출했습니다.
하지만 이것은 피할 수 있습니다. 인도가 GPU 조달을 추론 역량과 혼동하는 것을 멈추고, 프로덕션 등급 인프라가 아닌 애국적 주권 브랜딩을 혼동하는 것을 멈추며, AI 청구서가 다른 사람의 문제인 척하는 것을 멈추는 것이 필요합니다. 청구서는 이미 도착하고 있습니다. 제 것은 지난달에 138달러였으며 심하게 보조금이 지원되었습니다. 여러분의 것도 머지않아 그럴 것입니다.
국내 추론은 이제 거시경제적 인프라입니다. 루피화가 그것에 달려 있는 것처럼 전시 동원 태세로 역량을 확충해야 합니다.
