Ho voluto scrivere di questo pezzo da molto tempo, ma sono stato bruscamente costretto a farlo quando ho visto l'email di rinnovo mensile del mio abbonamento a Claude Max. Nella mia limitata esistenza su internet (~15 anni) non ho mai pagato più di $10 al mese per un software, finché Claude/ChatGPT non sono entrati nella mia vita.
Detesto anche sinceramente i saggi "tesi", ma mi sono sentito obbligato a scrivere di questo perché credo che nessun altro stia pensando a quanto grande stia per diventare questo problema; sicuramente non ai vertici del nostro governo, che probabilmente hanno problemi più grossi da risolvere (non nell'olio da cucina).
Con il discorso alla nazione di questa settimana, il Primo Ministro ha sottolineato il nostro crescente CAD (deficit delle partite correnti), che lo ha spinto a consigliare ai nostri concittadini di "non viaggiare all'estero", "ridurre gli spostamenti per lavoro" e "non comprare oro", ecc. Come si collega tutto questo all'inferenza, potreste chiedervi?
Da quando ho iniziato a dedicare tempo ai servizi IT, specialmente a come l'IA avrebbe radicalmente sconvolto la struttura dei margini di queste aziende, è stato difficile non pensare al saggio di Daniel Gross del 2024 sui "AGI trades", in cui equiparava le allora esportazioni IT indiane da $250 miliardi ai token di GPT-4 (che all'epoca non ragionavano nemmeno). I token di GPT 5.5 di oggi sono diventati molto più preziosi...
Il petrodollaro è stata per un po' la combinazione valutaria di fatto. Le importazioni di petrolio e oro storicamente continuano ad ampliare il nostro deficit delle partite correnti. Indeboliscono la rupia quando i prezzi salgono. Il petrolio mette in ansia i macroeconomisti, i ministri delle finanze e i banchieri centrali per un motivo. (la guerra in corso ha esposto la debolezza strutturale della nostra economia, peggiorando le cose)
Ma l'economia dell'IA sta creando un nuovo tipo di dipendenza dalle importazioni che assomiglia sempre più al nuovo petrodollaro: il token-dollaro.
Se l'economia dei servizi indiana inizia a dipendere dai token di modelli esteri per fornire software, analisi, consulenza, BPM, assistenza clienti, conformità, operazioni finanziarie e lavoro di codifica, allora stiamo creando un nuovo input denominato in dollari per il motore di esportazione più importante dell'India.
L'India non ha bisogno di un player di inferenza nazionale di livello mondiale perché suona patriottico o perché "sovrano" è cool, ma perché la rupia non può permettersi un futuro in cui ogni unità di lavoro abilitato dall'IA viene affittata in dollari.
Il cuscinetto macroeconomico dell'India sono stati i servizi (per ora...)
Il conto estero dell'India ha un semplice problema strutturale. Importiamo molti beni importanti essenziali per la nostra economia. Petrolio, oro, elettronica, macchinari, semiconduttori, attrezzature per la difesa, input industriali. Queste importazioni creano una domanda costante di dollari.
La cosa che ci salva sono sempre stati i servizi; in particolare l'ITeS.
L'India ha chiuso l'anno fiscale 2026 con esportazioni di servizi per $418,3 miliardi contro importazioni di servizi che hanno prodotto un surplus netto del commercio di servizi di $213,9 miliardi. Quel surplus è l'unica ragione per cui la rupia non si è rotta molto prima. Paga il nostro petrolio, il nostro oro, la nostra elettronica, i nostri macchinari. La stessa revisione di aprile del Ministero delle Finanze ammette che il surplus dei servizi compensa il 64,2% del deficit commerciale delle merci. L'intero conto estero si regge sulle esportazioni di servizi, e le esportazioni di servizi si reggono su sviluppatori, analisti, personale di supporto e ingegneri indiani che vendono tempo a clienti esteri con un margine.
Questo accordo macroeconomico con cui l'India ha convissuto per anni sta venendo radicalmente sconvolto in questo momento...
Il pigro futuro IA per l'India converte le esportazioni di servizi in importazioni di token
Oggi, un'azienda IT indiana guadagna dollari da un cliente globale e paga la maggior parte della sua base di costo in rupie.
Domani, la stessa azienda potrebbe guadagnare dollari da un cliente globale, ma pagare un'azienda di modelli estera per l'inferenza ogni volta che un agente IA ragiona, codifica, scrive bozze, controlla, cerca, riassume, classifica o risponde. L'arbitraggio dell'era precedente non reggerà più in un mondo sempre più tokenomico.
Il rischio non è che le aziende indiane utilizzino strumenti IA esteri. Lo fanno già e aumenteranno la spesa, a giudicare dai recenti MoU firmati con OpenAI e Anthropic. Il rischio è che l'input scarso nella fornitura di servizi si sposti dal lavoro indiano all'inferenza estera.
Una volta che ciò accade, l'IT indiano diventa un rivenditore dell'intelligenza di qualcun altro.
I token si comportano come beni intermedi importati
Un token è facile da liquidare perché sembra astratto, a differenza dei barili di petrolio greggio che scaricano a Jamnagar.
Ma nel conto estero, l'astrazione non ha importanza, poiché un pagamento ricorrente in dollari è comunque un deflusso di rupie.
Ora mappiamo questo sull'industria dei servizi indiana. Una fattura annuale di token da $42 miliardi al 10% della spesa per inferenza estera non sembrerebbe petrolio nel registro commerciale. Ma si comporterebbe come una grossa perdita nel conto estero.
Il ciclo di feedback della rupia
Questo diventa ancora più brutto quando si aggiunge il deprezzamento della valuta.
L'inferenza estera è prezzata in dollari. Le aziende indiane spesso guadagnano, spendono o riportano in rupie. Se la rupia si indebolisce, ogni token prezzato in dollari diventa più costoso in termini di valuta locale.
Questo crea un circolo vizioso:
Una maggiore adozione dell'IA aumenta la domanda di inferenza estera. La domanda di inferenza estera aumenta il deflusso di dollari. Il deflusso di dollari aggiunge pressione sul conto estero. Una rupia più debole rende l'inferenza estera più costosa. Un costo di inferenza più elevato comprime i margini indiani.
Ecco perché l'inferenza nazionale non è solo un progetto di vanità sovrana, ma agisce quasi come una copertura di cambio (FX) per ogni azienda tech e startup in India.
I data center GPU sono le raffinerie di petrolio del futuro
Strategicamente, le GPU sono la cosa più vicina che l'economia dell'IA abbia ad asset energetici produttivi, perché trasformano elettricità, chip, modelli e software in cognizione/intelligenza sotto forma di token. E ora i token grezzi, al giorno d'oggi, producono e svolgono sempre più il lavoro.
Un paese che manca di potenza di calcolo affitterà intelligenza da paesi e aziende che ce l'hanno. Almeno nel caso del petrolio, dovevi avere benedizioni divine per trovare petrolio entro i tuoi confini, ma per produrre token hai solo bisogno della benedizione di Jensen e di un ordine di acquisto (speriamo che Lisa Su sia all'altezza...).
Stiamo rapidamente andando verso un futuro molto reale in cui l'India sarà costretta a importare tutti i suoi token perché non è riuscita a costruire un mercato di inferenza nazionale affidabile che non sia denominato in dollari.
Solo gli appalti non risolveranno questo problema
Il governo si è mosso nella giusta direzione. Con la missione IndiaAI, sono state inserite più di 38.000 GPU per una struttura di calcolo comune, con accesso reso disponibile a startup, università e istituzioni pubbliche. Le GPU nell'ambito della missione sono state anche descritte come disponibili a ₹65 l'ora.
Ma un cloud GPU senza un forte livello di inferenza diventa un altro portale governativo. Utile per progetti pilota e titoli, debole per casi d'uso di produzione, invisibile per gli sviluppatori, irrilevante per le imprese.
Come sarebbe una piattaforma di inferenza pubblica indiana? Dovrebbe avere:
- Prezzi in rupie.
- Modelli open-weight all'avanguardia serviti nel modo più efficiente in termini di token (vLLM, SGLang, TensorRT, ecc...)
- Benchmark pubblici di latenza e throughput aggiornati in tempo reale.
- Opzioni di distribuzione privata.
- Cicli rapidi di aggiornamento dei modelli.
- Prestazioni nelle lingue indiane.
- Costo per flusso di lavoro risolto, non solo costo per token.
Il benchmark dovrebbe essere semplice: uno sviluppatore indiano può passare da un'API estera a un endpoint nazionale senza riscrivere l'applicazione, sacrificare l'affidabilità o aspettare tre-sei mesi che il catalogo dei modelli si aggiorni?
Se la risposta è no, NON abbiamo ancora una piattaforma o una strategia di inferenza.
Potremmo aver perso il gioco del pre-training dei modelli LLM all'avanguardia questa volta
L'India dovrebbe essere onesta su dove si trova.
Addestrare un modello all'avanguardia contro OpenAI, Google, Anthropic, Meta e i laboratori più forti della Cina richiede potenza di calcolo, talento, dati, infrastruttura, profondità di valutazione, distribuzione e miliardi di dollari di capitale di rischio.
Ma la battaglia macroeconomica immediata è l'inferenza, perché la maggior parte dei flussi di lavoro aziendali non ha bisogno del modello più intelligente sulla terra. Hanno bisogno del modello più economico che risolva il compito in modo affidabile.
E l'inferenza è davvero una macchina da soldi, fintanto che le GPU non sono nel tuo bilancio. Considerando che l'inferenza all'avanguardia è un co-design hardware-software, essere il più vicino possibile al metallo qui aiuta e costruisce fossati strutturali per la tua attività.
Un flusso di lavoro di back-office per le richieste di risarcimento non ha sempre bisogno dell'ultimo Opus/5.5. Un agente di conformità non ha sempre bisogno del massimo ragionamento all'avanguardia. Un riassuntore per l'assistenza clienti non ha sempre bisogno del modello più costoso disponibile.
Un modello open-weight robusto, instradato, memorizzato nella cache e ottimizzato per flussi di lavoro personalizzati, con valutazioni nel mondo reale e servito localmente a costo inferiore, può conquistare una grande fetta dei carichi di lavoro aziendali indiani.
È qui che l'India ha ancora una finestra. La Cina lo ha capito circa 2 anni fa con i LLM e 15 anni fa con l'infrastruttura di cloud computing.
I grandi player tecnologici cinesi hanno capito che non possono stare in silenzio e cedere il controllo all'Occidente con l'addestramento dei modelli: i recenti acquisti di H200 e la loro attenzione sulle NPU domestiche di Huawei mostrano anche quanto seriamente trattino questa imminente tassa sulle importazioni. I nostri leader di vertice sono impegnati a pontificare su come dovremmo smettere di fare pre-training e imparare ad amare i casi d'uso senza alcuna reale capacità di inferenza da mostrare...
Gli Stati Uniti comprendono già profondamente il livello di inferenza e stanno diventando laboratori di ricerca sull'inferenza...
Together (Tri Dao, il loro Chief Scientist, è la mente dietro Flash Attention), Fireworks (post-training RL con Cursor come cliente di riferimento), Baseten, DeepInfra, Modal e ora con vLLM (Inferact) e SGLang (Radixark) che stanno raccogliendo centinaia di milioni di dollari in finanziamenti, stanno costruendo livelli di inferenza ad alte prestazioni attorno a modelli open-weight, diventando di fatto neo-laboratori di inferenza.
Aggiornano rapidamente i cataloghi dei modelli. Competono su latenza, costo ed esperienza sviluppatore. NVIDIA stessa ha evidenziato aziende come Baseten, DeepInfra, Fireworks e Together per aver ridotto i costi dei token attraverso un'inferenza ottimizzata sui sistemi Blackwell.
Nemmeno una singola azienda indiana opera a questa scala, anche quando il mondo ha tradizionalmente riconosciuto la nostra capacità di fornire servizi IT.
Di conseguenza, ci manca ancora la piattaforma di inferenza nazionale predefinita di cui uno sviluppatore serio, una banca, un'azienda SaaS, un fornitore IT o un dipartimento governativo possa fidarsi come primo punto di riferimento.
Mentre abbiamo realtà come Simplismart, Neysa e Yotta, uno sguardo rapido alle loro piattaforme mostra quanto siamo indietro su tutti i diversi parametri.
Il problema degli incumbent indiani
I grandi player indiani di GPU e cloud non possono continuare a trattare l'inferenza come una pagina di catalogo. Se il mondo sta passando da Llama a Qwen a DeepSeek a Kimi a qualunque cosa arrivi il mese prossimo (Xiaomi ora ha un modello open-weight all'avanguardia!!), i fornitori di inferenza indiani non possono aggiornare i cataloghi dei modelli alla velocità degli appalti delle PSU.
L'inferenza nazionale dovrebbe essere tenuta allo stesso standard dell'inferenza estera.
- Migliore, dove contano i carichi di lavoro specifici dell'India.
- Più economica, dove conta l'economia della rupia.
- Privata, dove conta la regolamentazione.
- Attuale, dove conta la performance del modello.
Questo è un problema di policy e un'opportunità per le startup
La buona notizia è che è realizzabile e non dobbiamo prosciugare l'oceano.
Sappiamo già che Anthropic, Google e OpenAI considerano tutte l'India come il loro secondo mercato più grande per la spesa in IA: l'appetito è chiaramente presente. ElevenLabs è sulla buona strada per realizzare $100 milioni di entrate annuali in India vendendo puramente inferenza vocale.
Mentre la missione IndiaAI è partita sulla giusta strada, da qualche parte la gomma non ha toccato l'asfalto, perché abbiamo pensato che procurarsi GPU da sole fosse sufficiente.
Il calcolo sovvenzionato dovrebbe premiare l'utilizzo effettivo in produzione, non la raccolta di loghi.
La domanda è: chi cattura il margine alla fine (a parte Jensen). Se le aziende di modelli estere catturano il margine dei token, i cloud esteri catturano il margine dell'infrastruttura e le aziende indiane mantengono il margine di integrazione, allora l'IA divora l'unico vantaggio che abbiamo (l'arbitraggio del lavoro), peggiorando la nostra dipendenza estera.
Se l'India costruisce l'inferenza nazionale, la storia cambia, poiché tutte le GPU importate diventano infrastruttura nazionale. Parte della spesa in token in dollari diventa spesa in rupie e parte del margine rimane alle aziende di infrastruttura indiane.
Parte della capacità IA diventa disponibile per startup e imprese indiane senza una costante esposizione al cambio. Parte delle esportazioni di servizi diventa più difendibile.
Conclusione
La prossima bolletta in stile importazione di petrolio dell'India potrebbe non provenire solo dalle petroliere che attraccano a Jamnagar.
ARRIVERÀ sicuramente da milioni di chiamate API effettuate da aziende di servizi e startup indiane che si definiscono native IA mentre affittano intelligenza in dollari.
Per decenni, l'India ha importato energia ed esportato software.
Ma questo è evitabile. Richiede che l'India smetta di confondere l'approvvigionamento di GPU con la capacità di inferenza, smetta di confondere il branding patriottico sovrano che NON è infrastruttura di livello produttivo, e smetta di fingere che la bolletta dell'IA sia un problema di qualcun altro. La bolletta sta già arrivando. La mia era di $138 il mese scorso, pesantemente sovvenzionata. La vostra non lo sarà presto, nel prossimo futuro.
L'inferenza nazionale è ora infrastruttura macroeconomica. Dobbiamo aumentare la capacità con urgenza bellica, come se la rupia dipendesse da essa.
