Uzun zamandır bu yazı hakkında bir şeyler yazmayı düşünüyordum ama aylık Claude Max abonelik yenileme e-postamı görünce mecbur kaldım. İnternetteki sınırlı varlığım boyunca (~15 yıl), Claude/ChatGPT hayatıma girene kadar herhangi bir yazılım için ayda 10 dolardan fazla ödemedim.
Ayrıca "tez" denemelerinden gerçekten hoşlanmam ama bu konuda yazmak zorunda kaldım çünkü kimsenin bunun ne kadar büyük bir sorun haline gelmek üzere olduğunu düşündüğünü sanmıyorum; kesinlikle hükümetimizin muhtemelen daha büyük balıkları kızartması gereken (yemeklik yağda değil) üst kademelerinde değil..
Bu haftaki ulusa sesleniş konuşmasında Başbakan, büyüyen CAD'imizi (Cari Açık) vurguladı ve bu durum onu vatandaşlarımıza 'yurtdışına seyahat etmekten kaçının', 'ofis seyahatlerini azaltın' ve 'altın almayın' gibi tavsiyeler vermeye yöneltti. Tüm bunların çıkarımla ne ilgisi var diye sorabilirsiniz?
Yapay zekanın bu şirketlerin marj yapısını kökten nasıl değiştireceği konusunda özellikle BT hizmetlerine zaman ayırmaya başladığımdan beri, Daniel Gross'un 2024 AGI ticareti makalesini düşünmemek elde değil. O makalede Hindistan'ın o zamanki 250 milyar dolarlık BT ihracatını, o zamanlar henüz akıl yürütme yapamayan GPT-4 token'larına eşitliyordu. Günümüzün GPT 5.5 token'ları ise çok daha değerli hale geldi...
Petrodolar bir süredir fiili para birimi kombinasyonu olmuştur. Petrol ve altın ithalatı tarihsel olarak cari açığımızı genişletmeye devam ediyor. Fiyatlar yükseldiğinde rupiyi zayıflatıyor. Petrol, makroekonomistleri, maliye bakanlarını ve merkez bankacılarını haklı olarak tedirgin ediyor. (devam eden savaş, ekonomimizdeki yapısal zayıflığı daha da kötüleştirerek ortaya çıkardı)
Ancak yapay zeka ekonomisi, giderek yeni petrodolara benzeyen yeni bir tür ithalat bağımlılığı yaratıyor - token-dolar
Hindistan'ın hizmet ekonomisi, yazılım, analitik, danışmanlık, BPM, müşteri desteği, uyumluluk, finans operasyonları ve kodlama işlerini sunmak için yabancı model token'larına bağımlı hale gelirse, Hindistan'ın en önemli ihracat motoru için yeni bir dolar cinsinden girdi yaratmış oluyoruz.
Hindistan'ın dünya standartlarında bir yerli çıkarım oyuncusuna ihtiyacı var, çünkü kulağa vatanseverce geliyor veya egemen olmak havalı görünüyor diye değil, rupinin yapay zeka destekli her iş biriminin dolar üzerinden kiralandığı bir geleceği kaldıramayacağı için.
Hindistan'ın makro yastığı hizmetler oldu (şimdilik..)
Hindistan'ın dış hesabının basit bir yapısal sorunu var. Ekonomimiz için gerekli olan çok sayıda önemli malı ithal ediyoruz. Petrol, altın, elektronik, makine, yarı iletkenler, savunma teçhizatı, endüstriyel girdiler. Bu ithalatlar sürekli dolar talebi yaratıyor.
Bizi kurtaran şey her zaman hizmetler oldu; özellikle de BT Hizmetleri (ITeS).
Hindistan, Mali Yıl 26'yı 418,3 milyar dolarlık hizmet ihracatıyla kapattı ve hizmet ithalatına karşılık 213,9 milyar dolarlık net hizmet ticaret fazlası oluştu. Bu fazla, rupinin çok daha önce kırılmamasının tek sebebi. Petrolümüzü, altınımızı, elektroniğimizi, makinelerimizi ödüyor. Maliye Bakanlığı'nın kendi Nisan incelemesi, hizmet fazlasının mal ticaret açığının %64,2'sini dengelediğini kabul ediyor. Tüm dış hesap, hizmet ihracatının sırtında dengeleniyor ve hizmet ihracatı da Hintli geliştiricilerin, analistlerin, destek personelinin ve mühendislerin zamanlarını yabancı müşterilere belirli bir karla satmasıyla dengeleniyor.
Hindistan'ın yıllardır yaşadığı bu makro pazarlık, tam da şu anda kökten bozuluyor..
Hindistan için tembel yapay zeka geleceği, hizmet ihracatını token ithalatına dönüştürüyor
Bugün, Hintli bir BT şirketi küresel bir müşteriden dolar kazanıyor ve maliyet tabanının çoğunu rupi olarak ödüyor.
Yarın, aynı şirket küresel bir müşteriden dolar kazanabilir, ancak bir yapay zeka ajanı akıl yürüttüğünde, kod yazdığında, taslak hazırladığında, kontrol ettiğinde, arama yaptığında, özetlediğinde, sınıflandırdığında veya yanıt verdiğinde her seferinde yabancı bir model şirketine çıkarım için ödeme yapabilir. Önceki dönemin arbitrajı, giderek tokenomik bir dünyada artık geçerli olmayacak..
Risk, Hint şirketlerinin yabancı yapay zeka araçlarını kullanması değil. Zaten kullanıyorlar ve OpenAI ve Anthropic ile imzalanan son Mutabakat Zaptı'na bakılırsa harcamaları artıracaklar. Risk, hizmet sunumundaki kıt girdinin Hint emeğinden yabancı çıkarıma kaymasıdır.
Bu gerçekleştiğinde, Hint BT'si başkasının zekasının yeniden satıcısı haline gelir.
Token'lar ithal ara mallar gibi davranır
Bir token'ı göz ardı etmek kolaydır çünkü Jamnagar'da boşaltılan varil ham petrolün aksine soyut gelir.
Ancak dış hesapta, soyutluk önemli değildir çünkü yinelenen bir dolar ödemesi yine de rupi çıkışı anlamına gelir.
Şimdi bunu Hindistan'ın hizmet sektörüne uyarlayın. Yabancı çıkarım harcamasının %10'u olan 42 milyar dolarlık yıllık bir token faturası, ticaret defterinde petrol gibi görünmez. Ancak büyük bir dış hesap sızıntısı gibi davranır.
Rupi geri bildirim döngüsü
Buna para biriminin değer kaybını da eklediğinizde iş daha da çirkinleşiyor.
Yabancı çıkarım dolar cinsinden fiyatlandırılır. Hint şirketleri genellikle rupi cinsinden kazanır, harcar veya raporlar. Rupi zayıflarsa, dolar cinsinden fiyatlandırılan her token yerel para birimi cinsinden daha pahalı hale gelir.
Bu kısır bir döngü yaratır:
Daha fazla yapay zeka benimsemesi, yabancı çıkarım talebini artırır. Yabancı çıkarım talebi, dolar çıkışını artırır. Dolar çıkışı, dış hesap üzerinde baskı oluşturur. Zayıf bir rupi, yabancı çıkarımı daha pahalı hale getirir. Daha yüksek çıkarım maliyeti, Hint marjlarını sıkıştırır.
Bu nedenle yerli çıkarım sadece egemen bir gösteriş projesi değil, aynı zamanda Hindistan'daki her teknoloji şirketi ve startup için neredeyse bir döviz koruması (FX hedge) gibi çalışır.
GPU DC'leri geleceğin petrol rafinerileridir
Stratejik olarak GPU'lar, yapay zeka ekonomisinin üretken enerji varlıklarına en yakın şeyidir çünkü elektriği, çipleri, modelleri ve yazılımı token'lar biçiminde bilişe/zekaya dönüştürürler. Ve günümüzde ham token'lar giderek artan bir şekilde işi de üretiyor ve yapıyor.
Hesaplama gücünden yoksun bir ülke, zekayı ona sahip olan ülkelerden ve şirketlerden kiralayacaktır. En azından petrol durumunda, sınırlarınız içinde petrol bulmak için ilahi lütfa sahip olmanız gerekiyordu, ancak token üretmek için yalnızca Jensen'ın onayına ve bir Satın Alma Emrine ihtiyacınız var (umarım Lisa Su de işin içinde olur..)
Hindistan'ın dolar cinsinden olmayan güvenilir bir yerli çıkarım pazarı inşa edememesi nedeniyle tüm token'larını ithal etmek zorunda kalacağı çok gerçek bir geleceğe hızla ilerlioruz.
Sadece tedarik bunu çözmeyecek
Hükümet doğru yönde adımlar attı. IndiaAI Misyonu kapsamında, ortak bir hesaplama tesisi için 38.000'den fazla GPU devreye alındı ve startupların, akademik kurumların ve kamu kurumlarının erişimine açıldı. Misyon kapsamındaki GPU'ların saatte 65 ₹ karşılığında kullanılabileceği de belirtildi.
Ancak güçlü bir çıkarım katmanı olmayan bir GPU bulutu, başka bir hükümet portalı haline gelir. Pilot uygulamalar ve manşetler için kullanışlı, üretim kullanım senaryoları için zayıf, geliştiriciler için görünmez, işletmeler için alakasız.
Kamuya açık bir Hint çıkarım platformu nasıl görünürdü? Şunlara sahip olmalıdır:
- Rupi fiyatlandırması.
- En verimli token yöntemiyle sunulan en son teknoloji (SoTA) açık ağırlıklı modeller (vLLM, SGLang, TensorRT vb..)
- Gerçek zamanlı güncellenen halka açık gecikme ve iş hacmi karşılaştırmaları
- Özel dağıtım seçenekleri.
- Hızlı model yenileme döngüleri.
- Hint dili performansı.
- Token başına maliyet değil, çözülen iş akışı başına maliyet.
Kriter basit olmalıdır: Hintli bir geliştirici, uygulamayı yeniden yazmadan, güvenilirlikten ödün vermeden veya model kataloğunun yetişmesi için üç-altı ay beklemeden yabancı bir API'den yerel bir uç noktaya geçebilir mi?
Cevap hayırsa, henüz bir çıkarım platformumuz veya stratejimiz yok demektir.
Bu sefer sınır SoTA LLM ön eğitim oyununu kaçırmış olabiliriz
Hindistan nerede durduğu konusunda dürüst olmalı.
OpenAI, Google, Anthropic, Meta ve Çin'in en güçlü laboratuvarlarına karşı bir sınır modeli eğitmek; hesaplama gücü, yetenek, veri, altyapı, değerlendirme derinliği, dağıtım ve milyarlarca dolar risk sermayesi gerektirir.
Ancak acil makro savaş çıkarımdır çünkü çoğu kurumsal iş akışı dünyanın en zeki modeline ihtiyaç duymaz. Görevi güvenilir bir şekilde çözen en ucuz modele ihtiyaç duyarlar.
Ve GPU'lar bilançonuzda olmadığı sürece çıkarım gerçekten bir para kazanma makinesidir. En son teknoloji çıkarımın bir donanım-yazılım ortak tasarımı olduğu düşünülürse, burada metale yakın olmak yardımcı olur ve işinize yapısal hendekler inşa eder.
Bir arka ofis hasar iş akışı her zaman en son Opus/5.5'e ihtiyaç duymaz. Bir uyumluluk ajanı her zaman maksimum sınır akıl yürütmesine ihtiyaç duymaz. Bir müşteri desteği özetleyicisi her zaman mevcut en pahalı modele ihtiyaç duymaz.
Özel iş akışlarına yönlendirilmiş, önbelleğe alınmış, ince ayar yapılmış, gerçek dünya değerlendirmeleri olan ve daha düşük maliyetle yerel olarak sunulan güçlü bir açık ağırlıklı model, Hint kurumsal iş yüklerinin büyük bir kısmını kazanabilir.
Hindistan'ın hala bir penceresi olan yer burasıdır. Çin bunu yaklaşık 2 yıl önce LLM'lerle ve 15 yıl önce bulut bilişim altyapısıyla fark etti.
Çinli teknoloji devleri, model eğitimi konusunda sessiz kalamayacaklarını ve kontrolü batıya kaptıramayacaklarını fark ettiler - son H200 alımları ve Huawei'nin yerli NPU'larına odaklanmaları, bu yaklaşan ithalat vergisini ne kadar ciddiye aldıklarını gösteriyor. Bizim üst düzey liderlerimiz ise ön eğitimi bırakıp kullanım senaryolarını sevmeyi öğrenmemiz gerektiği konusunda nutuk atarken, gösterebilecekleri gerçek bir çıkarım kapasiteleri yok..
ABD çıkarım katmanını zaten derinlemesine anlıyor ve çıkarım araştırma laboratuvarlarına dönüşüyor..
Together (Baş Bilim İnsanları Tri Dao, Flash Attention'ın beynidir), Fireworks (Cursor çapa müşterisiyle RL sonrası eğitim), Baseten, DeepInfra, Modal ve şimdi de vLLM (Inferact) ve SGLang (Radixark) yüz milyonlarca dolar fon toplayarak açık ağırlıklı modeller etrafında yüksek performanslı çıkarım katmanları inşa ediyorlar - fiilen çıkarım neo-laboratuvarları haline geliyorlar.
Model kataloglarını hızla güncelliyorlar. Gecikme, maliyet ve geliştirici deneyimi konusunda rekabet ediyorlar. NVIDIA'nın kendisi, Blackwell sistemlerinde optimize edilmiş çıkarım yoluyla token maliyetlerini düşürdükleri için Baseten, DeepInfra, Fireworks ve Together gibi şirketleri vurguladı.
Dünya geleneksel olarak BT hizmetleri sunma yeteneğimizi tanımasına rağmen, tek bir Hint şirketi bu ölçekte faaliyet göstermiyor.
Sonuç olarak, ciddi bir geliştiricinin, bankanın, SaaS şirketinin, BT satıcısının veya devlet dairesinin ilk başvuru noktası olarak güvenebileceği varsayılan yerli çıkarım platformundan hala yoksunuz.
Simplismart, Neysa ve Yotta gibi oyuncularımız olsa da, platformlarına hızlı bir bakış, tüm farklı parametrelerde ne kadar geride olduğumuzu gösteriyor.
Hintli mevcut oyuncu sorunu
Hindistan'ın büyük GPU ve bulut oyuncuları çıkarıma bir katalog sayfası gibi davranmaya devam edemez. Dünya Llama'dan Qwen'e, DeepSeek'ten Kimi'ye, önümüzdeki ay ne çıkarsa ona (Xiaomi'nin artık bir sınır açık ağırlıklı modeli var!!) geçerken, Hint çıkarım sağlayıcıları model kataloglarını KİT tedarik hızında güncelleyemez.
Yerli çıkarım, yabancı çıkarımla aynı standartta tutulmalıdır.
- Hindistan'a özgü iş yüklerinin önemli olduğu yerlerde daha iyi.
- Rupi ekonomisinin önemli olduğu yerlerde daha ucuz.
- Düzenlemenin önemli olduğu yerlerde özel.
- Model performansının önemli olduğu yerlerde güncel.
Bu bir politika sorunu ve aynı zamanda bir startup fırsatı
İyi haber şu ki bu inşa edilebilir ve okyanusu kaynatmamıza gerek yok.
Anthropic, Google ve OpenAI'in tamamının Hindistan'ı yapay zeka harcamaları için ikinci büyük pazar olarak gördüğünü zaten biliyoruz - iştah açıkça orada. ElevenLabs, Hindistan'da yalnızca ses çıkarımı satarak yıllık 100 milyon dolar gelir elde etme yolunda ilerliyor.
IndiaAI misyonu doğru yolda başlamış olsa da, bir yerde lastik yola tutunamadı - çünkü sadece GPU tedarik etmenin yeterli olduğunu düşündük.
Sübvansiyonlu hesaplama gücü, logo toplamak için değil, gerçek üretim kullanımını ödüllendirmelidir.
Soru şu: Sonuçta marjı kim yakalıyor (Jensen dışında). Yabancı model şirketleri token marjını, yabancı bulutlar altyapı marjını yakalarsa ve Hint şirketleri entegrasyon marjını elinde tutarsa, o zaman yapay zeka sahip olduğumuz tek avantajı (işgücü arbitrajı) yer ve dışa bağımlılığımızı daha da kötüleştirir.
Hindistan yerli çıkarım inşa ederse, hikaye değişir çünkü ithal edilen tüm GPU'lar yerel altyapı haline gelir - Bir miktar dolar token harcaması rupi harcamasına dönüşür ve marjın bir kısmı Hint altyapı şirketlerinde kalır.
Bazı yapay zeka yetenekleri, sürekli döviz riski olmadan Hint startuplarına ve işletmelerine sunulabilir hale gelir. Bazı hizmet ihracatı daha savunulabilir hale gelir.
Kapanış
Hindistan'ın bir sonraki petrol ithalatı benzeri faturası sadece Jamnagar'a yanaşan tankerlerden gelmeyebilir.
Kesinlikle, kendilerine yapay zeka yerlisi diyen ancak zekayı dolar üzerinden kiralayan Hint hizmet şirketleri ve startupları tarafından yapılan milyonlarca API çağrısından gelecek.
On yıllardır Hindistan enerji ithal etti ve yazılım ihraç etti.
Ancak bu önlenebilir. Bunun için Hindistan'ın GPU tedarikini çıkarım kapasitesiyle karıştırmayı bırakması, üretim seviyesinde altyapı OLMAYAN vatansever egemen markalaşmayı karıştırmayı bırakması ve yapay zeka faturasının başkasının sorunu olduğunu iddia etmeyi bırakması gerekiyor. Fatura çoktan geliyor. Benimki geçen ay büyük ölçüde sübvanse edilmiş 138 dolardı. Sizinki yakın gelecekte öyle olmayacak.
Yerli çıkarım artık makroekonomik bir altyapıdır. Rupi buna bağlıymış gibi savaş temposunda kapasiteyi artırmalıyız.
