AI altyapısına harcadığım her kuruşu takip ediyorum. Geçen yıl, bir kalem giderek büyüyordu: bulut GPU kiralama. Üçüncü çeyrekte ayda 1.900 dolara ulaşmıştı - ve bu işi yaratan müşterilere fatura kesen bendim.
Bu matematik tutmuyor. İşletme giderlerinizin %40'ını başkasının veri merkezine vererek iş kuramazsınız.
Sonra bir DGX Spark satın aldım. İşte dökümü.
1 / DGX Spark Aslında Nedir?
NVIDIA, 2025 yılı boyunca veri merkezi donanımını bir masaüstüne sığdırmak için çalıştı. Bunu Ocak ayında CES'te Project DIGITS olarak duyurdular, Mart ayında GTC'de DGX Spark olarak yeniden adlandırdılar ve Ekim ayında sevkiyata başladılar. Sonuç, 150×150×50mm boyutlarında, 1.2kg ağırlığında ve standart bir duvar prizinden çalışan bir kutudur.
Özellikler:
Bileşen
Detay
Yonga
GB10 Grace Blackwell Superchip
AI hesaplama
1 PFLOP (FP4)
CPU
20 çekirdekli ARM (Grace)
Bellek
128GB LPDDR5x, birleşik
Depolama
4TB Gen5 NVMe
Ağ
ConnectX-7 (iki üniteyi birbirine bağlama)
Güç tüketimi
Yük altında ~150–240W
Fiyat
2.999$
Petaflop rakamı bir pazarlama değeridir. Asıl önemli olan sayı 128GB birleşik bellektir.
Tüketici GPU'larının sert bir tavanı vardır. Bir 4090 size 24GB VRAM verir - model bundan daha büyük olduğu an yüklenmez. Bir 5090 tavanı 32GB'a çıkarır. Spark bunu 128GB'a koyar, yani 2.000$'lık bir tüketici kartının açamayacağı modelleri çalıştırır.
2 / Bellek Duvarı, Açıklaması
İşte 128GB birleşik belleğin gerçekte nelerin kilidini açtığı:
- Llama 3.3 70B - tam BF16 hassasiyeti, nicemleme hilesi gerekmez
- Qwen 3 (30B–110B aralığı) - rahatça sığar
- DeepSeek sınıfı modeller 200B'ye kadar - nicemlenmiş, sağlam çalışır
- FLUX.1 görüntü oluşturma - evet
- 405B parametre - ConnectX-7 üzerinden bağlı iki Spark
Bir tüketici GPU'su, sıkıştırılmış bir 30B civarında tıkanır. Spark tam olarak bu tavanın bittiği yerden başlar. Bu boşluk, bir tane satın almanın tüm gerekçesidir.
3 / Matematik: 22.000$ Nereden Geliyor?
Ciddi AI iş yükleri için bulut GPU maliyetleri:
Görev
Aylık maliyet
A100 80GB, yarı zamanlı
600–1.200$
H100 ince ayar çalıştırmaları için
1.000–2.500$
Barındırılan 70B çıkarımı
300–900$
Kapatmayı unuttuğunuz örnek
sürpriz
Bir AI geliştiricisi için gerçekçi toplam
1.500–3.000$
Aynı iş yüklerinde DGX Spark:
Kalem
Maliyet
Donanım
2.999$ (bir kere)
~200W'da güç
8–15$/ay
Bulut kiralama
0$
Satın alma sonrası aylık
~10$
Ayda 1.900$ bulut maliyetiyle Spark, kendini 7 haftadan kısa sürede amorti eder.
Bundan sonra: Eskiden işinizden çıkan ayda 1.890$, işinizde kalır. Aynı müşteri işi üzerinde. Aynı faturalar kesilirken.
Birinci yıl işinize geri yönlendirilen toplam: 22.680$.
4 / Yazılım Katmanı Sorun Değil
Spark, DGX OS'yi çalıştırır - NVIDIA'nın tam AI yığını önceden yüklenmiş Ubuntu yapısı: CUDA, NIM, NeMo. Ollama, vLLM, PyTorch, Hugging Face ve llama.cpp, ilk günden itibaren değişiklik yapılmadan çalışır.
Zaten bir bulut uç noktası kullanıyorsanız, geçiş tek bir satır değişikliğidir:
1# Önce: saat başı ödeme2client = OpenAI(base_url="https://some-gpu-host/v1", api_key="sk-...")34# Sonra: masanızda, sayaç kapalı5client = OpenAI(base_url="http://localhost:11434/v1", api_key="local")
Aynı kod yolu. Aynı JSON çıktısı. Aynı davranış. Hiçbir şey faturalanmaz. Hiçbir şey binayı terk etmez.
5 / Maliyet Tasarrufunun Ötesinde İş Gerekçesi
Spark sadece bir maliyet düşürücü değil. Daha önce serbestçe çalıştırılamayacak kadar pahalı olan işlerin önündeki ekonomik engeli kaldırır.
Müşteriler için AI işi yapıyorsanız:
Eskiden 400$'lık bulut faturası olan ince ayar çalıştırmaları artık ücretsiz. Gece boyunca çalıştırın. Farklı hiperparametrelerle üç varyant çalıştırın. Sabah hiçbir fatura gelmez. Bir müşterinin tüm özel kod tabanında özel bir kodlama aracısı veya tüm ekibin kullandığı her zaman açık bir asistan dağıtabilirsiniz - ve birim maliyetiniz elektrik, API token'ları değil. İlk müşteriden sonraki her müşteri saf kârdır.
Hassas verilerle çalışıyorsanız:
Bu, çoğu kişinin hafife aldığı açıdır. Sözleşmeler. Hukuki belgeler. Hasta kayıtları. Finansal veriler. Asla genel bir API üzerinden göndermeyeceğiniz, bir Gizlilik Sözleşmesi (NDA) kapsamındaki herhangi bir şey. Spark'ta bu veriler ağınızı asla terk etmez. Tamamen sahibi olduğunuz bir makineyi hiçbir hizmet şartı yönetmez.
"Verileriniz binayı asla terk etmez" ifadesi, bulut sağlayıcılarının dokunamayacağı düzenlemeye tabi sektör anlaşmalarını kapatır. Hukuk firmaları, klinikler, mali danışmanlar - bu müşteriler bu garanti için anlamlı bir prim ödeyecektir.
Kimsenin bahsetmediği zihniyet değişimi:
Bulut fiyatlandırması sizi hesaplamayı karneye bağlamaya iter. Bir aracının döngüye girmesine, tam bir arşivi yeniden çalıştırmasına, işe yaramayabilecek bir fikir üzerinde ince ayar yapmasına izin vermeden önce tereddüt edersiniz. Her çalıştırmanın bir dolar maliyeti vardır, bu yüzden daha az çalıştırırsınız.
Kutunun sahibi olun ve bu tereddüt ortadan kalkar. Çoğu zaman, en iyi iş bu tereddütün arkasındaydı.
6 / Spark'ın Olmadığı Şeyler
Sınırlamalar konusunda doğrudan olmak gerekirse:
- Ham hız - 5090, 32GB VRAM'ine sığan her şeyde daha hızlıdır
- Ölçek - binlerce eşzamanlı kullanıcıya hizmet vermek hâlâ veri merkezi işidir
- 405B'nin ötesindeki sınır modelleri - bağlı iki Spark 405B'yi işler; bunun ötesinde farklı donanıma ihtiyacınız vardır
- Düşük hacimli kullanıcılar - API çağrılarına ayda 20$ harcıyorsanız, bu doğru araç değildir
Dürüst eşik: Ayda 1.000$+ bulut GPU harcaması, Spark'ın bariz bir karar haline geldiği yerdir. Ayda 500$'ın altında, bir tüketici kartı veya API erişimi daha akıllıca bir harekettir. Kutu, ciddi iş yükleri için doğru boyuttadır, sıradan kullanım için değil.
7 / Farklı Harcama Seviyelerinde Geri Ödeme
Aylık bulut alışkanlığı
Geri ödeme süresi
1.900$/ay
~6 hafta
1.000$/ay
~3 ay
500$/ay
~6 ay
200$/ay
Bulutta kalın
8 / Daha Geniş Resim
2024'te, 70B'lik bir modeli çalıştırmak ya bir veri merkezi ya da ayda 1.900$'lık bir bulut faturası gerektiriyordu. 2026'da, bir kitap boyutunda 2.999$'lık bir kutu ve bir duvar prizi gerektiriyor.
NVIDIA, DGX Spark'ı kasten 2.999$ olarak fiyatlandırdı - bir sonraki AI ürünleri neslinin kendi silikonları üzerinde, yerel olarak, ölçekte inşa edilmesini istiyorlar. Jensen, ilk üniteleri bizzat Musk ve Altman'a teslim etti. Dell, HP, ASUS ve Lenovo'nun tamamı kendi GB10 makinelerini üretiyor. Yazılım yığını neredeyse her hafta bu çip için optimize ediliyor.
Bulut GPU fiyatları düşmüyor. Veri gizliliği gereksinimleri sıkılaşıyor. Müşteriler, bir şey imzalamadan önce verilerinin fiziksel olarak nereye gittiğini giderek daha fazla sorguluyor.
2026'da bir masada sınır sınıfı modelleri çalıştıran insanlar, 2028'de ileri görüşlü görünecek.
Aritmetik basit: Bir kere 2.999$'a karşı her ay 1.900$. Kutu, ilk çeyrek bitmeden kendini amorti eder, ardından ihtiyacınız olduğu sürece ayda 10$'a çalışır.
İşte takas. Keşke bir yıl önce yapsaydım.
Bu faydalıysa @cryptowluha'yı takip edin
Gömülmeden önce bunu yer imlerine ekleyin. Bu faydalıysa, ihtiyacı olan bir kişiyle paylaşın.
