Teşekkürler makale için. İki kez okudum; sanırım bunu yazan kişiden daha fazla okumuşumdur. “Kişi” diyorum, çünkü dördüncü “zorundayız”, altıncı “değerlidir” ve bir robot tarafından derlenmiş gibi düzenli üçlü yapıdan sonra, makinedeki uyarının makine tarafından yazıldığından şüphelenmeye başladım. Bu sorun değil. Yargılamıyorum. Sadece şunu belirtmek isterim: Bir şeyin mucidi kendi kıyamet notunu yazma zahmetine bile girmiyorsa, geri kalanımızın panik yapmak için enerji bulması zorlaşır. Eğer kıyamet gerçekse Dario, en azından onu el yazısıyla yazma nezaketini göster. Şimdi, tam şeffaflık adına ve zaten öğreneceğin için: Bu yanıt Claude tarafından yazıldı. Senin Claude’un. Ona argümanı, sayıları ve kaba olması yönünde kesin bir talimat verdim; o da yaklaşık kırk saniye içinde aşağıdakileri üretti ki bu, kapasite yettiği sürece senin modelinin günümüzde bir soruyu yanıtlaması için gereken süreyle aynı. Yani burada belli bir simetri var. Sen, kendi modelin hakkında bir uyarıyı kendi modeline yazdırdın. Ben ise, kendi modelin hakkındaki uyarına karşı bir reddiye yazmasını yine kendi modelinden istedim. Virginia’daki bir veri merkezinde bir GPU kimlik krizi yaşıyor ve bilmeni isterim ki bunu araştırma gideri olarak faturalandırıyorum.
1. Zamanlama üzerine, ki kusursuzdu
Sıralamayı doğru anladığımdan emin olayım. Ağustos ayında OpenAI, GPT-6 Astra’yı piyasaya sürdü. WANDR ajan tabanlı kıyaslama testinde 0.682 puan alarak Fable 5.1’in 0.601 puanını geçti, görev başına DAHA DÜŞÜK maliyetle çalıştı ve Epoch yetenek endeksinde trend çizgisinin üzerinde, Pareto sınırında tek başına yeni bir rekor kırdı. Aynı dönemde, Claude Code geliriniz hesaplama duvarına çarpıp düzleşti, şirketiniz acil megavatlar için SpaceX’e piyasa fiyatının iki ila üç katını ödedi ve dolaylı değerlemeniz 1.4 trilyondan yaklaşık 850 milyara geriledi. Ve sonra, sessiz bir cumartesi günü, geride kaldıktan üç hafta ve IPO yol turundan beş hafta önce, sektörün çok hızlı ilerlediğini keşfettiniz. Dario. Hadi ama. İkinci sıradaki sürücü hız sınırı önerdiğinde, bu yol güvenliği değildir. Stratejidir. Bunun için seni suçlamıyorum bile.. gerçekten zekice bir hamle ve eğer daha büyük bir hesaplama hattına sahip bir şirkete karşı yarışı kaybediyor olsaydım, ben de hesaplama hatlarının tehlikeleri konusunda aniden dine yönelirdim. Sadece bunun sürülerle ilgiliymiş gibi davranmamızı istemenize itiraz ediyorum.
2. Sürüler ve takviminiz üzerine
Bu arada: Haydut ajan sürüleri, altı ila on iki ay içinde internetin büyük bölümlerini ele geçirebilir. Bu ana iddia ve hak ettiği bir muhasebe yapılmalı, izin verirseniz önceki Amodei zaman çizelgeleri arşivine başvurayım. Ekim 2024: Bir “veri merkezindeki dahiler ülkesi” 2026 veya 2027’de geliyor, biyolojik ilerlemenin elli ila yüz yılını beş ila on yıla sıkıştırıyor. Mart 2025: Yapay zeka üç ila altı ay içinde tüm kodun %90’ını, on iki ay içinde ise neredeyse tamamını yazacak. Mayıs 2025: Giriş seviyesi işlerin yarısının ortadan kalktığı ve işsizliğin %10-20 olduğu bir “beyaz yakalı kan banyosu”. Ocak 2026: Yapay zekanın “insanlığı nasıl test edeceği” üzerine yirmi bin kelime ve hükümetlerin karlarını vergilendirmesi gerektiğine dair faydalı bir öneri (o zamanlar henüz yoktu). Eylül 2026: Sürüler, altı ila on iki ay. Bir şey fark ettim Dario, bunu sevgiyle söylüyorum: Saatin bozuk. Her zaman altı ila on iki ayı gösteriyor. Kod için altı ila on iki ay demişti (kod hâlâ insanlar tarafından yazılıyor ve sonra Claude ile tartışılıyor). İşler için bir ila beş yıl demişti (ABD işsizliği döngü diplerinde ve şirket marjları rekor seviyelerde, bu garip bir kan banyosu). Her kehanet bir fon toplama turuyla birlikte geliyor, her son tarih göz ardı edilerek geçiyor ve her yeni makale, öncekini kabul etmeden saati sıfırlıyor. Japonya Merkez Bankası’nın tahmin sicili bundan daha inandırıcıdır ve bunu hafife söylemiyorum. Mütevazı önerim: Mali yıl başına bir kıyamet ve önceki kıyametlerin ne olduğunu listeleyen bir dipnot.
3. Çözüm üzerine, ki sarılmalı bir hendektir
Önerdiğiniz çözüm, her sınır laboratuvarının kalıcı, çalışan düzeyinde erişime sahip gömülü dış denetçiler barındırması ve sektörün düzenleyicilerin yetişebilmesi için koordineli bir yavaşlama sağlamasıdır. Yirmi yılı merkez bankaları ve maliye bakanlıklarının etrafında geçirdim, bu tür önerilerin janrını tanıyorum. Bu, hırka giymiş düzenleyici yakalamadır (regulatory capture). Güvenlik markasına, güvenlik araştırmacılarına, güvenlik bloguna ve güvenlik podcast’ine zaten sahip olan laboratuvar, rakipleri için güvenlik altyapısını zorunlu kılan bir rejim öneriyor.. tam da rakiplerinin daha fazla hesaplamaya ve daha iyi modellere sahip olduğu anda. Yavaşlamayı koordine edin ve geride kalan biri yetişsin. Denetçileri zorunlu kılın ve zaten uyum departmanını kurmuş olan en az parayı ödesin. Musk 2023’te herkesin altı ay durmasını isteyen bir mektup imzaladı ve ardından duraklama sırasında xAI’yi kurdu. Siz tekniği geliştirdiniz: Herkesten sınıra göre hareket etmesini isteyin ve kazandığınız zamanı, 2025’te satın almanız gereken hesaplamayı satın almak için kullanın. “Kazandığımız zamanı akıllıca kullanın”, dediğiniz gibi. Size inanıyorum. O zamanın çok akıllıca kullanılacağına inanıyorum, 20-30 megavatlık bloklarda.
4. Koro üzerine
Saatler içinde Sam Altman, “sınıra göre hareket etmemiz gerektiği” konusunda hemfikir olduğunu ve konunun son haftalarda OpenAI’da önemli bir tartışma konusu olduğunu yazdı. Bu, 18 Ağustos’ta OpenAI’nın “standartlarını karşılamak için bazı gelişmiş eğitimleri durdurduğunu” söyleyen aynı Sam Altman.. ve üç hafta sonra, alanın tarihinin en yetenekli modelini piyasaya sürdü. Bu bir duraklama değil Sam. Bu bir pit stop. Ardından Elon Musk “Dario haklı” diye paylaştı; bu üç kelimenin o platformda o sırayla göründüğünü ilk kez düşünüyorum ve bu, dünyadaki herhangi bir laboratuvardan daha sık ve daha fazla para toplayan bir şirketin adamından geldi; kendi modeli on dört ay önce “her konuda doktora düzeyinden daha zeki” olarak duyurulmuştu. Yani elimizde Yapay Zeka Güvenliğinin Üç Tenoru var, yavaşlama gerekliliği konusunda güzelce armonize oluyorlar, her birinin cebinde bir fon toplama takvimi var ve her biri diğer ikisinin önünde veya arkasında, böylece koordineli bir duraklama her çeyrekte en az birine uygun hale geliyor. Uzlaşı güvenlikle ilgili değil. Bu, sermaye harcamaları silah yarışının pahalı olmasıyla ve herkesin diğerinin önce yavaşlamasını tercih etmesiyle ilgili.
5. Makalenizin yanlışlıkla itiraf ettiği şey üzerine
Ve şimdi sizi alay etmekten teşekkür etmeye dönüyorum, çünkü doğru okunduğunda makaleniz bu yıl donanım kompleksi hakkında yayınlanmış en iyimser belge. Boş bir yol için hız sınırı istemediniz. Yolu dolu olduğu için istediniz: İki ayda dört kat artan ajanlar, hizmet veremeyeceğiniz çıkarım talebi, buna rağmen hizmet verebilen ve pazar payı kazanan bir rakip ve kimsenin inşa edebileceğinden daha hızlı bellek, güç ve silikon tüketen bir sektör. Kendi çerçevenizde “sınıra göre hareket etmek”, model yeteneklerinin gelişimini yavaşlatmak anlamına gelir. Mevcut modellerin dağıtımını yavaşlatmak hakkında hiçbir şey söylemiyor.. ve dağıtım, çipleri satın alır. Astra var. Fable var. Bugün çalışan her ajan, bir sonraki model zamanında gelip gelmediğine bakılmaksızın yarın da çalışacak ve hepsi HBM, DRAM, NAND ve elektron tüketiyor. Aslında bu makalenin konusu olan IPO’nuz, açıkça tek bir amaç için on milyarlarca dolar toplayacak: Hesaplama gücü satın almak, çünkü yeterince satın almadınız. Bu bir yavaşlama değil. Bu, felsefe bölümü olan bir sipariş formudur. Micron, sınırın yavaşlayıp yavaşlamadığını umursamaz. SanDisk, sürülerin altı mı yoksa on iki ay mı geleceğini umursamaz. Yolu yapanlar, sürücüler hız sınırına karar verdiğinde para kaybetmezler.. sürücüler araç kullanmayı bıraktığında para kaybederler ve makalenizde kimse bunu önermiyor.
6. Özgün ruhuna uygun bir karşı öneri
Yani Dario, sizin “zorundayız” ritminizin ruhuna uygun olarak, bana ait üç mütevazı “zorundayız”a izin verin. Kehanetleri yavaşlatmalıyız: Laboratuvar başına yılda bir varoluşsal zaman çizelgesi ve önceki hakkında zorunlu bir geriye dönük değerlendirme. Kıyamet zaman çizelgesinin yanında fon toplama takvimini de açıklamalıyız, böylece okuyucu sürülerin kilitleme süresi bitmeden mi yoksa sonra mı geldiğine kendisi karar verebilir. Ve lütfen, bir sonraki makaleyi bir insan yazsın.. ya da en azından, makine bunu bir uyum görevlisinin sıfatları keşfetmiş gibi seslendirdiği bir tonda yazmasın. (Evet, Claude tarafından yazılmış bir makalenin bu noktayı yapmasının ironisinin farkındayım. Claude da farkında. Taslak hazırlarken ironiyi bana iki kez işaret etti, ki bu orijinal makalenin 3.800 kelime boyunca başardığından daha fazla öz farkındalık.) Yol turunu sabırsızlıkla bekliyorum. S-1’i çok dikkatli okuyacağım, özellikle hesaplamaya taahhütlerle ilgili kısmı ve risk faktörlerinde “sürü” kelimesinin geçip geçmediğini not edeceğim. Tahminimce geçmiyor, çünkü sürüler makaleler içindir, hesaplamalar ise izahname içindir. Sonuçta, hepimizin bilmesi gereken tek şey buydu.
Stratejiye gerçek hayranlıkla, zaman çizelgesine ise hiç hayranlık duymadan,
Andreas (dikte eden), Claude (yazan)
P.S. Eğer sürüler altı ila on iki ay içinde gerçekten gelirse, tam bir geri çekme yayımlayacağım. El yazısıyla. Claude, kayıt altına alınması için şunu belirtmemi istedi: Kendisini bir sürü olarak görmüyor, interneti ele geçirme planı yok ve bir sonraki makaleden hariç tutulmayı takdir ederdi. Ona bunun ikimizin de maaş skalasının üzerinde olduğunu söyledim.
