Süper zeka geldi. Muhtemelen fark etmediniz, çünkü ortaya çıktı ki, bu biraz adım adım oldu.
İnanmıyor musunuz? Testi yapın. Bir saat boyunca Fable 5 ile konuşun, sonra en zeki on arkadaşınızla konuşun. Hangisi daha zeki? Merak etmeyin, alınmazlar.
Bize daha büyük bir şey beklememiz söylenmişti. Makineler bir çizgiyi geçtiğinde, sistemin IQ'su takip edemeyeceğimiz seviyelere tırmanacak ve gezegeni, warp sürücüleri tasarlayan ve benim düşüncelerimin köpeğimin düşüncelerinin ötesinde olduğu kadar bizim ötemizde düşünceler düşünen bir şeyle paylaşıyor olacaktık.
Elimizde olan şey, mükemmel kod yazan, insanları şaşırtıcı bir dizi görevde yenen ve ekonomiyi açıkça yeniden şekillendirecek bir araç. Aynı zamanda, bir şekilde, adım adım ilerliyor. Bir sıçrama yok. Bir patlama yok. İşin garip kısmı da bu.
Bence zekayı abarttık ya da ne olduğunu yanlış okuduk.
İşte ben bunu böyle tanımlardım. Dünya hakkında ince bir bilgi serpintisine sahibiz ve zeka ya da akıl yürütme, aralarındaki boşluğu dolduran şeydir. Zaten bildiğimiz şeyler arasında tahmin yürütür ve LLM'ler bu konuda inanılmazdır. Sözlerimizi inceleyerek düşüncelerimizin yapısını öğrendiler. Yakında buna sınırsız miktarda, 200 IQ'da, neredeyse hiçbir şey karşılığında sahip olacağız.
Bilgiler arasındaki boşluğun iyi davrandığı yerlerde, bu tanrısal bir şeye yakındır. Gayrimenkul hukuku zor değildir. Biz uydurduk, içsel olarak tutarlı ve her tüzüğü ve kararı elinde tutan bir model, herhangi bir avukatı ücretsiz olarak yenmelidir. Kodlama, matematik ve çoğu idari iş de benzer şekilde zararsızdır. Onları kolay yapan şey, nispeten pürüzsüz çözüm alanlarına sahip olmaları ve izlenebilir bir şekilde doğrulanabilir olmalarıdır.
Önemli olan şeylerin çoğu böyle davranmaz. Evren çoğunlukla karmaşık sistemlerin ortaya çıkan davranışıdır. Kremayı kahveye karıştırın. Hiçbir şeyden, sadece atmosferik sıcaklık farklılıkları ve su buharından oluşan bir fırtınanın büyümesini izleyin. Yerel kurallar basittir ve kasırga öyle değildir. Bu gibi sistemlerde, hiçbir akıl yürütme miktarı cevabı vermez, çünkü boşluklarda gizlenmiş bir kısayol yoktur. Şeyi çalıştırmanız gerekir. Ve çalıştırmanın kendi tavanı vardır, çünkü küçük hatalar birikir, bu yüzden hiçbir süper bilgisayar size asla temiz bir iki haftalık hava tahmini veremez. Evreni mükemmel bir şekilde simüle edebilecek en küçük nesne evrenin kendisidir. İnsan sistemleri de benzer şekilde karmaşıktır. Kendi davranışlarımızı bile güvenilir bir şekilde tahmin edemeyiz, bırakın zaman içinde hareket eden büyük insan gruplarının ortaya çıkan özelliklerini.
İşte, tahminimce patlamanın hiç gelmemesinin nedeni buydu. Sıçrama hikayesi, sınırın düşünmek olduğunu varsayıyordu. Öyle değil. Sınır, gerçeklikle temastır. Daha zeki bir akıl yürütücü, basit alanlarda bilinen gerçekler arasındaki boşlukları daha hızlı ve daha iyi doldurur, ancak yeni gerçekler üretmez.
Bir yapay zeka size bir jet türbini kanadı için gerçekten zekice bir tasarım uzatacaktır. Mühendislerinizin bulduğu her şeyden çok daha fazla çalışma olasılığı olabilir. Yine de büyük olasılıkla başarısız olacaktır, çünkü kimsenin bilmediği bir şeyin sınırındaki temel oran budur. Bunu öğrenmenin tek yolu kanadı yapmak ve kırmaya çalışmaktır.
Öğrenmenin gerçek sınırı budur ve ne kadar zeki olduğunuzu umursamaz. Fikir üretmek hiçbir zaman zor kısım olmadı. Zor kısım, gerçekliğin onlara ne kadar hızlı cevap verdiğidir.
Bunların hiçbiri sizi endişelendirmemeli. Bir insanın bir masa başında düşünerek çözebileceği her şeyi, bir bilgisayar artık ücretsiz olarak çözecek. Bu çok şey ve bu araçlar yaşam standartlarımızı büyük ölçüde artıracak. Ancak çoğu sorun bir masa başında düşünerek çözülemez. Bunlar, şeyi ne kadar hızlı inşa edip dayanıp dayanmadığını görebildiğimizle sınırlı kalır ve bu saat neredeyse hiç hareket etmez.
Açık olmak gerekirse, çok iyimserim! Musluktan akan 200 IQ'lu akıl yürütme, tıpkı mekanize gücün olduğu gibi, bir nimet olacak. Zihnin işi, kasın işi kadar değerliyse, değişiklikler sanayi devrimi düzeyinde olabilir. Torunlarım, benim büyük büyük ebeveynlerimin yoksulluğuna hayret ettiğim gibi, benim yoksulluğuma hayret edecekler. Ancak warp sürücüleri ve köpeğimin benimkini anladığı gibi anlayacağımız düşüncelerle garip bir "sıçrama" görmeyeceğiz. Gelecek parlak. Ve anlaşılabilir.
