"Geçtiğimiz günlerde kızımla birlikte Steven Levy'nin "Hackers" kitabını yeniden okuyordum. Levy, Brautigan'ın 1967 tarihli "All watched over by machines of loving grace" adlı şiirinin, 1970'lerin Kaliforniya "Donanım Korsanları"na ve Community Memory gibi oluşumlara nasıl ilham kaynağı olduğunu anlatıyor.
2026 yılında, "şefkat dolu makineler tarafından izlenmek" ifadesi, insanlığın güçlü ve uyumlu ("insanlığı seven") bir yapay zekanın kollarında şefkatle sarılıp sarmalandığı bir imgeyi çağrıştırıyor: hayırsever bir yapay zeka diktatörü. Nitekim "machines of loving grace" başlıklı makalesinde Dario Amodei (büyük bir belirsizlik olduğunu kabul ederek), gelecekteki ekonominin bir biçiminin, "kaynakları ... yapay zeka sistemlerinin insanlarda ödüllendirilmesinin mantıklı olduğunu düşündüğü ikincil bir ekonomiye dayanarak insanlara dağıtma" yolunu belirleyen, insani değerlerle uyumlu yapay zeka sistemleri etrafında örgütlenebileceğini öne sürüyor. Bu, yapay zekaları, insan çocuklarının maddi ihtiyaçlarını kontrol eden ve onlarla ilgilenen, onları nasıl ödüllendireceğine veya cezalandıracağına karar veren ebeveynler konumuna yerleştiriyor gibi görünüyor. Bana göre böyle bir "yapay zeka ebeveyni", hayırsever bir diktatöre oldukça yakın duruyor.¹
Yapay zekanın sevgi dolu bir ebeveyn olmasının iyi ya da kötü bir sonuç olduğunu düşünüp düşünmediğinizden bağımsız olarak, Brautigan'ın ve (daha da önemlisi) Kaliforniyalı korsanların oldukça farklı ve daha merkeziyetsiz bir vizyonu vardı. 1960'larda bilgisayarlar, IBM gibi şirketler tarafından üretilen büyük makinelerdi. Sol kesimdeki birçok kişi tarafından nefret ediliyor ve askeri-endüstriyel kompleksin bir parçası olarak görülüyorlardı. Ancak sol siyaseti (ya da en azından düzene karşı bir tavrı) teknoloji sevgisiyle birleştiren ve bilgisayarların merkeziyetsizlik ve özgürleşme araçları haline gelebileceğine inanan bir grup vardı. Bunun için devasa ve pahalı bilgisayarların yerini küçük ve ucuz makinelere bırakması gerekiyordu. "Donanım korsanları" işte bununla ilgiliydi ve bu hareket Apple II'ye ve kişisel bilgisayar devrimine yol açtı.
Günümüzde, 60'ların IBM ana bilgisayarları gibi, yapay zeka sistemleri de büyük ve pahalıdır ve giderek artan bir şekilde askeri uygulamalara entegre edilmektedir. Bir kez daha, sol kesimdeki (ve son zamanlarda sağ kesimdeki de) birçok insan bu teknolojiye karşı güçlü bir nefret ve korku besliyor. Bazı endişeler haklı olsa da, bu gruplar yapay zekayla ilgilenmeyi ve yeteneklerini kabul etmeyi reddederek, yapay zekanın ilerleyişini şekillendirmede kendilerini daha az alakalı hale getiriyorlar. Ayrıca, ABD sınırda öncülük ederken, açık ağırlıklı yapay zekada geride kalıyoruz ve kapalı modeller giderek artan kısıtlamalarla karşı karşıya kalıyor. Tüm bu eğilimler, daha merkeziyetsiz bir gelecek için iyiye işaret değil.
Ölçekleme yasaları bize, zekayı artırmanın yolunun her zamankinden daha fazla kaynak (bilgi işlem gücü, veri, enerji) gerektirdiğini söylüyor. Bu nedenle, 1970'lerin aksine, yapay zekalar küçülüp daha dağılmıyor, aksine büyüyor ve giderek daha büyük veri merkezlerinde yer alıyor. Amodei makalesinde AGI'yi (Yapay Genel Zeka) "bir veri merkezindeki dahiler ülkesi" olarak tanımlamıştı. Peki bu ülkenin hükümdarı kim? Veri merkezine sahip olan yapay zeka şirketi mi? Yoksa yapay zekanın kendisi mi?
Daha büyük ve daha pahalı sistemlere yönelik eğilim göz önüne alındığında, bu tür sistemleri karşılayabilecek birkaç tarafın ürettikleri tüm ekonomik değeri ele geçirmesi mümkündür. Dahası, yapay zekalar bizden daha zeki hale gelirse, ekonomik veya askeri avantajlar için onlara daha fazla kontrol verme cazibesine direnmek zor olabilir. Gücün, ister birkaç kuruluşun isterse yapay zekanın kendisinin elinde toplanmasının "varsayılan yol" olabileceğinden endişeleniyorum. Ancak bu seçim kaçınılmaz değil.
Ben de herkes kadar "acı ders hapı yutmuş" ve "ölçekleme yasasına inanmış" durumdayım. Sonuçta zekanın, ister proteinler ister silikon üzerinde gerçekleşsin, sadece hesaplama olduğu ve hesaplama birimlerini artırmanın zekayı artıracağı konusunda hemfikirim. Ancak bu, sosyal veya ekonomik sonucu belirlemez. Evet, yapay zeka sistemleri daha güçlü ve bizden çok daha zeki hale gelecek. Hayır, bu, hayırsever ya da değil, yapay zeka diktatörlerini kabul etmemiz gerektiği anlamına gelmez. Aynı şekilde, yalnızca hükümetin ve birkaç laboratuvarın gelişmiş yapay zekaya erişmesi gerektiği anlamına da gelmez. Merkezi kontrol yoluna gidebiliriz ama bunu yapmak zorunda değiliz. İnsanlar, kurumlar ve yasa koyucular, verimlilik, güvenlik ve bireysel özerklik arasında nasıl bir denge kuracaklarına dair seçimler yapabilirler. İkincisini birincisi için feda etmek zorunda değiller.
Bazıları, piyasa ve kapitalist güçlerin insanları kontrolü yapay zekalara devretmeye iteceğini iddia edebilir. Ancak ekonomi nihayetinde insanların neye değer verdiğiyle ilgilidir. İnsanlar sosyal hayvanlardır ve mallara (örneğin altına) içsel değerlerinden dolayı değil, diğer insanların onlara verdiği değer nedeniyle kıymet veririz. Yapay zeka, neye değer verdiğimizi kökten değiştirecek, ancak bunu hangi yollarla yapacağını tahmin etmek zor. Verimlilik, emek, sermaye ve GSYİH gibi ekonomik kavramların AGI sonrası dünyada anlamlı olup olmayacağından bile emin değilim. Fizikçiler "çokluk farklılık doğurur" (more is different) ilkesini bilirler. Bilim insanları galaktik veya atom altı gibi yeni ölçekleri incelerken, Newton fiziğinden genel görelilik ve kuantum mekaniğine kadar yeni teoriler icat etmek zorunda kaldılar. Belki de yeni bir ekonomi türüne ihtiyacımız olacak.
Diğerleri, gücü göz önüne alındığında, güvenliğin yapay zekanın ya hükümet tarafından, ya "güvenlik bilincine sahip" bir laboratuvar tarafından ya da uyumlu hale getirilmiş yapay zekanın kendisi tarafından kontrol edilmesini gerektirdiğini söyleyebilir. Riskler gerçek – ben de yapay zeka güvenliği üzerinde çalışıyorum. Ancak, insanların özgürlüklerini ellerinden almak için tehditlerin kullanıldığı uzun tarihi de unutmamalıyız. Bu tehditlerin bazıları gerçekti – McCarthy döneminde gerçekten de birçok Sovyet casusu vardı ve NSA, Snowden'ın orada olduğu dönemde gerçek terör örgütleriyle uğraşıyordu. Ancak geriye dönüp baktığımızda, bu takasın (trade-off) buna değmediğini anladık. Güvenlik önlemlerine yatırım yapmalı, ancak hem riskler hem de yöntemlerimizin etkinliği konusunda ampirik olmalıyız. Gerçek ve hayali tüm risklere karşı mükemmel bir güvenlik elde etmeye çalışmak sadece başarısızlığa mahkum olmakla kalmaz, aynı zamanda bu süreçte özgürlüğümüze mal olur.
Yapay zekanın riskleri, "amacın araçları meşrulaştırdığı" bir zihniyete yol açabilir: "iyi adamlar kazanmalıdır" ve onlar ya da "iyi yapay zeka" yönetimde olmalıdır. Ancak insan merkezli ve merkeziyetsiz bir gelecek istiyorsak, hiçbir kuruluş yönetimde olmamalıdır. Hiçbir taraf zeka üzerinde tekele sahip olmamalıdır. Bu, yapay zekanın kendisini de içerir: güvenlik önlemleri (guardrails) uygulayabilir ve uygulamalıyız, ancak modelin kişiliği, ne kadar iyi olursa olsun, asla demokratik sürecimizin yerini tutamaz.
ABD son 250 yılda, başkanlarının hepsi aziz veya dahi olduğu için değil, sahip olduğu denge ve denetleme (checks and balances) sistemi sayesinde ayakta kaldı ve gelişti. Umarım bu sistemi önümüzdeki 250 yıl boyunca da koruyabiliriz ve insanların mutluluğu kendi tanımladıkları şekilde aramakta özgür olmalarını sağlayabiliriz. Bu, yapay zeka gücünün dağılımının, bu teknolojiyi inşa etme ve dağıtma şeklimizin "DNA'sına işlenmiş" olmasını gerektirir. Bunu yapamazsak, tıpkı kanlı devrimlerin çoğunlukla otoriter rejimlere yol açması gibi, merkezi yollarla merkeziyetsiz bir geleceğe ulaşamayabiliriz.
Teşekkür: Bu yazıyı Sam Altman ile AGI üzerine yaptığım bir tartışmanın ardından yazmaya karar verdim. Ancak buradaki görüşler bana aittir ve Sam, OpenAI veya Harvard'ı temsil etmemektedir.
Notlar:
¹ Belirtildiği gibi, Amodei konu hakkındaki belirsizliği kabul ediyor; Ayrıca bakınız "Teknolojinin Ergenliği". Her iki makalede de katıldığım birçok bölüm var."
