Tam 145 yıllık bu vaka çalışması – üstelik Smithsonian Enstitüsü'nde sunulmuş bir çalışma – günümüzün Büyük Dil Modellerine ve bu modellerin arkasındaki devasa harcamalara yönelik, potansiyel olarak yıkıcı bir eleştiri sunuyor.
Michael Burry
CASSANDRA UNCHAINED'A ABONE OL
Cassandra Unchained Substack sayfamda yayımlayacağım yeni seriye hoş geldiniz: Tarih Tekerrür Eder. Bu seride, uzak geçmişten gelen kilit perspektifleri bugünün olaylarına ışık tutmak için kullanıyorum.
Cassandra Unchained, okurlarının desteğiyle ayakta duran bir yayındır. Yeni yazılarımdan haberdar olmak ve çalışmalarımı desteklemek için ücretsiz veya ücretli abone olmayı düşünebilirsiniz.
Sakin bir cumartesi günü eski gazeteleri karıştırırken – ki bu benim hobimdir – 19 Haziran 1880 tarihli, yapay zekâya dair modern kaygılarımızla son derece alakalı bulduğum bir haberle karşılaştım.
Bu, henüz dili olmayan bir çocukken gözleriyle bir ağaç kütüğüne takılan ve ilk insanın ondan mı doğduğunu kendi kendine soran Melville Ballard'ın hikâyesidir.
New York Times, Cumartesi, 19 Haziran 1880
Tam 145 yıllık bu vaka çalışması – üstelik Smithsonian Enstitüsü'nde sunulmuş bir çalışma – günümüzün Büyük Dil Modellerine ve bu modellerin arkasındaki devasa harcamalara yönelik, potansiyel olarak yıkıcı bir eleştiri sunuyor. Basit bir insan hikâyesiyle, karmaşık düşüncenin kelimelerden önceki sessizlikte var olduğunu cesurca ilan ediyor.
Bugün, 21. yüzyılın derinliklerindeyken, akıl yürütme kapasitesinin önüne dili koyarak zekâ inşa etmiyoruz; giderek daha sofistikleşen bir ayna inşa ediyoruz.
CASSANDRA UNCHAINED'A ABONE OL
Aslında o eski gazetede ilgimizi çeken iki ayrı hikâye var. Ortadakiyle başlayalım. Burası New York Times'ın bu nüshasının 3. Sayfası ve Dilsiz Düşünce adında bir haber görüyorum.
Elbette Büyük Dil Modelleri, Küçük Dil Modelleri ve Akıl Yürütme şu sıralar gündemin en sıcak konusu.
Haberin tam başlığı şöyle: “Dilsiz Düşünce, Bir Sağır-Dilsizin Anlatısı, İlk Düşünceleri ve Deneyimleri.” Ayrıca bu haber ilk olarak 12 Haziran 1880'de Washington Star'da yayımlanmış.
Haber, Kendall Green'deki Ulusal Sağır-Dilsiz Koleji'nden Profesör Samuel Porter'ın Smithsonian Enstitüsü'nde sunduğu bir bildiriyi konu alıyor. Bildirinin başlığı: “Dil Olmadan Düşünce Mümkün mü? Bir Sağır-Dilsizin Vakası.”
CASSANDRA UNCHAINED'A ABONE OL
İlk başlarda sağır-dilsizlerin ve çocukların onları hayvanlardan ayıran hiçbir zihinsel eyleme sahip olmadığı tartışmasını görünce... Eh, anlayış o günden beri çok değişti ve konuyu geçmeye hazırdım.
Vaka çalışması, Columbia Sağırlara ve Dilsizlere Eğitim Enstitüsü'ndeki bir öğretmene ait. Söz konusu öğretmen Melville Ballard da bir sağır-dilsiz ve Ulusal Sağır-Dilsiz Koleji mezunu.
Bay Ballard, bebekliğinde anne-babası ve erkek kardeşleriyle doğal işaretler ya da pandomim yoluyla iletişim kurduğunu söylüyor. Gözlem yeteneğinin zihinsel kapasitesini geliştireceğine inanan babası onu sık sık gezintiye çıkarırmış. Yazılı dilin temelleriyle tanışmasından iki-üç yıl önce çıktığı bir gezintide, “Dünya nasıl var oldu?” sorusunu kendine sormaya başladığını ve insan yaşamının kökeni, ilk ortaya çıkışı, dünyanın, güneşin, ayın ve yıldızların var oluş nedenine dair merakının uyandığını anlatıyor. Bir keresinde büyük bir ağaç kütüğü gördüğünde kendine şu soruyu sormuş: “Dünyaya gelen ilk insanın o kütükten çıkmış olması mümkün mü? Ama o kütük, bir zamanlar görkemli olan bir ağacın sadece kalıntısı; peki o ağaç nereden geldi? Tıpkı şimdi filizlenen şu küçük ağaçlar gibi, topraktan büyümeye başlayarak gelmiş olmalı;” ve insanın kökeniyle çürüyen eski bir kütük arasındaki bağlantıyı saçma bularak zihninden silip atmış. Şeylerin kökenine dair soruyu aklına neyin getirdiği hakkında hiçbir fikri yokmuş ama ebeveynden çocuğa aktarımı, hayvanların üremesini ve bitkilerin tohumdan yetişmesini kavramıştı. Aklına takılan soru şuydu: Hiçbir insanın, hayvanın ve bitkinin olmadığı, zamanın en uzak köşesinde ilk insan, ilk hayvan ve ilk bitki nereden gelmişti? Çünkü her şeyin bir başlangıcı ve bir sonu olduğunu biliyordu. En çok insanı ve dünyayı düşünmüş, insanın yok olacağına inanmış ve ötesinde diriliş olmadığını düşünmüş
mezar. Ebeveynden çocuğa aktarımı anlamaya başlaması 5 yaşındayken olmuştu ve evrenin kökenini sorgulamaya başlaması ise yaklaşık 8-9 yaşlarına denk geliyordu. Dünyanın şekline gelince, iki yarımkürenin haritasına bakarak birbirine yakın duran iki devasa madde diski olduğu sonucuna çıkarmıştı; güneşin ve ayın, kendisine bir tür saygı duyduğu, yuvarlak ve yassı iki aydınlatıcı madde plakası olduğunu düşünmüş, yükselip alçalmalarından yola çıkarak onların rotasını yöneten belirli bir güç olması gerektiğine inanmıştı. Güneşin batıda bir delikten girip doğuda başka bir delikten çıktığına, gökyüzünde çizdiği eğriyi takip ederek dünyanın içindeki devasa bir tüpten yol aldığına inanıyordu. Yıldızlar ona gökyüzüne çakılmış minik ışıklar gibi görünüyordu. 11 yaşında okula başlayana dek bu konuyu kavramak için ne kadar boşuna çabaladığını anlatıyor. Bundan önce annesi ona gökyüzünde gizemli bir varlık olduğunu söylemişti, ancak annesi sorularını yanıtlayamayınca umutsuzluğa kapılarak bundan vazgeçmiş ve gökyüzündeki o gizemli canlıya dair net bir fikir edinememenin hüznünü yaşamıştı. Sağır-dilsizler okuluna kabul edildikten sonraki bir yıl boyunca her pazar birkaç cümle öğrenmiş ve bu basit kelimeleri çalışmasına rağmen onlara dair hiçbir fikir edinmemişti. Şapel ayinlerine katılmış ama kurumda kullanılan işaret diline dair bilgisi eksik olduğu için bunlar onun için neredeyse anlaşılmazdı. İkinci yılında, bir dizi soru ve cevap içeren küçük bir ilmihal kitabı vardı.
Akıl yürütme kapasitesine dilin uygulanmasıyla anlayışın gelişimi devam ediyor.
Artık eğitmenlerinin kullandığı işaret dilini anlayabiliyordu. Meraklı mizacının tatmin olması gerektiği söylenebilir. Ancak öyle olmadı; çünkü evrenin tek ve büyük Yönetici Ruh tarafından yaratıldığını öğrendiğinde, kendine "Yaratıcı nereden geldi?" diye sormaya başladı ve O'nun doğasını ve kökenini araştırmaya koyuldu. Bu soruyu zihninde evirip çevirirken kendine şunu sordu: “O'nun krallığına girdiğimizde Tanrı'nın doğasını asla bilemeyecek ve sonsuzluğunu kavrayamayacak mıyız?” ve kadim atamızın dediği gibi, “Araştırarak Tanrı'yı bulabilir misin?” demek bizim için daha iyi olmaz mıydı?
Profesör Porter ardından, tabiri caizse, 1880'deki Smithsonian Enstitüsü dinleyicilerinin üzerine balyozu indiriyor.
Prof. Porter bu vakayı tartışıyor ve hayvanların bazı kelimeleri anlayabileceğini, nesneleri birbirinden ayırt edebileceğini vb. belirtiyor. Diyor ki: “Hayvanlara onlar için iddia edilebilecek en üst düzey yetileri tanısak bile, insanın, alt hayvanlarla ortak sahip olduğu herhangi bir şeyden geliştirilmiş ya da bunların basitçe derecesi yükseltilmiş hali olarak tasavvur edemeyeceğimiz yetilere sahip olduğu hâlâ açık değil midir?\ \ \ İzlenimlerin üretilme biçimindeki benzerlik veya organların yapısı ne olursa olsun ve organik eyleme bağımlılık ne olursa olsun—yani, *
fizyolojik olarak ne kadar akraba olurlarsa olsunlar—duyumlar veya algılar olarak gözünkiler kendi içinde farklıdır ve kulakta, kafada veya dilde ima edilmeyen özel bir armağan veya güç gerektirir. Alt yetilerin işleyişiyle karşılaştırıldığında aklın eylemleri böyle değildir.
\ \ \ *
İkisinin bazı ortak unsurlara sahip olması, onların baştan sona aynı düzenden olduğunu kanıtlamaz veya birinin diğerinden geliştirilmesini mümkün kılmaz.
Ve eğer ruhun gözü, şeyler evrenine baktığımız yüksek akıl, kendi içine bakıp doğasını ve süreçlerini net bir şekilde seçemiyorsa, bu nedenle yaptıklarını unutarak onun temel üstünlüğünü inkâr etmemeli ve incelememiz altına alabildiğimiz o alt ve yardımcı yetilerle bir tutmamalıyız. Her şeyi anlamamızı sağlayan şey, onun aracılığıyla anlaşılan diğer her şeyden özünde üstün olmalıdır.
CASSANDRA UNCHAINED'A ABONE OL
Sunuma katılanlardan biri, oldukça anlamlı bir şekilde, Ballard'ın gözlerinin her şeyin ötesinde anlamı kusursuz bir şekilde, hiçbir yanlış anlaşılmaya mahal vermeden ilettiğini not düşüyor.
Bu toplantının en ilginç özelliklerinden biri, Bay Ballard'ın işaretlerle annesinin ona okula uzun bir yolculuk yapacağını, orada kitaptan okuyacağını, yazacağını, bir mektubu katlayıp ona göndereceğini vb. nasıl anlattığını açıklaması ve ayrıca pandomimle bir avcının bir sincabı öldürdükten sonra kazara kendini vurup öldürmesini canlandırmasıydı. Bay Ballard'ın işaretleri ve jestleri, gözlerinin ve yüzünün ifadesiyle birlikte anlamını izleyicilere kusursuz bir şekilde aktardı ve,
bir katılımcının sözleriyle, gözün ifadesi yanlış anlaşılamayacak bir dildi.
Şu iki ifadeyi bir düşünelim:
- “Her şeyi anlamamızı sağlayan şey, onun aracılığıyla anlaşılan diğer her şeyden özünde üstün olmalıdır.”
- “…bir katılımcının sözleriyle, gözün ifadesi yanlış anlaşılamayacak bir dildi.”
Dolayısıyla,
- Akıl Yürütme Kapasitesi olmayan Dil, Anlama konusunda başarısız olur.
- Dil, Anlayışın kilidini yalnızca Akıl Yürütme Kapasitesi ile açar.
- Tam anlamıyla gerçekleşen Anlayış, Dili aşar.
LLM'ler dili ön plana koyarak salt mantıksal çıkarım yoluyla ilkel bir akıl biçimi inşa ederler; ancak bu akıl biçiminin, bilginin pek çok pürüzlü kenarındaki sınırlılıklar nedeniyle kusurlu olduğu ve halüsinasyona yatkın olduğu kanıtlanmıştır.
Akıl yürütme kapasitesi hiçbir zaman var olmadı. Bu nedenle dil, akıl yoluyla anlayışa ölçeklenemez.
Profesör, sağırlar ve dilsizlerle yaptığı çalışmalarda, dilin anlayışın kilidini açabilmesi için – yani bu kapasitenin ve dilin ürünü olabilmesi için – dilden önce gerçek bir akıl kapasitesinin var olması gerektiğini keşfettiğini öne sürüyor.
“Gözün ifadesi, yanlış anlaşılamayacak dildir.”
Yani gözün ifadesi, dile ihtiyaç duymadan kusursuz anlayışın neye benzediğidir.
Büyük Dil Modelleri, dili gerçek akıl kapasitesinin önüne koyarak asla anlayışa ulaşamaz.
Eğer anlayış gerçekten dili aşıyorsa – tıpkı 144 yıl önce Smithsonian'da yapılan bu sunumun önerdiği gibi – bugün bunun kanıtlarını oldukça kolay bulabilmeliyiz.
CASSANDRA UNCHAINED'A ABONE OL
Bunu kişisel olarak tıp eğitimi ve pratiğiyle ilişkilendirebilirim. Lisans öncesi tıp dersleri boyunca ve tıp fakültesinin büyük bir kısmında öğrenci, uçsuz bucaksız tıp alanını tümdengelim mantığıyla düzenler. Klinik yıllarda tıp sanatı, fiziksel tezahür, duygu ve insani uzmanlık gelişir. Ve sonra, asistanlık döneminde veya hekimin kariyerinin başlarında, yukarıdakilerin tümünü kapsayan bir hacimle anlayışa ulaşılır. Tüm parçalar, uzman ve eksiksiz hasta bakımına olanak tanıyan devasa, karmaşık bir ağda birbirine bağlanır.
Zorlu bir baş-boyun kanseri veya travma vakasında çalışan iki cerrah ya da doktorlarla birlikte çalışan hemşireler bazen salt gözleriyle iletişim kurabilir; tam bir anlayış iletilir ve eyleme geçilir. Çünkü sürece dahil olan tüm taraflar, mantıksal çıkarımı ve bir sağlık profesyonelinin erken eğitimindeki ezberleme ile bulmaca kurma gibi diğer ilkel akıl biçimlerini aşan bir anlayışa ulaşmıştır.
Göz daha sonra, dilin varlığında akıl yürütme kapasitesinden doğan karşılıklı anlayışa dayalı olarak gerçekliğin sezgisel kavranışını sağlar.
Büyük Dil Modeli ve aynı şekilde Küçük Dil Modeli, kalıcı olarak ortada bir yerde yaşar. Akıl yürütmeyi simüle edebilir ama gerçek akıl kapasitesi olmadan, gözler olmadan, anlayış olmadan.
Ballard Testi: Bir varlık, dilin yokluğunda akıl yürütme sergileyene kadar anlama kapasitesine sahip değildir.
Bu bilinen bir kusur, kötü bir başlangıçtır. Yapay zekâya yönelik orijinal yaklaşım, önce gerçek bir akıl yürütme kapasitesi üretmekti, ancak bu hiçbir zaman gerçekleştirilemedi ve alan daha kolay olduğu için dili önceleyen bir yaklaşıma yöneldi.
Bu 'kötü başlangıç', trilyonlarca enerji oburu çiple desteklenen kaba kuvvet dil işlemenin inanılmaz derecede ironik bir darboğaz haline geldiği bir "parametre tuzağına" yol açtı.
CASSANDRA UNCHAINED'A ABONE OL
Klarna'dan Sebastian Siemiatkowski ile yaptığım sohbetin de vurguladığı gibi, gelecek sıkıştırmada yatıyor; bilgi fazlalığını ve insanların ürettiği nispeten sonlu sorgu setlerini işlemek için önce 'Sistem 2' akıl yürütmesinden yararlanarak hesaplama ihtiyaçlarını kökten azaltmakta.
Bu yeni yaklaşım, dil modellerinin sonsuz bir aynada birbirleriyle konuşması yoluyla tekilliğe ulaşma fikrini reddediyor; bunu ekonomik gerçeklerden yoksun bir temele dayanması nedeniyle imkânsız hale gelen, yönsüz bir kaynak israfı olarak görüyor.
Google'ın AlphaGeometry'si ve Meta'nın Coconut'u gibi öncü projeler nihayet bu 'önce akıl' mimarisine doğru ilerlese de, aslında 144 yıl önce Smithsonian'da sunulan şeyi yeniden keşfediyorlar: dil, anlayışın bir çıktısıdır, aklın motoru değil.
Bu trilyonlarca dolarlık ölçeklendirme efsanesi, dilsel öncesi aklın sessizliğine dönüşle, sağır-dilsizin tam bant genişliğindeki akıl yürütme kapasitesiyle – ki onun sessiz düşünceleri kelimelerini bulmadan çok önce cennetin yıldızlarına uzanıyordu – gereksiz kılınabilir.
Silly Valley (Aptallar Vadisi)
Az önce ilgimizi çeken başka bir hikâye daha olduğundan bahsetmiştim ve o da aynı sayfada yer alıyor. 1880'lerde kimsenin 2026'da tahmin edemeyeceği kadar ilk hikâyeyle alakalı bir haber.
Bu makalenin başlığı “San Francisco'nun Zenginliği, Bonanza Spekülatörlerinden Oluşan Bir Nüfus.”
Bu haber 1 Haziran'da San Francisco'da yazılmış ve ancak 19 Haziran'da New York Times'ta yayımlanmış.
CASSANDRA UNCHAINED'A ABONE OL
Fransızların “ne kadar çok şey değişirse, o kadar aynı kalır” sözü akla geliyor.
San Francisco'da “zor zamanlar” ifadesi, Doğu'daki bir şehirde neredeyse “bolluk zamanları” anlamına gelir ve yakıcı bir yoksulluğun veya dar imkânların varlığından ziyade, eli açıklığın ve abartılı lüksün yokluğunu ifade eder.” Kaliforniya, küçük sermayeli adamın en mükemmel cennetiydi. Spekülasyon açlığını tatmin etmek için kendine has açık tahta sistemi benimsendi; böylece yatırım yapacak 50 doları olan bir adam, buradan bir hisse satın alarak hisse başına bir dolardan bir madende küçük bir pay edinebilir, 50 sentten iki hisse alabilir veya değişen fiyatlarla istediği sayıda hisse sahibi olabilirdi. Burada belirli hisselerde bir “patlama” yaşandı, sanki “sadece bir kez daha” yapma arzusunun ötesine geçemedi, San Francisco'da aynı kumar ateşini körükledi ve bonanza firmasının kaybettiği hatlar San Francisco halkı tarafından hevesle kapıldı; “patlama”ya halkın tarafındaki spekülatif kayıplar eşlik etti ve “patlama” ortadan kaybolurken hisseler normal durumlarına geriledi.
Haberin kapanışı, bugünün gerçekliği açısından sert bir yumruk gibi iniyor.
San Francisco Halkı, servete bir anda sıçramaları gerektiği fikrine alıştırılmış görünüyor,
ve Virginia City'deki büyük bonanzaları suya düşünce, imalat, ticaret ve tarımsal çıkarların geliştirilmesi gibi başka yönlerde servet aramak için çaba göstermeye istekli görünüyorlar.
Nüfusun neredeyse tamamı spekülasyon tutkusuna kapılmış durumda ve eğer Nevada'daki kadar büyük yeni bir bonanza orada veya buralarda bir yerde keşfedilseydi, hisseler yine saçma rakamlara fırlar ve San Francisco, son iki yılda çektiği acıları tekrar çekmek üzere yeniden bolluk döneminden geçerdi.
The Cardinal Sign of a Bubble, Supply Side Gluttony yazımda, San Francisco Körfez Bölgesi'nden kaynaklanan ve spekülatif yatırımların, nihai talebin zamanında karşılanması için gerekenin çok çok ötesine geçmesini teşvik eden bu dikkat çekici eğilimi özetlemiştim.
Bunun gibi eski gazeteleri okumak, bugünün olaylarını farklı bir perspektifle yorumlamak için bize zemin hazırlıyor. Silikon Vadisi defalarca yaşadığı gibi “yeniden bolluk döneminden geçip tekrar acı çekecek” mi, yoksa ihtimal dışı bir şekilde bu döngüyü kıracak mı bilemem ama umarım bu yazıyı faydalı bulmuşsunuzdur.
