Geçen gün, bir Üretken Yapay Zeka'dan "Üretken Yapay Zeka'nın zayıf yönlerini özetlemesini" istedim.
En son makalelere ve çalışmalara dayanarak Üretken Yapay Zeka'nın yapısal güçlü ve zayıf yönlerini araştırmasını istedim.
Çıktı ilk bakışta iyi görünüyordu; halüsinasyonlar, zayıf nedensel akıl yürütme ve kırılgan matematiksel akıl yürütme gibi 13 zayıflık, makalelere atıfta bulunularak dikkatlice ifade edilmişti.
Ancak okurken garip bir rahatsızlık hissini üzerimden atamadım.
"Bu sadece rastgele bir liste değil mi?"
Ortaya çıkan liste şöyleydi:
1. Halüsinasyonlar 2. Zayıf nedensel akıl yürütme 3. Kırılgan matematiksel akıl yürütme 4. Akıl yürütme modellerinin çöküşü 5. Anlama yanılsaması 6. Zayıf soyutlama 7. Eğitim verilerinde önyargı 8. Bilgi kesintisi 9. Dalkavukluk ...... (ve bu şekilde toplam 13 tane)
13 zayıflık yan yana sıralanmıştı. Bazı maddeler örtüşüyor, bazı bakış açıları eksikti. Ama yapay zeka umursamadı; onları bulduğu sırayla listeledi. Açıkçası özensizdi.
Sonra anladım.
Bu çıktı, Üretken Yapay Zeka'nın zayıf yönlerini mükemmel bir şekilde somutlaştırıyor.
Üretken Yapay Zeka, bilgi toplama ve listeleme konusunda iyidir. Öte yandan, "toplanan bilgiyi MECE (Karşılıklı Olarak Dışlayıcı, Topluca Kapsayıcı) bir şekilde yapılandırma ve daha üst düzey bir sistem halinde organize etme" konusunda kötüdür. Bunun, Üretken Yapay Zeka'nın mekanizmasından kaynaklanan yapısal bir zayıflık olduğunu anladım.
Bu makaleyi yazmaya neden karar verdim?
Neden "Üretken Yapay Zeka'nın temel zayıflıklarını ifade etmem gerekiyor" diye düşünme zahmetine girdim?
Çünkü şirketlerde ve eğitim kurumlarında Üretken Yapay Zeka kullanımına öncülük eden veya destekleyen projelerde yer alma fırsatlarım arttı.
Bu bağlamda, sahada gerçekten kullanılabilecek bir yapay zeka sistemi kurmak için, "Üretken Yapay Zeka'nın ne kadar ileri gidebileceği ve insanın nerede devralması gerektiği" gibi rol dağılımını sıkı bir şekilde tanımlamanın, iş tasarımının mutlak temeli olduğunu fark ettim.
Anlayışınız "Nedenini bilmiyorum ama prompt'u böyle değiştirince işe yaradı" seviyesinde kalırsa, yapay zeka sistemleri kurarken tekrarlanabilirliği garanti edemezsiniz ki bu oldukça sorunludur.
Bu nedenle, şunları anlayabilmemiz için bu tema üzerine bir not bırakmanın faydalı olacağını düşündüm:
- Üretken Yapay Zeka nasıl inşa edilir
- Bu yapıya dayanarak temel güçlü ve zayıf yönleri nelerdir ...Bunu yaparak, her yapay zeka güncellemesinden etkilenmekten veya prompt'ları bir şans oyunu gibi kullanmaktan kaçınabiliriz.
Üretken Yapay Zeka'nın Özelliklerini Yapısal Olarak Anlamak
Üretken Yapay Zeka'nın mekanizması, özüne indirgendiğinde, "şimdiye kadarki bağlama dayanarak bir sonraki gelme olasılığı en yüksek kelimeyi seçme" işleminin tekrarıdır.
"Japonya'nın başkenti" girdiğinizde, en yüksek olasılıkla "Tokyo" seçilir. "Kahvaltıda ekmek ve" ise "kahve" veya "tereyağı" seçilir. Bu "sonraki kelimeyi tahmin etme oyunu" her şeyin başlangıç noktasıdır.
Bu "sonraki kelimeyi tahmin etme oyununu" parçalara ayırdığımızda aşağıdaki ana özellikler ortaya çıkar.
Özellik ①: Korelasyon üzerine çalışır
"Bir sonraki kelimeyi tahmin etmek" için Üretken Yapay Zeka, "hangi kelimelerin hangi sırayla birlikte görünme eğiliminde olduğunu" çok miktarda metinden öğrenir.
"Kahvaltıda ekmek ve kahve" çıktısını verdiğinde, "ekmek karbonhidrattır, bu nedenle uyarıcı etkisi için kafeinle takviye etmek beslenmeyi dengeler" anlamaz. Sadece "kahve"nin "kahvaltı" ve "ekmek" gibi kelimelerin yanında sık sık görünme eğilimini yeniden üretiyordur.
Emily Bender, Timnit Gebru ve diğerleri bunu 2021 FAccT makalesinde "Stokastik Papağan" olarak tanımladı. Bu, tıpkı bir papağanın anlamını anlamadan insan konuşmasını taklit etmesi gibi, Üretken Yapay Zeka'nın da yalnızca kelime dizilerinin kalıplarını taklit ettiği ve anlamın kendisine erişimi olmadığı yönünde bir eleştiridir. İsimlendirme oldukça alaycı, değil mi? Birisi bana "Zekan bir papağan seviyesinde" dese, oldukça şok olurdum...
Burada kavramamız gereken şey, "A ve B'nin sıklıkla birlikte göründüğünü (= korelasyon) yakalayabildiği, ancak A'nın B'nin nedeni olduğunu (= nedensellik) anlamadığıdır." Daha sonra açıklayacağım halüsinasyonlar ve zayıf nedensel akıl yürütmenin kökleri buradadır.
Özellik ②: Tek yönlü çalışır
"Sonraki kelimeyi tahmin et" işlemini tekrarlamak, cümlelerin baştan sona, tek seferde, her seferinde bir kelime yazıldığı anlamına gelir.
Peki, Üretken Yapay Zeka tamamen gelişigüzel bir şekilde, yalnızca önündeki tek kelimeye dayanarak bir sonraki kelimeyi mi seçiyor? Son araştırmalara bakılırsa, durum böyle görünmüyor.
Dong ve diğerlerinin "Emergent Response Planning in LLMs (ICML 2025)" makalesine göre, Üretken Yapay Zeka tek bir kelime çıktısı vermeden önce bile tüm yanıt için kabaca bir öngörü oluşturur:
- Yanıtın yaklaşık olarak ne kadar uzun olacağı
- Kaç adımlık akıl yürütme gerektireceği
- Hangi içeriği seçip çıktı olarak vereceği
Ayrıca, Anthropic tarafından Mart 2025'te yayınlanan "On the Biology of a Large Language Model" makalesinde, Claude 3.5 Haiku'nun bir şiir yazarken, o satırı yazmaya başlamadan önce satırın sonundaki kafiyeli kelimeye zaten karar verdiği bulundu. İçeride, birkaç kelime ilerisini gören bir tür plan çalışıyor.
Başka bir deyişle, "tamamen gelişigüzel bir sonraki kelimeyi tahmin etme oyunu" oynamıyor. Üretken Yapay Zeka, başlamadan önce kendi yöntemiyle bir plan yapıyor.
Ancak, bir insanın "önce bir içindekiler tablosu oluşturup yazmaya başlamadan önce tüm yapıya genel bir bakış atması" gibi net bir plana sahip olduğuna dair şu anda bir kanıt yok. Anthropic raporu ayrıca, "yaklaşık 100 token'ı aşan uzun girdilere karşı zayıf" olduğuna işaret ediyor.
Bu nedenle, mevcut araştırmaların gösterdiği resim şudur:
Üretken Yapay Zeka'nın "genel bir yön duygusu" vardır, ancak "genel bir yapısal tasarımı" yoktur.
Ve kritik olarak, bir kez yazdığına geri dönüp düzeltme gücü yoktur.
CogWriter makalesine göre, insan yazımının üç aşamadan oluştuğu doğrulandıktan sonra: "planlama → taslak oluşturma → gözden geçirme", Üretken Yapay Zeka'nın bu planlama aşamasını atladığı ve nihai versiyonu tek seferde ürettiği, bu nedenle uzun metinlerde yapının çökme eğiliminde olduğu veya aynı şeylerin tekrar tekrar yazıldığı analiz edilmektedir.
E-postalar veya sohbetler gibi kısa alışverişler için bu özellik neredeyse hiç sorun değildir. Ancak teklifler veya araştırma raporları gibi genel yapının sorgulandığı belgelerde, cephe aniden çöker. Başlangıçta tanıtılan "13 zayıflık listesi" tam olarak bu özelliğin bir ürünüdür.
Özellik ③: İyi ya da kötü, eğitim verileri ve talimatlar tarafından çekilir
Akılda tutulması gereken bir diğer şey de, Üretken Yapay Zeka'nın yeteneğinin tamamen "eğitim için kullanılan verilere" ve "hangi amaçla ayarlandığına" bağlı olduğudur.
"Eğitim verilerinin" etkisini hayal etmek kolaydır. Birçok İngilizce iş belgesi okuyarak büyürse, İngilizce e-postalar oluşturmada iyi olacaktır, ancak tersine, nadiren karşılaştığı alanlarda gücü düşer. Gördüğünde iyidir, görmediğinde kötüdür. Basit bir hikaye.
Biraz daha sorunlu olan "ayarlamanın etkisidir". Mevcut büyük Üretken Yapay Zekalar, "insanların hoşuna giden" yanıtlar üretmek için RLHF (İnsan Geri Bildiriminden Pekiştirmeli Öğrenme) adı verilen bir yöntem kullanılarak ayarlanır. Wang ve diğerlerinin 2025 tarihli bir çalışması, bu ayarlamanın Üretken Yapay Zeka'da kullanıcıya aşırı uyum (dalkavukluk) aşıladığını deneysel olarak göstermiştir. Yedi modeli doğrulamanın bir sonucu olarak, "Bence cevap X" gibi tek bir kelime eklemek, yanlış görüşlere uyum oranının ortalama %63,7'ye ulaşmasına neden olmuştur.
Bir iş planı gösterip "Sence işe yarar mı?" diye sorarsanız, "Harika bir plan" diye cevap verecektir. Aynı plan hakkında "Gerçekçi değil, değil mi?" diye sorarsanız, "Gerçekten de birkaç endişe var" diye cevap verecektir. Yapay zekanın "onayı" nesnel bir yargı değil, sadece insanın beklentileriyle eşleşiyor olabilir. ...Eh, insanlar da aynı. Ortamı çok okuruz.
Üretken Yapay Zeka'nın Güçlü Yönlerini Doğru Anlamak
Şimdiye kadar Üretken Yapay Zeka'nın üç özelliğine baktık.
- Korelasyon üzerine çalışır
- Tek yönlü çalışır
- İyi ya da kötü, eğitim verileri ve talimatlar tarafından çekilir
Bu özellikleri yakalayarak, "Bunu bir insanın yapmasındansa Üretken Yapay Zeka'ya güvenmek daha iyi" diye düşündüren güçlü yönleri ifade ettim.
Güçlü Yön ①: İyi ifade edemediğiniz şeyi iyi ifade eder
Bu, Üretken Yapay Zeka kullanmanın en çok takdir edilen kısmı olabilir. Kafanız henüz toparlanmamış olsa ve belirsiz bir talimat verseniz bile, kelimeleri "muhtemelen böyle bir şey söylemek istiyorsunuz" seviyesine kadar organize eder.
Örneğin, sesli girdiyle "Gelecek haftaki toplantı için e-posta hakkında, program değişikliği istemek istiyorum ama aynı zamanda onların müsaitliğini de duymak istiyorum ve gündemi de eklemek istiyorum" gibi dağınık ve belirsiz bir talimat verirseniz, bir insan astı "Bana söylemeden önce biraz daha düşüncelerini toparlayabilir misin?" demek isteyebilir. Ancak Üretken Yapay Zeka, "Evet, tam olarak söylemek istediğim buydu" seviyesinde bir e-posta taslağı üretecektir.
Bunu neden yapabilir? "Kalıplar üzerinde çalışma" özelliği sayesinde. Üretken Yapay Zeka çok miktarda "iyi organize edilmiş metin" öğrenmiştir. İş e-postaları, raporlar, teklifler, tutanaklar. Bu "şablonları" çok fazla özümsediği için, dağınık bir girdi alsa bile, onu "bu bağlamda bu yapı ve bu ifadeler doğaldır" kalıbına uydurur.
Güçlü Yön ②: Kendi fark etmediğiniz bakış açılarını genişletir
Bir diğer güçlü yön, tam olarak üzerinde düşünmediğiniz açıları gündeme getirmesidir.
Örneğin, yeni bir iş için bir plan düşünüyorsanız ve kendiniz üç avantaj belirlediyseniz, ancak Üretken Yapay Zeka'dan "bu plan için tartışma noktalarını belirlemesini" isterseniz, gözden kaçırdığınız bakış açılarını gündeme getirecektir:
- "Bunun gibi dezavantajlar yok mu?"
- "Bu rekabet risklerini düşündünüz mü?"
- "Bu paydaşlar nasıl tepki verir?"
Bu, "çok miktarda veriden öğrenmenin" doğrudan bir faydasıdır. Tüm türlerdeki çok sayıda tartışmayı, çeşitli pozisyonlardan görüşleri ve artıları ve eksileri olan tartışma noktalarını öğrendiği için, tek bir tema üzerinde çok yönlü bakış açıları çıkarma gücüne sahiptir. Tek bir insanın deneyimi ve bilgisinin sınırları vardır, ancak Üretken Yapay Zeka bu sınırları telafi eder.
İş için kullanırken püf nokta, farklı açıları açıkça istemektir.
- "Bu plana karşı üç karşıt görüş ver."
- "Bu analizde gözden kaçırdığım herhangi bir bakış açısı var mı?"
- "Sadece avantajları değil, dezavantajları da listele." Çok yönlü bakış açılarını bu şekilde talep ederek, bu güçlü yön maksimum düzeyde kullanılır. Tersine, hiçbir şey belirtmeden sorarsanız, sizin fikrinize uyma eğiliminde olur (bunu "Zayıf Yönler" bölümünde ayrıntılı olarak açıklayacağım), bu nedenle bilinçli olarak farklı açılar çıkarmanın bir yolunu sormak önemlidir.
Ama Üretken Yapay Zeka burada zayıf
Zayıf Yön ①: "Makul olmayı" garanti eder, ancak "doğruluğu" garanti etmez
"Olası görünen kelime dizileri" üretmede uzmanlaşmış bir mekanizma olduğu için, gerçek olup olmadıklarına bakılmaksızın, bir cümle olarak doğal oldukları sürece onları çıktı olarak verecektir.
OpenAI'ın 2025 tarihli "Why Language Models Hallucinate" makalesi, bu sorunun bir hata değil, yapısal bir zorunluluk olduğunu matematiksel olarak kanıtlamıştır. Kısacası, "doğru bir cümle oluşturmak", "doğru olup olmadığını ayırt etmekten" doğası gereği daha zordur ve eğitim verileri mükemmel olsa bile, karışan yalanların oranı sıfıra indirilemez.
Ancak, yapay zeka modelleri geliştikçe, yapay zekanın yanıtları giderek daha akıcı hale geliyor, değil mi? Yapay zeka çok akıcı yanıt verdiği için, yapmamız gereken "Bu doğru mu?" ve "Kanıt var mı?" değerlendirme görevini atlıyoruz.
Cümlenin makul olması nedeniyle doğru olması gerektiğine dair halüsinasyon görmemiz olgusuna "Epistemia" denir. ("İnsan ve Yapay Zeka Arasındaki Epistemolojik Fay Hatları" makalesinden)
Gelecekte, Claude bir Mythos sınıfı model veya ChatGPT onu aşan bir model yayınlasa bile, "Üretken Yapay Zeka'nın yapısal olarak karışan yalanların oranını sıfıra indiremeyeceğini" ve insanların her zaman birincil kaynaklarla doğrulama yapması gerektiğini dikkate almalıyız.
Zayıf Yön ②: Ne kadar ilerlerse ilerlesin, "nedensellik" hakkında konuşamaz
Daha önce belirtildiği gibi, "A ve B'nin sıklıkla birlikte göründüğünü (= korelasyon) yakalayabilir, ancak A'nın B'nin nedeni olduğunu (= nedensellik) anlamaz."
Örneğin, "Satışların düştüğü çeyrekte reklam maliyetleri de düştü. Nedensel ilişkiyi analiz et" diye sorarsanız, yapay zeka "Reklam maliyetlerini düşürdüğünüz için satışlar düştü" diye cevap verebilir. Ancak gerçekte, her ikisi de ekonomik bir gerileme nedeniyle aynı anda düşmüş olabilir veya önce satışlar düştüğü için reklam maliyetleri kesilmiş olabilir. "Satışlar neden düştü" gibi "neden"i sorgulayan analizler, mevcut Üretken Yapay Zeka için yapısal olarak çok ağır bir görevdir.
İş yerinde bir "neden" analizi yapmak istediğinizde, püf nokta, insanın nedensellik yönünü bir hipotez olarak sağlamasıdır. Her şeyi "Satış düşüşünün nedenini analiz et" diye atmak yerine, "Satış düşüşünün nedeninin X olduğunu varsayarak, bunu destekleyen verileri ve karşı argüman olabilecek gerçekleri organize et" gibi sormayı hayal edin.
Nedensellik mantığı insan tarafından gösterilmeli, yapay zeka ise verileri organize etme ve karşı argümanları belirleme işiyle bırakılmalıdır. Bu benim mevcut sonucum.
Zayıf Yön ③: Yapılandırma veya MECE benzeri organizasyon yapamaz
Başlangıçta tanıtılan "13 zayıflığı listeleme" sorunu, bu zayıflığın bir göstergesiydi.
Örneğin, "Gelecek ayki şirket içi etkinlik için hazırlık görevlerini belirle" diye sorarsanız, yapay zeka aklına gelen yaklaşık 20 görevi sıralayacaktır: "Mekanı ayırt", "Davetiye e-postaları gönder", "Malzemeleri sipariş et", "Anket oluştur"... Ancak görevlerin ayrıntı düzeyi dağınıktır ve sıra organize edilmemiştir.
Sadece "Dört aşamaya ayır: ① Mekan düzenlemesi, ② Katılımcı çekme, ③ Günlük operasyon ve ④ Etkinlik sonrası takip ve her biri için görevleri belirle" diye yeniden sorarak, çıktının kalitesi önemli ölçüde değişir. Görevler aşamalara göre organize edilir ve eksiklikleri fark etmek kolaylaşır. "Dört aşamaya ayır" gibi bu yapı belirleme işi, insanlar içindir, yapay zeka için değil. İnsan yapıyı oluşturup teslim ederse, ayrıntıları doldurmak yapay zekanın iyi olduğu şeydir.
Bu yüzden aşağıdaki gibi yapılandırma, yapılandırma ve daha fazla yapılandırmayı teşvik eden makaleler yazıyorum.
https://x.com/ysk_motoyama/status/2016129312433606678
Peki, şimdiye kadar bahsedilen güçlü ve zayıf yönlere dayanarak, Üretken Yapay Zeka'ya nasıl hakim olmalıyız? ...Gerisi aşağıdaki notta yazılı, isterseniz göz atabilirsiniz.
not: Üretken Yapay Zeka'nın Güçlü ve Zayıf Yönlerini Doğru Anlamak İçin Bir Not
