Bu, insanlık tarihinde çok önemli bir dönem. Yapay Genel Zeka (AGI) - beynin tüm bilişsel yeteneklerini sergileyen bir sistem - muhtemelen sadece birkaç yıl uzakta. Gelecekte bu döneme geri dönüp baktığımızda, tekilliğin eteklerinde durduğumuzu fark edeceğimizi düşünüyorum - insanlık için yeni bir çağın doğuşundan başka bir şey değil bu.
Hayatımın tamamını AGI üzerinde çalışarak geçirdim çünkü her zaman derin bir inancım vardı: eğer sorumlu bir şekilde inşa edilir ve devreye alınırsa, şimdiye kadar icat edilmiş en faydalı ve dönüştürücü teknolojilerden biri olacağına inanıyordum. AGI, standart teknolojik atılımlarla karşılaştırılamaz - internet veya mobil gibi sonuçları olanlarla bile değil; elektrik veya ateşin keşfine çok daha yakın. Düşününce, aslında kumun düşünmesini sağlamanın bir yolunu bulduk. Bu mucizevi bir şey.
Bu teknolojinin etkisinin büyüklüğü eşi benzeri görülmemiş olacak, muhtemelen Sanayi Devrimi'nin 10 katı ve 10 katı hızında. İlaç keşfini hızlandırmaktan yeni temiz enerji kaynakları geliştirmeye, yeni gelişmiş malzemeler yaratmaya kadar toplumun karşı karşıya olduğu en büyük sorunlardan bazılarını çözmemize yardımcı olacak. Hatta kaynakların artık insan ilerlemesi için sınırlayıcı faktör olmadığı, inanılmaz bir bolluk çağına yol açan bir noktaya bile ulaşabiliriz.
Sınırın Zorlukları
Yapay zeka şimdiden gerçek dünyada faydalar sağlamaya başladı, ancak bu muazzam potansiyelini gerçekleştirmek için bu kritik gelişim dönemini düşünceli ve dikkatli bir şekilde yönetmeliyiz. AGI'ye yaklaştıkça ortaya çıkabilecek riskleri ele almak için acil eylem gerekiyor. Sınır modellerinin siber güvenlik için oluşturduğu zorlukları şimdiden gördük ve yetenekler ilerlemeye devam ettikçe nükleer ve biyolojik riskler de dahil olmak üzere diğer tehditler yakında ortaya çıkabilir. Ufukta, giderek daha fazla eylemsel, kendi kendini yinelemeli olarak geliştiren sistemleri kontrol altında tutmak için sağlam güvenlik önlemlerine ihtiyacımız olacak - ve zamanla daha da netleşecek bilinmeyen sorunları ele almamız gerekecek.
Her zaman insan yaratıcılığının ve yenilikçiliğinin her sorunu çözme gücüne inandım. Yapay zekayla ilgili teknik riskleri azaltmanın, hep birlikte ele alabileceğimiz bir zorluk olduğuna eminim, ancak yalnızca bu önemli sonraki adımı doğru atmak için kendimize zaman ve alan tanırsak. Şu anda, bir alan olarak ve daha geniş bir toplum olarak, bunu yapmıyoruz.
Şu anda, son derece yoğun, çok katmanlı bir ticari ve jeopolitik yarışın içinde kilitlenmiş durumdayız. Bu rekabet dinamikleri hızlı ilerlemeyi besleyip inanılmaz artıları hızlandırsa da, sınırdaki ilerlemeler teknolojiyi anlayışımızın önüne geçiyor. Dünyada hiç kimse bundan sonra ne olacağını kesin olarak bilmiyor ve uzmanlar bile aynı fikirde değil. Büyük bir belirsizlik olduğunda ve bu kadar yüksek riskler söz konusu olduğunda, ihtiyatlı iyimserlikle ilerlemek mantıklı ve doğru stratejidir. Bu da, yeniliği teşvik ederken aynı zamanda sorumluluk ve güvenliği özendiren, temel güvenlik konularında uluslararası işbirliğini teşvik eden ve yapay zekanın toplumun yararına nasıl kullanıldığına dair dikkatli bir değerlendirmeyi teşvik eden bir kamu politikası gerektirir.
Sınır Yapay Zeka Standartları Kurumu için Bir Çerçeve
Yapay zekada gördüğümüz hızlı ilerleme, sınır yapay zeka modeli yeteneklerini test etmek için dinamik, uyarlanabilir ve titiz yeni bir yaklaşım gerektiriyor. ABD, ekonomik ve teknik konumu göz önüne alındığında, böyle bir çerçeve geliştirmede ilk adımı atmak için iyi bir konumda. Federal olarak denetlenen bir kamu-özel ortaklığı veya Finans Sektörü Düzenleme Kurumu'na (FINRA) benzer, bağımsız önde gelen teknik uzmanlar ve açık kaynak temsilcilerini içeren bir yönetim kuruluna sahip, kendi kendini düzenleyen bir kuruluş modeline dayalı yeni bir Standartlar Kurumu kurabilir. Finansmanın önemli olması ve büyük ölçüde endüstriden gelmesi gerekir, böylece dünya standartlarında teknik yetenek çekilebilir ve büyük ölçekli testler için gerekli bilgi işlem kaynakları sağlanabilir.
Standartlar Kurumu, değerlendirme protokolleri geliştirmekten ve uygun federal kurumlar ve ABD Ulusal Laboratuvarları ile ulusal güvenlikle ilgili alanlarda testler yapmak için çalışmaktan sorumlu olacaktır. Bir model, Standartlar Kurumu tarafından belirlenen ve gelişen yapay zeka yeteneklerine ayak uydurmak için düzenli olarak güncellenen bir dizi kriter üzerinde belirli eşikleri karşılıyorsa 'Sınır Sınıfı' olarak nitelendirilecektir. Bu kriterler tarafından tanımlanan 'Sınır Modelleri'ne sahip kuruluşlar 'Sınır Laboratuvarları' olarak kabul edilecek ve teknik detayları içeren model kartları yayınlama, güçlü iç siber güvenlik sürdürme, kilit personeli inceleme ve güvenlik ve emniyet araştırmaları için yeterli kaynak sağlama gibi en iyi uygulamaları benimsemeleri teşvik edilecektir.
Başlangıçta, Sınır Laboratuvarları, modelleri piyasaya sürülmeden 30 güne kadar önce Standartlar Kurumu ile inceleme için gönüllü olarak paylaşacaktır. Değerlendirme protokolünün etkili ve sağlam olduğu kanıtlandığında, resmileştirme hızlı bir şekilde takip edebilir; bu, Sınır Modellerinin ABD pazarında dağıtılabilmesi için bu protokolü geçmesinin zorunlu hale gelmesi anlamına gelir. Laboratuvarlar ayrıca, sürüm sonrası kritik güvenlik açıklarını gidermek için Standartlar Kurumu ile birlikte çalışacaktır.
Model değerlendirmeleri, siber güvenlik, biyolojik tehditler ve diğer yüksek riskli alanlardaki yeteneklerin titiz bilimsel değerlendirmelerini içermelidir. Belirli eylemsel yapay zeka testleri, güvenlik önlemlerini atlatma girişimlerini veya aldatma belirtilerini arayabilir ve yapay zeka tarafından oluşturulan görüntülerin dijital olarak filigranlanması ve model akıl yürütmesini anlamak için insan tarafından okunabilir çıktı belirteçleri oluşturulması gibi en iyi uygulamaları sağlayabilir.
Bu değerlendirmeler, belki başlangıçta üç ayda bir olmak üzere düzenli olarak güncellenecek ve güncelliğini yitirmiş veya doygunluğa ulaşmış kriterler kullanımdan kaldırılıp yenileriyle değiştirilecektir. Başlangıçta, Sınır Laboratuvarları ile istişare içinde geliştirilecek, ancak sonunda Standartlar Kurumu, aşırı uyumu önlemek için Laboratuvarlardan bağımsız olarak kendi ayrı testlerini oluşturma teknik kapasitesini geliştirmelidir. ABD hükümetiyle birlikte çalışarak, değerlendirmelere ve yeni kriterler ve değerlendirmelerin geliştirilmesine yardımcı olmak için üçüncü taraf denetçilerden oluşan bir ekosistemi teşvik edebilir.
Bu yaklaşımın gücü, teknik odaklı olması, aynı zamanda yeniliği desteklemesi ve sorumlu davranışı teşvik etmesidir. Alanın hızlanmasına ayak uydurmak ve belirlendikçe en büyük risklere uyum sağlamak için tasarlanmıştır ve durumun ciddiyeti gerektiriyorsa, gerekli görülmesi halinde Sınır Laboratuvarları arasında geliştirmede bir yavaşlamayı koordine etmek de dahil olmak üzere sıkılaştırılabilir. Sınır Laboratuvarı olarak belirlenmek önemli bir prestij taşıyacak ve kriterleri karşılayan modeller oluşturarak herhangi bir kuruluşa açık olacaktır. Çerçeve, menşe ülkesine veya açık veya kapalı olmasına bakılmaksızın Sınır Sınıfı modellerine uygulanabilir, ancak startuplar veya akademiden gelen sınır dışı modeller bu süreçten muaf olacaktır.
ABD öncülüğündeki bu çaba, Sınır Yapay Zeka üzerinde ortak uluslararası standartlar oluşturmak için güçlü bir başlangıç noktası sağlayacaktır. Bu teknoloji tüm gezegeni etkileyeceği için, ideal olarak bu çerçeve, uluslararası toplumu en ciddi riskleri yönetme konusunda bir fikir birliğine varmaya teşvik ederken, herkesin yapay zekanın getirdiği fırsatlara erişmesini ve bunlardan faydalanmasını sağlayacaktır.
Gelecek Henüz Yazılmadı
AGI, bilimi ve tıbbı ilerletmek için nihai araç olma, muazzam verimlilik kazanımları ve ekonomik büyüme sağlama potansiyeline sahiptir. Ancak bunu başarmak için, ortak bir küresel çerçeve etrafında koordine olarak, en titiz bilimsel yöntemleri kullanarak ve karşılaştığımız zorluklar üzerinde çalışmak için en iyi beyinleri bir araya getirerek teknik temelleri doğru atmamız gerekiyor.
Bu zorlu teknik sorunları çözsek bile, ele alınması gereken daha karmaşık ekonomik ve felsefi sorular olacak: Kıtlık sonrası bir dünyada herkesin gelişmesine yardımcı olmak için ne tür yeni ekonomik modellere ihtiyaç duyulacak? Hangi değerlere göre yaşamak istiyoruz, anlam ve amaç ne olacak ve hatta insanlık durumunun kendisi nasıl değişebilir? Bu soruları çözmek açıkçası sadece teknoloji uzmanlarına bırakılamaz ve bırakılmamalıdır. Toplumun her kesiminin bu yeni bölümü tanımlamaya yardımcı olmak için bir araya gelmesini gerektiriyor.
Yapay zeka etrafında hem büyük bir heyecan hem de belirsizlik var ve her ikisi de haklı. Ancak gelecek henüz yazılmadı, AGI gelmeden önce bu değerli pencereyi, bu teknolojiyi tüm insanlığın yararına şekillendirmek için kullanmalıyız. Şimdi topluca ne yaptığımız, medeniyetin bir sonraki aşamasının nasıl şekilleneceğini belirleyecek. AGI'yi dünyaya güvenli bir şekilde yöneterek, bilimsel keşif ve ilerlemenin yeni bir altın çağına girebilir ve inanılmaz bir insan gelişiminin parlak bir geleceğini başlatabiliriz.
