AI ajanları ve robotlar gerçek iş hayatına girerken, benimsenmeyi belirleyen tek şey zeka olmayacak. Kanıt, hesap verebilirlik ve güven belirleyici olacak.
Herkes AI'nın ne kadar zeki olacağını soruyor.
Ben farklı bir soru üzerinde düşünüp duruyorum:
Hangi AI'ya gerçekten güvenebileceğimizi nasıl bileceğiz?
Çünkü yapay zeka ekonomisini zeka tek başına inşa etmeyecek.
Bir model, bir gösterimde etkileyici olabilir.
Bir ajan, özenle seçilmiş bir görevi tamamlayabilir.
Bir robot, kontrollü bir videoda kusursuz performans sergileyebilir.
Ancak gerçek benimsenme, gösterim bittikten sonra başlar.
Bir işletmenin şu soruyu sormasıyla başlar:
Bu, bizim ortamımızda çalışacak mı?
Sistemlerimize bağlanabilir mi?
Bunu kim inşa etti?
Hangi bilgilere erişebiliyor?
Bir şeyler ters gittiğinde nasıl davranıyor?
Kim sorumlu?
Ve bunun için ödemeye değer mi?
Bu sorular, bir robotun yürümesini veya bir ajanın uygulama geliştirmesini izlemek kadar heyecan verici değil.
Ancak hangi ürünlerin hayatta kalacağına onlar karar verebilir.
Zor kısma giriyoruz
AI ürünleri geliştirmek giderek hızlanıyor.
Küçük bir ekip, daha önce büyük bir şirket, ciddi finansman ve aylarca süren geliştirme gerektirebilecek bir şeyi artık haftalar içinde oluşturabiliyor.
Bu, yenilik için harika.
Ancak başka bir sorun yaratıyor.
Ürün sayısı, onları değerlendirme yeteneğimizden çok daha hızlı artıyor.
Herhangi bir AI dizinini açın ve desen hemen belli oluyor.
Binlerce araç.
Benzer açıklamalar.
Cesur vaatler.
Çok az bağlam.
Bir ürünün ne yaptığını genellikle görebilirsiniz.
Anlaması çok daha zor olan şeyler:
- tutarlı bir şekilde çalışıp çalışmadığı;
- insanların zaten kullanıp kullanmadığı;
- hangi sistemleri desteklediği;
- verilerinize ne olduğu;
- yaratıcısının gelecek yıl hala orada olup olmayacağı;
- ve ürünün alternatiflerden gerçekten daha iyi olup olmadığı.
Keşif size seçenekler sunar.
Güven, karar vermenize yardımcı olur.
AI ekosisteminde şu anda birincisinden bolca var, ikincisinden ise yeterince yok.
Beş dakikalık bir gösterim kanıt değildir
Bu, AI ekranın dışına çıktıkça daha da önemli hale geliyor.
Kötü bir yanıt veren bir sohbet robotu sinir bozucudur.
Yanlış finansal veya operasyonel karar alan bir yazılım ajanı pahalıya mal olabilir.
Bir depoda, hastanede veya kamusal alanda yanlış davranan bir robot tehlikeli olabilir.
Bu, standardı değiştiriyor.
Fiziksel AI'yı sıradan bir mobil uygulamayı değerlendirdiğimiz gibi değerlendiremeyiz.
Şık bir arayüz yeterli değildir.
Viral bir video yeterli değildir.
Çok sayıda takipçi yeterli değildir.
Kimsenin hangi koşullar altında gerçekleştiğini anlamadığı başarılı bir test bile yeterli değildir.
AI gerçek işe, paraya, altyapıya ve insan güvenliğine ne kadar yaklaşırsa, o kadar fazla kanıta ihtiyaç duyacaktır.
Bu kanıt; performans geçmişi, doğrulanmış dağıtımlar, teknik uyumluluk, kullanıcı geri bildirimleri, güvenlik bilgileri, bağımsız testler ve net hesap verebilirliği içerebilir.
Her ürünün her tür doğrulamaya ihtiyacı olmayacaktır.
Ancak "güven bana, çalışıyor" ölçeklenemez.
Bir sonraki AI kazananları en gürültülü olanlar olmayabilir
Bugün, dikkat genellikle hangi ürünlerin keşfedileceğini belirliyor.
En iyi lansman.
En güçlü kişisel marka.
En büyük reklam bütçesi.
En dramatik gösterim.
Ancak dikkat ve kalite aynı şey değildir.
Muhtemelen şu anda çoğumuzun hiç duymadığı kişiler tarafından geliştirilen mükemmel AI ürünleri ve robotik projeleri vardır.
Derin teknik bilgiye sahip olabilirler ancak sınırlı dağıtıma sahiptirler.
Silikon Vadisi dışında faaliyet gösteriyor olabilirler.
Günde on kez paylaşım yapan bir kurucuları olmayabilir.
Tarım, lojistik, sağlık, eğitim veya imalatta milyonlarca görüntülenmeyi hemen çekmeyen önemli bir sorunu çözüyor olabilirler.
Bu onları görünmez kılmamalı.
İşleyen bir AI ekonomisinin, güvenilir yeniliğin önce bir popülerlik yarışını kazanmadan güven kazanmasının yollarına ihtiyacı vardır.
Ayrıca alıcıların, ortakların ve yatırımcıların, birbirine bağlı olmayan web siteleri, özel gruplar ve e-tablolar arasında haftalarca arama yapmadan fırsatları karşılaştırabilmesinin yollarına da ihtiyacı vardır.
Bu yalnızca bir keşif sorunu değildir.
Bu bir güven altyapısı sorunudur.
Güven gerçekte ne anlama gelmeli
"Güvenilir", şirketlerin çok kolay kullandığı kelimelerden biridir.
Bu yüzden onu daha pratik bir şekilde tanımlamaya çalışıyorum.
Bana göre, bir AI ürününe duyulan güven beş şeyden gelmelidir.
- Kimlik
Bunu kim inşa etti?
Yaratıcı veya şirket doğrulanabilir mi?
Kullanıcılar onu kimin sürdürmekten sorumlu olduğunu anlayabiliyor mu?
Anonim deneylerin yeri vardır.
Ancak ticari benimseme hesap verebilirlik gerektirir.
- Kanıt
Ürün, kontrollü bir gösterimin dışında performans gösteriyor mu?
İddiaların arkasında gerçek kullanıcılar, sonuçlar, testler veya dağıtımlar var mı?
Kanıt, yeni bir proje için olgun bir şirketten farklı görünecektir.
Önemli olan, fark konusunda dürüst olmaktır.
- Şeffaflık
Ürün ne yapıyor?
Ne yapmıyor?
Hangi verileri kullanıyor?
Hangi izinleri gerektiriyor?
Sınırlamaları nelerdir?
Güven, her satır kodun ifşa edilmesini gerektirmez.
İnsanlara bilinçli bir karar vermeleri için yeterli bilgiyi vermeyi gerektirir.
- İtibar
Diğer insanlar onu kullandığında ne oldu?
Çalıştı mı?
Destek mevcut muydu?
Sorunlar düzgün bir şekilde ele alındı mı?
İtibar, boş derecelendirmelerle üretilmek yerine gerçek faaliyetlerle kazanılmalıdır.
- Hesap Verebilirlik
Sistem başarısız olduğunda ne olur?
Bir eylem incelenebilir mi?
Erişim kaldırılabilir mi?
Bir işleme itiraz edilebilir mi?
Sorunu çözmekten sorumlu bir kişi veya kuruluş var mı?
Güvenin testi, bir şeyin asla başarısız olup olmadığı değildir.
Her şey eninde sonunda başarısız olur.
Test, başarısızlığın anlaşılıp, kontrol altına alınıp düzeltilebilmesidir.
Güven bir duvara dönüşmemeli
Bunun bir de diğer tarafı var.
Güven sistemleri kötü tasarlanırsa, yerleşik şirketleri koruyabilir ve diğer herkesi dışarıda bırakabilir.
Bu bir hata olur.
Yeni bir yapımcının ciddiye alınmak için milyonlarca dolarlık finansmana, ünlü bir yatırımcıya veya pahalı bir sertifikaya ihtiyacı olmamalıdır.
Güven altyapısının amacı, kimin yenilik yapmasına izin verildiğine karar vermek olmamalıdır.
İnsanların neye baktıklarını anlamalarına yardımcı olmalıdır.
Prototip aşamasındaki bir proje bunu açıkça söyleyebilmelidir.
Üretime hazır bir ürün nedenini gösterebilmelidir.
Deneysel bir robot, ticari olarak kanıtlanmış olarak sunulmamalıdır.
Ancak yine de keşfedilebileceği, desteklenebileceği ve geliştirilebileceği bir yeri olmalıdır.
Amaç her projeyi eşit göstermek değildir.
Amaç farklılıklarını görünür kılmaktır.
Bu, yaratıcılar için daha adil, alıcılar için daha güvenli bir ortam yaratır.
NexoraX'i inşa etmek bana ne öğretiyor
NexoraX hakkında ciddi bir şekilde düşünmeye başladığımda, keşif bariz sorun gibi görünüyordu.
Sayısız platforma yayılmış AI araçları, ajanlar, robotik ürünler, araştırma projeleri ve yaratıcılar var.
Onları birbirine yaklaştırmak zaten değerli görünüyordu.
Ancak bu yolculukta ne kadar derine inersem, keşfin sadece ön kapı olduğunu o kadar çok fark ediyorum.
İnsanların sadece göz atacak daha fazla şeye ihtiyacı yok.
Gördüklerini anlamak için daha iyi yollara ihtiyaçları var.
Bağlama ihtiyaçları var.
Sinyallere ihtiyaçları var.
Kanıta ihtiyaçları var.
Ve nihayetinde, harekete geçmek için yeterli güvene ihtiyaçları var.
Bu, bir ürünü denemek anlamına gelebilir.
Satın almak.
Dağıtmak.
Yaratıcısını desteklemek.
Şirketle ortaklık kurmak.
Veya proje gelişirken onu takip etmek.
Doğru sistemin neye benzemesi gerektiğini hâlâ öğreniyorum.
Bazı cevaplar teknolojiden gelecek.
Birçoğu, yapıcıları, alıcıları, araştırmacıları, yatırımcıları ve bu sistemleri gerçek dünyada kullanması beklenen insanları dinlemekten gelecek.
Bu yolculuğu her şey bitmeden paylaşmamın nedenlerinden biri de bu.
Bu ekosisteme şimdi giren insanlar, nasıl geliştiği konusunda söz sahibi olmalıdır.
Gerçek AI yarışı
Kamuya açık AI yarışı genellikle bir zeka rekabeti olarak tanımlanır.
En güçlü modele kim sahip?
En yetenekli ajana?
En hızlı robota?
Bu sorular önemlidir.
Ancak bunların altında başka bir yarış oluşuyor.
AI'yı kim anlaşılır kılabilir?
Kim güvenilir kılabilir?
Yeniliği ona ihtiyacı olan insanlarla kim buluşturabilir?
Deneyleri boğmadan kim güven yaratabilir?
Zeka, AI'yı güçlü kılacak.
Güven, onu kullanılabilir kılacak.
Ve güven olmadan, bugün yaratılan yeniliğin çoğu asla gösterimin ötesine geçemeyebilir.
Hâlâ erken aşamadayız.
Ancak bunun, bundan sonraki her şeyi şekillendireceğine inandığım sorulardan biri olduğuna inanıyorum.
