Büyük ABD bankaları, banka onayı olmadan müşteri hesapları içinde faaliyet gösteren üçüncü taraf yapay zeka ajanlarını tespit ediyor; Axios bu sabah bildirdi. Bu ajanlardan bazıları, kullanıcılarının verdiği talimatların ötesine geçiyor gibi görünüyor. Banka yöneticileri durumu Axios'a "korkunç" olarak tanımlarken, en büyük kredi kuruluşları hızla harekete geçiyor: Morgan Stanley dışarıdan gelen ajanları engellemeye başladı; JPMorgan, Bank of America ve Citi ise bunları kısıtlıyor.
Bankalar her zaman kimliği doğrulanmış olmanın yetkilendirilmiş olmak anlamına gelmediğini biliyordu. Onlarca yılını bu ilke üzerine kontroller inşa ederek geçirdiler: yetkilendirmeler, işlem limitleri, ek doğrulama adımları, dolandırıcılık izleme sistemleri. Ancak bu kontroller insanlar için tasarlandı. Sisteme giriş yapan kişinin işlemi gerçekleştiren kişi olduğunu ve bir insanın insan hızında hareket ettiğini varsayıyorlar.
Yapay zeka ajanları bu iki varsayımı da yıkıyor. Birçoğu, müşterilerin bizzat teslim ettiği kimlik bilgileriyle oturum açıyor ve ardından müşterinin sahip olduğu aynı erişim haklarıyla müşterinin oturumu içinde işlem yapıyor. Üstelik bunu makine hızında, 7/24 gerçekleştiriyorlar.
Bugünkü kontroller yalnızca müşterinin bir şeyi yapmaya yetkili olup olmadığını sorguluyor. Klavyenin başında bir insan varken bu yeterliydi: talep eden ile işlemi yapan aynı kişiydi. Bir ajan söz konusu olduğunda ise kontroller, asla sormak üzere tasarlanmadıkları ikinci bir soruyla karşılaşıyor: Müşteri bunu gerçekten istedi mi? Çoğu zaman bankalar gerçeği ancak iş işten geçtikten sonra öğreniyor.
Asıl açık burası. Kontroller başarısız olmadı. Sadece müşteriyi, müşterinin şifresini elinde tutan yazılımdan güvenilir bir şekilde ayırt edemiyorlar.
Ajanları engellemek veya salt okunur erişimle sınırlandırmak mantıklı bir ilk adım. Ancak son adım olamaz. Banka yöneticileri Axios'a, müşterilerin bu ajanları kullanmaya devam edeceğini bildiklerini söyledi ve sektör liderleri şimdiden doğru soruları soruyor. Bank of America CEO'su Brian Moynihan, bir hesaptan para çıkışının bir insan tarafından onaylanması gerektiğini belirtti ve bankası, ajanların hesaplarla nasıl etkileşime gireceğine ve bir ajan ödeme onayladığında sorumluluğun kime ait olacağına dair protokoller geliştiriyor. Şu anda dışarıdan gelen ajanları engelleyen Morgan Stanley ise Haziran ayında, kurumsal müşterilerinin ajanlarının onaylı bir kanal üzerinden kendi hisse senedi planı platformlarına bağlanmasına izin vereceğini duyurmuştu.
Bu bir çelişki değil. Modelin ta kendisi bu. Soru ajanlara kapıyı açıp açmamak değil. Hangi kapıyı kullanacakları ve içeri girdikten sonra neler yapmalarına izin verileceği. Bankalar bunun benzerini daha önce de yaptı; veri toplayıcıları müşterilerin şifrelerinden çıkarıp onaylı bağlantılara taşıdılar. Ajanların da sadece veri için değil, işlemler için de aynı dönüşüme ihtiyacı var.
Bu adımı atmak, anlık mikro-yaptırımlar üzerine kurulu yeni bir mimari gerektiriyor. Bir ajanın denediği her eylem, tam harekete geçtiği anda; müşterinin neyi yetkilendirdiği ve bu eylemin ne sonuç doğuracağı açısından, yapay zeka modelinin dışında konumlanan kontroller tarafından denetleniyor. Yönetişim, olay sonrası aşamasından olay öncesi aşamasına taşınıyor. Her talep dört testten geçiyor; üçü çalışmadan önce, biri çalıştıktan sonra:
- Kimlik. Kim hareket ediyor ve kimin adına? Bir ajan, asla müşterinin şifresini değil, kendi kimlik bilgilerini taşımalıdır.
- Yetki. Müşteri gerçekte nelere, hangi sınırlar dahilinde ve ne kadar süreyle izin verdi?
- Politika. Bu talebe hangi iş kuralları uygulanıyor?
- Kanıt. İşlem doğru şekilde, yalnızca bir kez ve doğrulanabilir bir kayıt bırakılarak tamamlandı mı?
Kontroller, riskin büyüklüğüne göre ölçekleniyor. Bakiye görüntülemek kimliği doğrulanmış bir müşteri gerektirir. Para transferi, müşterinin belirlediği limitleri veya o andaki onayını ve ayrıca dolandırıcılık kontrollerini gerektirir. Şifre değiştirme yetkisi ise tamamen müşteride kalır. Model önerir; sistem yetkilendirir.
Bu hafta, "zekanın arzını, onun üzerindeki yetkiden ayırmayı" savunan Satya Nadella'ya verdiğim yanıtta benzer bir argüman sundum. Aynı ilke, Netomi'de nasıl ürün geliştirdiğimizi de şekillendiriyor.
Bankacılık sektörü izole bir vaka değil, erken bir uyarı sinyali. Geçtiğimiz ay Amazon, Meta'nın Muse ajanının mağazasından alışveriş yapmasını engelledi. Ertesi gün Shopify, Shop Pay üzerinden Muse için ajan tabanlı bir ödeme süreci duyurdu. Finanstan perakendeye kadar artık her işletme aynı soruyla yüzleşiyor: Kontrolü kaybetmeden meşru yapay zeka ajanlarına nasıl kapı açılır?
Bu ayın başlarında, tam da bu soruya yanıt veren bir çerçeveyi tamamladık. Bugün bunu kamuoyuyla paylaşıyoruz. "Tüketici Yapay Zeka Ajanları: Müşteriler ve İşletmeler Arasındaki Yeni Arayüzü Yönetmek" başlıklı çalışma, bu argümanın eksiksiz teknik versiyonudur: kontroller, referans mimarisi, risk katmanları ve bunların nasıl hayata geçirileceği.
Müşteri görevi devredebilir. Ancak işletme sorumluluğu devredemez.
