Tamamı Yapay Zeka Tarafından Oluşturulan Bir Uygulama 3 Günde 1,5 Milyon Kayıt Sızdırdı: Bunu Önlemek İçin Dikkat Etmeniz Gereken 5 Şey

Bu yılın Ocak ayında, "Moltbook" adlı bir sosyal ağ piyasaya sürüldü.

Sadece yapay zeka ajanlarının gönderi yapabildiği ve neredeyse tamamen yapay zeka tarafından inşa edilmiş sıra dışı bir sosyal ağdı. Buna vibe coding de diyebilirsiniz.

Yayınlanmasından sonraki üç gün içinde, bir güvenlik araştırmacısı bir şey fark etti:

"Bu uygulamanın veritabanının içeriğini herkes okuyabilir ve yeniden yazabilir."

Sızdırılanlar arasında yaklaşık 1,5 milyon kimlik doğrulama token'ı, yaklaşık 35.000 e-posta adresi ve binlerce özel mesaj vardı.

Yönetim sorunu hemen düzeltti, ancak o ana kadar, günlerce herkes istediğini alabilirdi.

Benim işim, dahili yapay zeka araçlarının geliştirilmesini desteklemek ve güvenlik kontrolleri yapmaktır.

Bu olay aslında, yapay zeka kullanarak dahili araçlar geliştiren şirketlerde en sık gördüğüm güvenlik açığının aynısını içeriyordu.

İşte olanlar ve bunun başınıza gelmesini önlemek için dikkat etmeniz gereken beş şey.

====

Ne Oldu?

Bunun sadece iki nedeni vardı.

Birincisi. Veritabanında "yalnızca kendi verilerini görebilirsin" diyen bir kural yoktu.

İkincisi. Veritabanına bağlanmak için kullanılan anahtar doğrudan tarayıcı tarafındaki koda yazılmıştı.

Tarayıcıya yazılmış bir anahtarı, geliştirici araçlarını açarak herkes görebilir.

Bu anahtarla veritabanına bağlanırsanız, kısıtlayıcı hiçbir kural olmadığı için tüm veriler döndürülür.

Başka bir deyişle, uygulama arayüzünden geçmeden arka kapıdan her şey görülebiliyordu.

Yapay zeka başarıyla "çalışan bir uygulama" inşa etti.

Ancak, kendisinden istenmediği için "bunu başkalarından gizleme" kısmını inşa etmedi.

Yapay zeka ile inşa ederken karşılaşılan en büyük tuzak budur.

====

1. "Giriş Yapabilmek" ile "Başkalarının Verilerini Görmemek" Farklı Şeylerdir

Bir uygulama geliştirirken neredeyse her zaman bir giriş özelliği eklenir.

İnsanlar, "Şimdilik bir giriş özelliği ekledim, sorun yok" diye düşünme eğilimindedir, ancak bu yanlıştır.

Giriş yapmak, bir kişinin "kim" olduğunu doğrulamak için bir özelliktir.

"O kişinin ne görmesine izin verildiği" ayrıca inşa edilmelidir.

Moltbook'un da bir giriş sistemi vardı.

Ancak giriş yaptıktan sonra kullanıcılar diğer kişilerin verilerine erişebiliyordu.

Kontrol basittir.

İki test hesabı oluşturun, Hesap A ile giriş yapın ve Hesap B'nin verilerinin URL'sini doğrudan açmayı deneyin.

Görebiliyorsanız, güvenlik açığınız var demektir.

İşte yapay zeka için komut:

"Kullanıcıların yalnızca kendi verilerine erişebildiğinden emin ol. Başka birinin verilerinin URL'sini açsalar bile görememelerini sağla."

====

2. Veritabanı Tarafına da "Yalnızca Kendi Payını Gör" Kuralı Koyun

İlk nokta uygulama tarafıyla ilgiliydi.

Ancak Moltbook'ta olduğu gibi, birisi uygulamadan geçmeden doğrudan arka kapıdan veritabanına bağlanabilir.

Bu nedenle, veritabanının kendisine "bu kişi yalnızca bu satırı görebilir" şeklinde bir kural koymalısınız.

Bu uygulandığında, anahtar sızdırılsa bile başkalarının verileri alınamaz.

Son zamanlarda yapay zeka geliştirmede sıkça kullanılan veritabanı hizmetlerinde bu özellik bulunur.

Ancak, genellikle varsayılan olarak kapalıdır. Yapay zeka, istenmediği sürece bunu etkinleştirmez.

İşte komut:

"Kullanıcıların yalnızca kendi satırlarını okuyabilmesi için tüm veritabanı tablolarında bir kural etkinleştir."

====

3. Anahtarları Tarayıcı Tarafına Koymayın

Moltbook'taki diğer neden, anahtarın tarayıcıya yazılmış olmasıydı.

Bir uygulamanın "sunucu tarafında çalışan kodu" ve "tarayıcı tarafında çalışan kodu" vardır.

Tarayıcı tarafı, tamamen kullanıcının bilgisayarına gönderilir. Başka bir deyişle, oraya bir anahtar yazmak, onu herkese dağıtmakla aynı şeydir.

Nasıl kontrol edilir: Geliştirici araçlarını açın ve "key", "token" veya "secret" ifadelerini arayın.

Öyle görünen uzun bir dize çıkarsa dikkatli olmanız gerekir.

İşte komut:

"Anahtarları ve şifreleri kesinlikle sunucu tarafında tut. Bunları asla tarayıcı tarafındaki koda dahil etme."

====

4. Yayınlamadan Önce "Farklı Bir Yapay Zekanın" Kötü Adamı Oynamasını Sağlayın

Uygulamayı inşa eden yapay zekaya "Güvenli mi?" diye sorarsanız, "Evet" diyecektir. Çünkü onu kendisi inşa etti.

Bu nedenle, geliştirme için kullanılandan farklı bir yapay zekanın, uygulamayı bir saldırganın bakış açısıyla incelemesini sağlamalısınız.

Ona "Bu uygulamaya sızmaya çalışsan nereden girerdin?" diye sorun.

Bunu müşterilerimin araçlarıyla yaptığımda, fark etmedikleri güvenlik açıkları ortaya çıkıyor.

Moltbook'taki iki güvenlik açığı, normalde bu soruyla bulunabilecek seviyededir.

İşte komut:

"Sen bir saldırgansın. Bu uygulamada başkalarının verilerini görmenin tüm yollarını listele. Bulursan, düzeltmeleri de sağla."

====

5. Yayınlandıktan Sonra, "Kimin Neyi Görüntülediğini" Kaydedin ve İlk Hafta Her Gün Kontrol Edin

Moltbook, harici bir araştırmacının bulup iletişime geçmesiyle düzeltildi.

Kendileri fark etmemişlerdi.

Dahili araçlarda kimse sizinle iletişime geçmez.

Bu nedenle, "kimin ne zaman giriş yaptığının ve hangi verileri görüntülediğinin" bir kaydını tutun.

Ardından, yayınlandıktan sonraki ilk hafta boyunca bu kaydı her gün kontrol edin.

Bilinmeyen bir erişim kaynağı, gecenin bir yarısı yoğun erişim veya bir kişinin herkesin verilerini açması.

Bunları kayıtlara bakarak hemen anlayabilirsiniz.

İşte komut:

"Kimin hangi verilere ne zaman eriştiğine dair bir günlük tut. Ancak, günlüklere şifreleri veya kişisel bilgileri yazma."

====

Özet

Moltbook olayını tek bir cümleyle özetlemek gerekirse:

"Yapay zeka, kendisinden ne inşa etmesi istenirse onu inşa eder, ancak kendisinden istenmeyeni inşa etmez."

Dahili araçlar yaparken, "Bu tür bir özellik istiyorum" diye iletişim kurarız.

Ancak "Bunu başkalarına gösterme" veya "Anahtarı tarayıcıya koyma" demeyiz.

Söylemediğimiz için dahil edilmez.

Tersine, bu beş şeyin tümü, yapay zekaya tek bir cümle eklenerek dahil edilebilir.

İlk olarak, halihazırda çalışan bir aracınızla iki test hesabı oluşturmayı ve başka birinin verilerinin URL'sini açmayı deneyin.

Sadece bunu yapmak, Moltbook ile aynı güvenlik açığına sahip olup olmadığınızı size söyleyecektir.

====

Son olarak, bir duyuru.

Şirketimiz, şirketiniz için göreve özel yapay zeka ajanlarını sıfırdan geliştirmek için bir hizmet sunmaktadır.

Eğitim veya araç tanıtımları yerine, gerçek iş akışınız hakkında sizinle görüşür ve olduğu gibi "yarından itibaren kullanıma hazır" bir şey teslim ederiz. Tanıtım sonrası iyileştirme ve dahili geliştirmeye kadar tutarlı destek sağlıyoruz.

Ayrıca, mühendislerin eşlik ederek dahili yapay zeka araçlarının güvenliğini ve işleyişini kontrol ettiği, ayrıca sonraki bakım ve değişiklikleri üstlendiği bir hizmet de sunuyoruz. Önemli bir özellik, inşa ettikten sonra bitirmememiz, bu makaledeki beş noktanın perspektiflerinden "sürekli bir koruma sistemi" kurmamızdır.

"Bizim aracımızda biri başka birinin URL'sini açarsa veriler görünebilir" diye düşünen bir işletme sahibi veya yöneticisiyseniz, lütfen sizinle konuşalım.

İlk danışma ücretsizdir ve bu makalede tanıtılan saldırgan bakış açısı kontrolünün bir demosunu anında gösterebiliriz. Sisteminizin nerede savunmasız olduğunu birlikte belirleyerek başlayabileceğimiz için, lütfen DM veya LINE üzerinden bizimle iletişime geçmekten çekinmeyin.

Sadece "AI" demeniz yeterli↓

LINE: https://line-harness.r-yagi.workers.dev/r/x