Agent başkasının bakiyesini gösterince fatura kimde?
Reuters'ın aktardığı iç paylaşımlara göre Meta'nın agent'ı Muse sohbetleri karıştırıp başkalarına ait banka bakiyelerini gösterdi. Aynı hafta ABD bankaları, agent'a erişim veren müşterinin sorumluluğu üstlendiğini sözleşmeye yazdı. Kolaylık agent'ta, risk kullanıcıda kalıyor.


Hava durumunu ve gelgit saatlerini soruyorsunuz. Agent cevabı veriyor, sonra kendiliğinden iki bankadaki hesap bakiyesini ekliyor. Bakiyeler sizin değil.
Bu bir kurgu değil. Reuters'ın şirket içi paylaşımlara dayanan haberini aktaran TechCrunch'a göre Meta çalışanları, Muse'un sohbetleri karıştırdığını ve başkalarına ait bilgileri gösterdiğini yazdı: hiç yapmadıkları çocuk bakımı talepleri, vermedikleri siparişler, kendilerine ait olmayan banka bakiyeleri. Bir çalışan da Muse'un ona Signal'deki bir mesajı yanıtlamasını hatırlattığını, oysa böyle bir erişim izni verdiğini hatırlamadığını söyledi.
SiberMagazin Köşe YazılarıSiber güvenlik gündemine yazarlarımızın yorumları.Yazıları oku ›Önce sınırları çizeyim. SiberMagazin iç paylaşımları görmedi; etkilenen kullanıcı sayısı ve kök neden açıklanmadı; Meta yorum talebine hemen yanıt vermedi. Bu, bir ürünün çöktüğü anlamına gelmiyor. Ama sorulması gereken soruyu sordurmaya yetiyor.
Hata yeni değil, ölçeği yeni
Bir kullanıcının verisinin başka bir kullanıcıya görünmesi web uygulamalarının eski bir hatası: oturum karışır, önbellek yanlış kişiye servis edilir. Fark şurada: klasik bir uygulama yalnızca kendi ekranındaki veriyi karıştırabilir. Agent ise e-postaya, mesajlara, takvime ve finans uygulamalarına bağlanmak için tasarlanıyor. Muse kısa süre önce kullanıcı adına işletmeleri telefonla arama yeteneği kazandı ve habere göre Meta, 10 milyonun üzerinde kullanıcıdan söz ediyor.
Bağlantı sayısı arttıkça tek bir karışıklığın dökebileceği veri de artıyor. Bir sohbet kutusu karıştığında yanlış cevap alırsınız. Bir agent karıştığında başkasının hayatını görürsünüz.
Sözleşme hızlı, güvence yavaş
Aynı haftanın ikinci haberi tabloyu tamamlıyor. TechCrunch'a göre Citibank kullanıcı sözleşmesini değiştirdi: hesap erişimini üçüncü taraf AI agent'lara veren müşteri, bu agent'lar üzerinden yapılan işlemlerden sorumlu. PNC koşullarını değiştirdi, Citizens müşterilerine e-posta attı; JPMorgan ve Bank of America'nın geçen ay benzer adımlar attığı bildiriliyor.
Bankaları suçlamıyorum; kendi kontrol etmedikleri bir yazılımın riskini üstlenmek istememeleri anlaşılır. Ama sonuca bakın: agent sağlayıcısı veriyi karıştırırsa sorun sağlayıcının sorunu gibi görünüyor, agent bankada yanlış işlem yaparsa sözleşmeye göre sorun müşterinin sorunu. Kolaylığı agent satıyor, riski kullanıcı imzalıyor.
Kullanıcı da bu riski fark etmeden alıyor. Dashlane'in kendi anketine göre İngiltere'de çalışanların yüzde 19'u bir AI aracıyla parola, API anahtarı ya da giriş bilgisi paylaşmış, yüzde 15'i sonradan erişmemesi gereken bir yere erişim verdiğini fark etmiş. Rakamlar üreticinin anketi, ham veri yayımlanmadı; yine de yön tutarlı.
İzin ekranı bir söz değildir
Signal örneği beni bakiyeden daha çok düşündürüyor. Kullanıcı izin verdiğini hatırlamıyorsa iki ihtimal var: ya izin verildi ama anlaşılır değildi, ya da agent izin olmadan bir bilgiye ulaştı. İkisi de aynı sonuca çıkıyor: izin modeli kullanıcının kafasındaki modelle örtüşmüyor. "Ayarlarda açıktı" cevabı hukuken yeterli olabilir; güven için yetmez.
"Geçici mod" gibi çözümler de bu boşluğu tek başına kapatmıyor. Google'ın AI Mode'a getirdiği temporary threads haberinde de yazdığımız gibi, "geçmişte görünmüyor" ile "hiç saklanmıyor" aynı şey değil.
Karşı görüşün güçlü yerini kabul edeyim: agent'ların erken sürümlerinde hata çıkması beklenen bir şey ve çalışanların bunu içeride bildirmesi, bir test sürecinin işlediğini de gösterebilir. İtirazım hataya değil, hata oranı ve kök neden bilinmeden banka ve mesaj hesaplarının agent'a bağlanmasına.
Pusula
- Bağlantı listesini küçük tutun. Agent'ın bağlı olduğu her uygulamayı tek tek gözden geçirin; ihtiyaç duymadığınız erişimi kaldırın. Kurumda bu liste envantere girsin.
- Banka şifresi agent'a verilmez. Finans bağlantısı gerekiyorsa bankanın resmi, kapsamı sınırlı ve geri alınabilir yöntemini kullanın; önce sözleşmedeki AI agent maddesini okuyun.
- Sağlayıcıdan üç cevap isteyin. Verim diğer kullanıcılardan nasıl ayrılıyor, agent'ın belleği ne kadar tutuluyor, bir karışıklık olursa bana nasıl bildirilecek?
- Ölçün. Kurumda agent kullanılıyorsa yanlış kişiye görünen veri ve izinsiz işlem bildirimlerini ayrı bir kayıt olarak tutun; sıfır değilse büyütmeden önce durun.
Kısaca
- Agent'larda veri karışması eski bir hatanın yeni ölçeği: bağlantı arttıkça dökülen veri de artıyor.
- Bankalar riski sözleşmeyle müşteriye bıraktı; agent'a erişim vermeden önce o maddeyi okuyun.
- Kullanıcının hatırlamadığı izin, verilmiş bir izin değil, açıklanmamış bir izindir.
İlgili haberler
- Reuters: Meta çalışanları, AI agent'ı Muse'un sohbetleri karıştırdığını ve başkalarına ait özel bilgileri gösterdiğini iç paylaşımlarda bildirdi
- ABD bankaları AI agent'lar için sözleşmeyi değiştiriyor: Citi'ye göre müşterinin bankacılık erişimi verdiği üçüncü taraf agent hacklenirse sorumluluk müşteride
- Dashlane araştırması: İngiltere'de her beş çalışandan biri parola, API anahtarı ya da giriş bilgisini bir AI aracı veya agent'la paylaşmış
- Google, aramadaki AI Mode'a geçici sohbet getirdi: temporary threads geçmişe ve kişiselleştirmeye yansımıyor
- Meta'nın AI agent'ı Muse artık kullanıcı adına ABD'deki işletmeleri telefonla arayabiliyor; özellik yalnızca ücretli abonelere açık