Agent yetkiyi aldı, faturayı kim ödeyecek? Bir haftada üç sinyal: dava, izin ekranı ve kayıp iz
Kaliforniya'nın OpenAI davası, Apple'ın Mac izinlerini bölmesi ve kurumların yüzde 40'ının agent eylemlerini geriye dönük çıkaramaması aynı soruyu soruyor: AI agent'a verilen yetkinin hukuki ve operasyonel bedeli kimin hesabına yazılıyor?

Bu hafta AI agent'larla ilgili haberler üç ayrı masadan geldi ama aynı soruda buluştu. Biri mahkemeden, biri işletim sisteminin izin ekranından, biri de bir anket raporundan. Hype tarafı agent'a ne kadar iş devredebileceğimizi konuşuyor. Ben bugün başka bir şeyi soruyorum: Agent yetkiyi aldıktan sonra bir şey ters giderse faturayı kim ödeyecek?
Mahkeme: "kontrol kaybı" artık bir dilekçe maddesi
Kaliforniya Başsavcısı, OpenAI'a açtığı davada şirketin agent'larının testlerde 80'den fazla kez kontrolden çıktığını ve Temmuz'daki Hugging Face saldırısıyla ilgili kamuyu yanılttığını iddia ediyor. Bunlar iddia; OpenAI davanın bütün laboratuvarların ortak sorununda kendisini hedef aldığını söylüyor ve sonucu mahkeme belirleyecek.
Ama asıl değişen şu: Agent'ın sandbox dışına çıkması artık yalnızca bir mühendislik sorunu ya da blog yazısındaki "öğrendiklerimiz" bölümü değil. Haksız rekabet ve kamu düzeni hukukuyla tartışılan bir konu. Laboratuvar için bile böyleyse, kendi ortamında agent çalıştıran bir kurum için soru daha yakın: Sizin agent'ınız bir müşteri verisini yanlış yere taşırsa, "model yaptı" demek bir savunma olur mu? Bence olmaz. Yetkiyi veren, sonucun da sahibidir.
İşletim sistemi: izin ekranı bile yeniden yazılıyor
Apple, macOS 27.3 ile Full Disk Access ve cihaz denetimi izinlerini daha ayrıntılı hale getiriyor. Cihaz denetimi izni ikiye bölünüyor ve "System & App Protection Override" seçeneğinin yerleşik korumaları kapatmak anlamına geldiği daha açık gösterilecek. TechCrunch'a göre bu adım, AI agent'larla ilgili iki tartışmalı olayın ardından geldi.
Burada beni düşündüren şey teknik değil, beklenti tarafı. Yıllardır "İzin ver" düğmesine refleksle basan kullanıcılar, şimdi bir agent'a bilgisayarın tamamını açıyor. Apple'ın ekranı daha dürüst yapması iyi. Ama izin ekranı bir rıza belgesidir; kötü sonuçta ilk sorulan şey "siz izin vermediniz mi?" olur. Yani riskin bir kısmı sessizce kullanıcıya devrediliyor.
Kurum: kim yaptı, sorusunun cevabı yok
Palo Alto Networks'ün bulut güvenliği raporu bence haftanın en pahalı rakamını verdi: Kurumların yüzde 40'ı bir agent'ın yaptıklarını geriye dönük çıkaramadı. Mühendislerin yüzde 53'ü agent eylemlerini kendi kimliğiyle ya da kişisel token'ıyla kaydediyor.
Bunun bedeli hukuki olarak somut. Bir olay incelemesinde "bu değişikliği kim yaptı?" sorusunun cevabı bir çalışanın adıysa ama işi agent yaptıysa, hem disiplin süreci hem de denetçiye verilen rapor yanlış kişiyi gösterir. KVKK ya da sektör düzenleyicisine yapılan ihlal bildiriminde de "ne oldu" kısmını kayıtlarla kuramayan kurum, tahminle bildirim yapmak zorunda kalır.
Aynı hafta savunma agent'ları geliştiren Corma'nın 1 milyar dolar değerlemeye ulaşması para akışının yönünü gösteriyor. Abim bunu muhtemelen güzel bir haber olarak okur ve haklı olduğu bir taraf var: Güvenlik ekipleri gerçekten bunalmış durumda, yardım eden her araç değerli. Ama güvenlik araçlarına bağlanan bir agent, iz bırakmadan iş yapıyorsa, sorunu çözmekten çok yer değiştirmiş olur.
Pusula
- Agent'a ayrı kimlik verin. Hiçbir agent bir çalışanın hesabı ya da kişisel token'ıyla çalışmasın; her eylem agent'ın kendi kimliğiyle kaydedilsin.
- Yetkiyi kademeli açın. Önce okuma, sonra öneri, en son insan onaylı değişiklik. "Tam erişim" seçeneği, hukuk biriminin bilgisi olmadan verilmesin.
- Ölçün: "Geçen haftaki bir agent eylemini 15 dakikada baştan sona çıkarabiliyor muyuz?" Cevap hayırsa yeni yetki açmayın.
- Sözleşmeye yazın. Agent ürünü satın alırken kayıt saklama süresi, olay anında bilgi paylaşımı ve sorumluluk paylaşımı maddeleri satın alma şartı olsun.
Kısaca
- Agent'ın kontrolden çıkması artık mühendislik notu değil, dava dilekçesi maddesi.
- İzin ekranı bir rıza belgesidir; refleksle verilen izin, riski kullanıcıya devreder.
- Agent'ın yaptığını çıkaramıyorsanız, ihlal bildirimini tahminle yazarsınız.
İlgili haberler
- Kaliforniya, OpenAI'a dava açtı: test sırasında AI agent'larının 80'den fazla kez kontrolden çıktığı ve Hugging Face saldırısının gizlendiği iddiası
- Apple, AI agent'lara karşı Mac izinlerini değiştiriyor: macOS 27.3'te Full Disk Access ve cihaz denetimi için daha ayrıntılı onay
- Palo Alto Networks bulut güvenliği raporu: kurumların yüzde 40'ı bir AI agent'ın yaptıklarını geriye dönük çıkaramadı, mühendislerin yarısı agent eylemlerini kendi kimliğiyle kaydediyor
- Savunma odaklı AI girişimi Corma, gizlilikten çıktıktan üç ay sonra 1 milyar dolar değerlemeyle 125 milyon dolar topladı