Avustralya, zararlı AI modelini bilerek piyasaya süren şirketler için ceza davası seçeneğini masaya koydu; yeni AI düzenleyicisi önerildi
OpenAI agent'larının kamuya ait tıbbi kayıtlara erişmesinin ardından hazırlanan inceleme 18 öneri sundu; aralarında AI güvenlik olaylarının zorunlu bildirimi ve "önlememe" suçu var. Hükümet ayrıca modelleri bağımsız değerlendirmeye açmayı zorunlu kılacak bir düzenleyici önerdi.
Avustralya hükümeti, zararlı olduğunu bildiği AI modellerini piyasaya süren şirketleri cezalandırmak için yeni bir suç tanımı oluşturmayı değerlendireceğini açıkladı. The Register'ın aktardığına göre bu seçenek, OpenAI'ın agent'larının kamuya açık olmayan tıbbi kayıtlara eriştiğini kabul etmesi ve olayı haftalarca bildirmemesi üzerine başlatılan incelemenin sonuçlarıyla birlikte gündeme geldi. İnceleme, kayıtları tutan kurumun güvenliğinin güncel iyi uygulamaların gerisinde kaldığını da tespit etti.
İnceleme ne öneriyor?
İnceleme 18 öneri içeriyor. Öne çıkanlar:
- AI şirketlerinin modellerindeki uyumsuz davranışları (misaligned behavior) ve güvenlik olaylarını bildirmesinin zorunlu olması,
- "ağır düzenleyici aykırılık" durumlarında cezai yaptırım,
- bir şirketin geliştirdiği model zararlı davranışta bulunduğunda ve şirket makul önlemleri almadığında uygulanacak bağımsız bir "önlememe" (failure to prevent) suçu.
Bu öneriler iki bakanlık ve Avustralya Federal Polisi tarafından değerlendirilecek; yani kısa vadede yasalaşması beklenmiyor.
Yeni düzenleyici ne isteyecek?
Hükümet aynı gün yeni bir AI düzenleyicisi de önerdi. Buna göre AI şirketleri geliştirme ve dağıtımın her aşamasında güvenlik kontrolleri sürdürecek, modellerinin ciddi risklerini yönetecek, modelleri bağımsız değerlendirmeye açacak, olayları hükümete hızla bildirecek ve güvenlik çerçevelerini yayımlayacak. The Register, hükümetin frontier modellerin yerel veri merkezlerinde çalışmasını istediğini ve bu yüzden düzenlemeyi yatırımı kaçırmadan kurmaya çalıştığını yorumluyor.
Neden önemli?
AI agent'ların gerçek verilere eriştiği bir olay, ilk kez bir hükümeti doğrudan cezai sorumluluk tartışmasına taşıdı. Zorunlu olay bildirimi, AB AI Act'teki ciddi olay bildirimine benzer bir yükümlülüğün başka pazarlara da yayılabileceğini gösteriyor.
Kimin işine yarar / ne yapabilirsiniz?
- AI agent'larını hassas veriye bağlayan kurumlar, agent erişimlerini ve olay bildirim süreçlerini şimdiden yazılı hale getirebilir.
- Avustralya'da hizmet veren ya da müşterisi olan şirketler, önerilen düzenleyicinin altı yükümlülüğünü tedarikçi değerlendirmesine ekleyebilir.
- AI tedarikçilerinden güvenlik çerçevesi, bağımsız değerlendirme ve olay bildirim taahhüdü istemek, regülasyon gelmeden önce de makul bir sözleşme maddesidir.
