İngiliz milletvekilleri, tehlikeli AI modellerinin eğitimini ve yayınını durdurabilecek bir denetleyici istiyor
Avam Kamarası'nın Business, Innovation, Science and Trade Komitesi "Guardrails for Growth: Making AI Safe" raporunda bir AI Safety and Security Bill çağrısı yaptı. Önerilen düzenleyici, yüksek riskli modelin eğitimini durdurabilecek, yayınını engelleyebilecek ve servisi askıya alabilecek; AI olaylarının bildirimi zorunlu olacak.
İngiltere Avam Kamarası'nın Business, Innovation, Science and Trade Komitesi, 18 Kasım'da yayımlanan "Guardrails for Growth: Making AI Safe" raporunda, tehlikeli AI modellerine geliştirme aşamasında müdahale edebilecek bir düzenleyici kurum istedi. The Register'ın yayından önce rapora ulaşarak yazdığı habere göre komite, bunun için bir AI Safety and Security Bill çıkarılmasını öneriyor.
Raporda ne var?
- Durdurma yetkisi: Önerilen düzenleyici, riskler kontrol altına alınamıyorsa yüksek riskli eğitim ve testleri durdurabilecek, yayını engelleyebilecek veya AI servisini askıya alabilecek.
- İspat yükü geliştiricide: Yüksek riskli olarak belirlenen sistemlerin geliştiricileri güvenlik iddialarını kanıtla desteklemek ve bağımsız araştırmacılara erişim vermek zorunda olacak. Modelin yeteneklerinde veya korumalarında önemli bir değişiklik yeni bir incelemeyi tetikleyecek.
- AI Security Institute (AISI): Kurum güçlü modelleri test ediyor ama gönüllü işbirliğine dayanıyor ve bir yayını durdurma yetkisi yok. Komite, AISI'nin test işini sürdürmesini, yaptırım yetkisinin ise ayrı bir düzenleyicide olmasını istiyor.
- Olay bildirimi ve whistleblower: Rapor, İngiltere'nin AI güvenliği yaklaşımında on açık sayıyor; zorunlu olay bildiriminin olmaması, bağımsız test edicilerin sınırlı erişimi ve yetersiz whistleblower koruması bunlar arasında. Komite AI olaylarının ve kıl payı atlatılan olayların (near miss) bildirimini zorunlu tutmak istiyor.
- Takvim: Milletvekilleri yasanın bir sonraki yasama döneminde çıkmasını ve İngiltere'nin 2027 G20 dönem başkanlığını test, olay bildirimi ve riskli model yayınları konusunda daha sıkı kurallar için kullanmasını öneriyor.
Komite; araştırmacıları, eski AI çalışanlarını ve OpenAI, Google DeepMind, Anthropic ve Meta temsilcilerini dinledi. Dört şirket de güvensiz gördükleri modeli yayımlamayacaklarını söyledi; ancak The Register'a göre her biri farklı güvenlik ölçütleri kullanıyor ve İngiliz hukuku yayın öncesinde bağımsız görüş almayı genel olarak zorunlu tutmuyor. Komite başkanı Liam Byrne, AI şirketlerinin güvenlik iddialarını kanıtlaması ve riskler kontrol edilemediğinde bir düzenleyicinin müdahale edebilmesi gerektiğini söyledi.
SiberMagazin Haftalık Güvenlik RaporuHer cumartesi 14:00'te haftanın siber güvenlik gündemi değerlendiriliyor.Raporu izle ›Öneriler bağlayıcı değil; hükümet önerilen yasaya henüz bir taahhütte bulunmadı.
Neden önemli?
Bugüne kadar İngiltere, AI güvenliğinde AISI üzerinden gönüllü test modelini öne çıkarıyordu. Rapor, bu modelin bir yayını durduramadığını açıkça bir eksik olarak kaydediyor ve model geliştirme sürecinin kendisine müdahale yetkisi öneriyor. Komite, OECD verimlilik tahminlerine dayanarak AI'ın İngiltere ekonomisini önümüzdeki on yılda 400 milyar sterline kadar büyütebileceğini ve sıkı güvencelerin özellikle küçük firmalarda benimsemeyi artırabileceğini savunuyor.
Kimin işine yarar / ne yapabilirsiniz?
- İngiltere pazarına AI ürünü sunan şirketler: Zorunlu olay bildirimi ve güvenlik iddialarının kanıtlanması gündeme gelirse, model değişikliklerini ve güvenlik testlerini belgeleyen bir kayıt düzenini şimdiden kurmak ileride uyum yükünü azaltır.
- Kurumsal AI kullanıcıları ve güvenlik ekipleri: Tedarikçinizin hangi bağımsız testlerden geçtiğini ve olay bildirim sürecini sözleşmeye yazdırın; düzenleyici yönelimler bu soruları standart hale getiriyor.
- Politika izleyenler: Raporun özgün metni komitenin parlamento sayfasında; hükümetin rapora vereceği resmi yanıt, yasanın gelip gelmeyeceğini gösterecek.
Her haberi değil, yalnızca seçtiğiniz üretici ve konulardaki acil uyarıları alın: tarayıcı bildirimi ya da e-posta ile.