OpenAI, çocuk istismarı içeriğine karşı yeni görüntü sınıflandırıcısı ve ChatGPT uyarılarını duyurdu
NCMEC ile geliştirilen sınıflandırıcı, AI ile üretilmiş görüntüler dahil daha önce görülmemiş istismar içeriğini puanlıyor ve seçili şirketlere API üzerinden ücretsiz veriliyor. ChatGPT'de bu tür istekler artık uyarı ekranı ve 24 saatlik hesap askıya alma ile karşılanacak.
OpenAI, çocukların cinsel istismarını içeren materyalle (CSAM) mücadele için yeni bir araç paketi açıkladı. TechCrunch'ın haberine göre paket dört parçadan oluşuyor: istismar görüntülerini tespit eden bir görüntü sınıflandırıcısı, ChatGPT'de uyarı ekranları ve geçici engeller, geliştiriciler için yeni bir kılavuz ve kolluk kuvvetlerine yönelik araçlar.
Sınıflandırıcı nasıl çalışıyor?
Sınıflandırıcı, daha önce görülmemiş görüntülerde istismar belirtilerini arıyor ve inceleme ekiplerine yön göstermesi için bir puan veriyor; AI ile üretilmiş görüntüleri de kapsıyor. OpenAI aracı ABD'deki Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi (NCMEC) ile birlikte geliştirdiğini, Tech Coalition ve ROOST üzerinden erişimi paylaştığını söylüyor. Araç seçili şirketlere OpenAI API'si üzerinden ücretsiz veriliyor.
Reklam Gao Kaptan: GPU gücüne ve LLM servislerine saniyeler içinde erişin.Pod'lar saniyeler içinde; NVIDIA GPU saatlik, LLM token bazlı. OpenAI uyumlu API, air-gapped kurulum.Detaylı bilgi ›İşNetŞirketin iddiasına göre iş ortaklarıyla yapılan ilk testlerde sınıflandırıcı aynı sayıda istismar görüntüsünü bulurken yüzde 48 daha az görüntü işaretledi; işaretlenen görüntülerin istismar içerme olasılığı da iki kat daha yüksek çıktı. Bu rakamlar OpenAI'ın kendi açıklaması; bağımsız bir değerlendirme yayımlanmadı.
ChatGPT'de ne değişiyor?
Çocukları cinselleştiren içeriğe ulaşmaya çalışan kullanıcılar artık bir uyarı ekranıyla karşılaşacak, uzman destek kaynaklarına yönlendirilecek ve hesapları uyarı olarak 24 saat askıya alınacak. Tekrarlayan ihlallerde hesap kalıcı olarak kapatılabilecek. OpenAI, uyarı metinlerini Protect Children, Lucy Faithfull Foundation ve Tazmanya Üniversitesi'nden bir araştırmacı gibi kurum ve kişilerle hazırladığını belirtiyor.
Kolluk tarafında ise yetkili program yöneticilerinin erişimini yönettiği eklentiler, soruşturma araçları ve veri analizi özellikleri ile araştırmacılara eğitim ve saha kılavuzu sunuluyor.
Neden önemli?
AI ile üretilen istismar görüntüleri, hash eşleştirmeye dayanan klasik tespit yöntemlerini zorluyor; çünkü her görüntü yeni. Puan veren bir sınıflandırıcının küçük platformlara ücretsiz açılması, kendi moderasyon ekibi sınırlı olan şirketler için önemli. OpenAI ise çocuk güvenliği konusunda açılan davalar ve eleştiriler nedeniyle baskı altında.
Kimin işine yarar / ne yapabilirsiniz?
- Kullanıcı yüklemesi kabul eden platformlar, Tech Coalition veya ROOST üzerinden sınıflandırıcıya erişim koşullarını inceleyebilir.
- OpenAI API'siyle ürün geliştiren ekipler, şirketin yayımladığı geliştirici kılavuzunu okuyup NCMEC'e bildirim sürecine kayıt olup olmadıklarını kontrol etmeli.
- Türkiye'deki platformlar için bildirim kanalı farklıdır; benzer içerik tespit edildiğinde yasal bildirim yükümlülükleri hukuk birimiyle netleştirilmeli.