SiberMagazin SiberMagazin LinkedIn'deGünün önemli zafiyet ve patch haberleri akışınızda; sayfamızı takip edin.Takip et ›SiberMagazin Ajan Cüzdan100.000 TL'yi yapay zekâ yönetseydi ne olurdu? Canlı simülasyon panosu. Yatırım tavsiyesi değildir.Panoyu aç ›
21 Kasım 2026 CumartesiRSSMarkaHakkımızda
SON DAKİKA
18:30 Trump, yurt dışında AI veri merkezi kuran ABD'li şirketlere 'büyük vergi' tehdidinde bulundu; mekanizma ve yasal dayanak belirsiz18:00 Signal, ekranı okuyan işletim sistemi AI agent'larını engelliyor: iOS 27'de 'Block Siri AI', Android'de otomatik ekran güvenliği18:00 CNN: FBI, ulusal suç veritabanı NCIC'e yönelik olası bir ihlali soruşturuyor; iki ayda ikinci olay iddiası15:00 İzlanda'da hosting şirketi 1984 ehf. özel tasarlanmış siber saldırı nedeniyle tüm servislerini kapattı: binlerce site erişilemiyor15:00 The Container Store siber olay sonrası sistemlerini geri yükledi: online sipariş bir hafta durdu, n0n iddiasına yanıt yok14:30 OpenAI, ilaç kimyası için MedChemBench benchmark'ını duyurdu: 99 problem, 761 molekül yapısı10:30 Fortinet NGINX beyanını yayımladı: FortiOS, FortiProxy, FortiMail ve FortiNAC etkilenmiyor, FortiWeb ve FortiADC dahil 50'yi aşkın ürün inceleniyor10:30 OpenAI, adversarial distillation kampanyalarına karşı aldığı önlemleri açıkladı: haftalık binlerce ila on binlerce hesap kapatılıyor09:00 ABD'de Batı Virjinya eyalet meclisi siber saldırıyla uğraşıyor: web sitesi ve bazı BT sistemleri devre dışı09:00 "Fidye ödemeyin" diyen kurtarma firmasının CTO'suna iddianame: saldırganlara gizlice ödeyip mağdurlardan katını aldığı öne sürülüyor18:30 Trump, yurt dışında AI veri merkezi kuran ABD'li şirketlere 'büyük vergi' tehdidinde bulundu; mekanizma ve yasal dayanak belirsiz18:00 Signal, ekranı okuyan işletim sistemi AI agent'larını engelliyor: iOS 27'de 'Block Siri AI', Android'de otomatik ekran güvenliği18:00 CNN: FBI, ulusal suç veritabanı NCIC'e yönelik olası bir ihlali soruşturuyor; iki ayda ikinci olay iddiası15:00 İzlanda'da hosting şirketi 1984 ehf. özel tasarlanmış siber saldırı nedeniyle tüm servislerini kapattı: binlerce site erişilemiyor15:00 The Container Store siber olay sonrası sistemlerini geri yükledi: online sipariş bir hafta durdu, n0n iddiasına yanıt yok14:30 OpenAI, ilaç kimyası için MedChemBench benchmark'ını duyurdu: 99 problem, 761 molekül yapısı10:30 Fortinet NGINX beyanını yayımladı: FortiOS, FortiProxy, FortiMail ve FortiNAC etkilenmiyor, FortiWeb ve FortiADC dahil 50'yi aşkın ürün inceleniyor10:30 OpenAI, adversarial distillation kampanyalarına karşı aldığı önlemleri açıkladı: haftalık binlerce ila on binlerce hesap kapatılıyor09:00 ABD'de Batı Virjinya eyalet meclisi siber saldırıyla uğraşıyor: web sitesi ve bazı BT sistemleri devre dışı09:00 "Fidye ödemeyin" diyen kurtarma firmasının CTO'suna iddianame: saldırganlara gizlice ödeyip mağdurlardan katını aldığı öne sürülüyor
SiberMagazin Yeni: Kullandığınız ürünlerden haberdar olun. Üretici başına önem eşiği, e-postada anında uyarı, haftalık bülten. Hesap gerekmez. Nasıl kurulur ›Haberdar ol

OpenAI, adversarial distillation kampanyalarına karşı aldığı önlemleri açıkladı: haftalık binlerce ila on binlerce hesap kapatılıyor

OpenAI, bir modelin çıktılarını izinsiz toplayıp benzer yetenekte ama güvenlik önlemi olmayan bir model eğitme girişimlerini "adversarial distillation" olarak tanımladı. Şirket bu yıl platformunda birden fazla kampanya gördüğünü, GPT-6.2 Astra'da korunan reasoning'i sızdırma saldırılarının başarı oranını kendi testlerinde yüzde 1'in altına indirdiğini söylüyor.

SiberMagazin Haber Merkezi2 dk okuma
OpenAI, adversarial distillation kampanyalarına karşı aldığı önlemleri açıkladı: haftalık binlerce ila on binlerce hesap kapatılıyor
Görsel: Jernej Furman from Slovenia, CC BY 2.0 (Wikimedia Commons)

OpenAI, 20 Kasım'da yayımladığı yazıda "adversarial distillation" adını verdiği bir tehdide karşı neler yaptığını anlattı. Distillation, bir modelin başka bir modelin ürettiği verilerden öğrendiği yaygın bir makine öğrenmesi tekniği. OpenAI'ın tarif ettiği kötü niyetli sürümde ise bir aktör, frontier bir modelin çıktılarını izinsiz kullanarak benzer yetenekte bir model eğitiyor ve bu modeli aynı güvenlik önlemleri olmadan dağıtıyor. Şirketin asıl kaygısı siber güvenlik ve biyoloji gibi dual-use alanlar.

OpenAI'a göre bu yıl platformda birden fazla izinsiz kampanya görüldü. Haftalık yaptırımlar binlerce ile on binlerce hesap arasında değişmiş ve hız bu yaz belirgin şekilde artmış. Şirket, Şubat'ta ABD Kongresi'ne DeepSeek'in ABD frontier modellerini distill etmeye çalıştığına işaret eden faaliyet hakkında bilgi verdiğini, Eylül raporunda ise engellenen bir kampanyanın ana kısmını Kimi'nin geliştiricisi Moonshot AI ile bağlantılı kişilere atfettiğini hatırlatıyor. Bu atıflar OpenAI'ın kendi değerlendirmesi; ilgili şirketlerin yanıtı yazıda yer almıyor.

SiberMagazin SiberMagazin YouTube'daKısa videolar ve Haftalık Güvenlik Raporu; yeni bölümler için kanala abone olun.Kanala git ›

Korunan reasoning neden hedefte?

Yazının merkezinde reasoning modellerinin "düşünme" adımları var. OpenAI'ın kendi siber güvenlik transfer çalışmasında, birebir reasoning izleriyle eğitilen öğrenci model, yalnızca özetlerle eğitilene göre genelde daha iyi sonuç vermiş. Yani bu izler, kopyalamak isteyen için en değerli veri. Şirketin adaptive red teaming testlerinde, önceki bir istekteki korunan reasoning'i sızdırma saldırılarının başarı oranı eski önlemlerle GPT-6 Astra'da yüzde 54,0 iken güncellenen GPT-6.2 Astra'da yüzde 0,2'ye inmiş. Mevcut istekteki reasoning için oranlar yüzde 22,9 ve yüzde 0,9. Rakamlar üreticinin kendi ölçümü.

Hangi önlemler alındı?

  • Başarılı saldırılarla adversarial training: model, korunan reasoning'i açıklamayı reddetmeyi öğreniyor.
  • Girdide çıkarma girişimlerini, çıktıda sızıntıları yakalayan classifier'lar; streaming yanıtlar ve tool-call argümanları da kapsamda.
  • API düzeyinde reasoning konuşma geçmişine bağlanıyor; önceki bir mesaj değiştirilirse sonrasındaki reasoning düşürülüyor. Başka bir kullanıcının şifreli reasoning'ini açığa çıkarabilecek bir yol da kapatılmış.
  • Kampanya düzeyinde hesap ağlarına toplu yaptırım ve diğer model sağlayıcılarla IOC paylaşımı.

Neden önemli?

Model ağırlıkları çalınmadan da yetenek kopyalanabiliyor; API'nin kendisi bir saldırı yüzeyi. Güvenlik önlemi taşımayan bir kopya, özellikle exploit geliştirme gibi alanlarda frontier modelin reddettiği işleri yapabilir.

Kimin işine yarar / ne yapabilirsiniz?

  1. Kendi modelini API ile sunan ekipler, OpenAI'ın önerdiği gibi saldırı loglarını regression test olarak saklayıp istek ve kampanya düzeyindeki savunmayı birlikte kurmalı.
  2. OpenAI API'sinde reasoning'i yeniden kullanan geliştiriciler, konuşma geçmişini değiştirdiklerinde reasoning'in düşebileceğini hesaba katmalı; şirket bunun için geliştirici dokümanındaki "keep prefix unchanged" rehberine yönlendiriyor.
  3. Kurumlar, açık ağırlıklı ya da kaynağı belirsiz modelleri seçerken eğitim verisinin nereden geldiğini ve güvenlik testlerini sorgulamalı.
OpenAIadversarial distillationdistillationGPT-6.2 Astrareasoningred teamclassifierDeepSeekMoonshot AIKimimodel güvenliği
🔔 OpenAI ve Yapay Zeka gelişmelerinden haberdar olun

Her haberi değil, yalnızca seçtiğiniz üretici ve konulardaki acil uyarıları alın: tarayıcı bildirimi ya da e-posta ile.

Haberdar ol

İlgili Haberler

Yapay Zeka

OpenAI, ilaç kimyası için MedChemBench benchmark'ını duyurdu: 99 problem, 761 molekül yapısı

Yapay Zeka

Architect Labs, AI agent'larının uçtan uca tasarladığını söylediği yeni CPU mimarisi Frostbite'ı tanıttı: yeni ISA, 7 nm GDS, henüz silikon yok

Yapay Zeka

Palo Alto Networks, açık ağırlıklı modeller için post-training ve inference platformu Applied Compute'u 4,5 milyar dolara alıyor

Yapay Zeka

Snap, Easy Lens CLI'ı duyurdu: Claude Code, Codex ve Cursor ile Snapchat AR Lens'i geliştirilebiliyor, araç ücretsiz

Yapay ZekaİDDİA

Meta'nın AI cihazı Muse Charm'ın 300 dolara satılacağı iddiası: Verizon'dan 12 ay ücretsiz 5G, akıllı saat 2027'ye kaldı

Yapay Zeka

Google ana sayfasına AI Mode sohbetleri için kenar çubuğu geldi: masaüstünde dünya genelinde açılıyor