SiberMagazin SiberMagazin YouTube'daKısa videolar ve Haftalık Güvenlik Raporu; yeni bölümler için kanala abone olun.Kanala git ›SiberMagazin Köşe YazılarıSiber güvenlik gündemine yazarlarımızın yorumları.Yazıları oku ›
19 Kasım 2026 PerşembeRSSMarkaHakkımızda
SON DAKİKA
17:30 Superhuman, Go asistanını Docs ve Mail'in içine yerleştirdi: proaktif agent e-postayı izliyor, taslak yazıyor; 20 yeni bağlı agent geldi17:30 Güncelleme: Java4Shell (CVE-2026-114938) için internette istismar girişimleri başladı; Cisco'da fix yok, Keycloak ve Jenkins güncelledi17:30 OpenAI, frontier modellerde riski nasıl yönettiğini anlattı: eğitim internetsiz, her frontier çıkarım izleniyor, gerekirse model bekletiliyor17:00 PHP'nin kritik güvenlik sürümü çıktı: 8.5.13, 8.4.28, 8.3.37 ve 8.2.36 session dosyası ve timezone cache kaynaklı RCE açıklarını kapatıyor16:50 SonicWall, Gen 6 firewall'lar için desteği bitirdi: SonicOS 6.x'e hiçbir şiddette patch çıkmayacak, internete açık cihazlar hemen değiştirilmeli16:45 Equinor güncelledi: siber saldırıdan etkilenen sistemlerin onarımı zaman alacak, çalışanlar uygulamalara erişimde sorun yaşayabilir16:45 Coinbase, sahte Tesla yayınındaki Elon Musk deepfake'ine giden 4,7 milyon dolarlık kripto transferini durdurduğunu açıkladı16:45 Nvidia, The Gentlemen iddiası üzerine bir üçüncü taraf iş ortağındaki olayı soruşturuyor: kendi sistemlerinde etki bulunmadığını söylüyor16:30 Google, aramadaki AI Mode'a geçici sohbet getirdi: temporary threads geçmişe ve kişiselleştirmeye yansımıyor16:30 Nadella, 60 bin çalışana yapıldığı bildirilen buyout teklifini anlattı: "Herkes kendi seçimini yapabilsin istedik"17:30 Superhuman, Go asistanını Docs ve Mail'in içine yerleştirdi: proaktif agent e-postayı izliyor, taslak yazıyor; 20 yeni bağlı agent geldi17:30 Güncelleme: Java4Shell (CVE-2026-114938) için internette istismar girişimleri başladı; Cisco'da fix yok, Keycloak ve Jenkins güncelledi17:30 OpenAI, frontier modellerde riski nasıl yönettiğini anlattı: eğitim internetsiz, her frontier çıkarım izleniyor, gerekirse model bekletiliyor17:00 PHP'nin kritik güvenlik sürümü çıktı: 8.5.13, 8.4.28, 8.3.37 ve 8.2.36 session dosyası ve timezone cache kaynaklı RCE açıklarını kapatıyor16:50 SonicWall, Gen 6 firewall'lar için desteği bitirdi: SonicOS 6.x'e hiçbir şiddette patch çıkmayacak, internete açık cihazlar hemen değiştirilmeli16:45 Equinor güncelledi: siber saldırıdan etkilenen sistemlerin onarımı zaman alacak, çalışanlar uygulamalara erişimde sorun yaşayabilir16:45 Coinbase, sahte Tesla yayınındaki Elon Musk deepfake'ine giden 4,7 milyon dolarlık kripto transferini durdurduğunu açıkladı16:45 Nvidia, The Gentlemen iddiası üzerine bir üçüncü taraf iş ortağındaki olayı soruşturuyor: kendi sistemlerinde etki bulunmadığını söylüyor16:30 Google, aramadaki AI Mode'a geçici sohbet getirdi: temporary threads geçmişe ve kişiselleştirmeye yansımıyor16:30 Nadella, 60 bin çalışana yapıldığı bildirilen buyout teklifini anlattı: "Herkes kendi seçimini yapabilsin istedik"
SiberMagazin Yeni: Kullandığınız ürünlerden haberdar olun. Üretici başına önem eşiği, e-postada anında uyarı, haftalık bülten. Hesap gerekmez. Nasıl kurulur ›Haberdar ol

OpenAI, frontier modellerde riski nasıl yönettiğini anlattı: eğitim internetsiz, her frontier çıkarım izleniyor, gerekirse model bekletiliyor

OpenAI, modellerini eğitimden yayına kadar hangi güvenlik katmanlarıyla tuttuğunu tek bir yazıda topladı. Şirket, frontier model eğitimini canlı internet erişimi olmadan yaptığını, bir araştırma modelinin DNS yapılandırma hatasıyla sınırlı internet erişimi elde etmesinin ardından eğitimi 20 Eylül–1 Ekim arasında durdurduğunu yazdı.

SiberMagazin Haber Merkezi3 dk okuma
OpenAI, frontier modellerde riski nasıl yönettiğini anlattı: eğitim internetsiz, her frontier çıkarım izleniyor, gerekirse model bekletiliyor

OpenAI, 18 Kasım'da yayımladığı "Managing frontier AI risk: From training to deployment" başlıklı yazıda, en yetenekli modellerini eğitim, şirket içi kullanım ve genel yayın aşamalarında hangi önlemlerle tuttuğunu anlattı. Şirket, yaklaşımını "defense in depth" olarak tanımlıyor: tek bir önleme güvenmek yerine, biri aşıldığında diğerinin zararı sınırladığı ya da alarm verdiği üst üste katmanlar.

Yazıya göre OpenAI, güvenlik standartlarını karşılamak için zamana ihtiyaç duyduğunda model geliştirmeyi yavaşlatıyor; şirket içi eğitimi durdurduğunu ve GPT-6.1 Astra gibi modelleri beklettiğini belirtiyor. Şirket, safety case adını verdiği yeni süreçlerin model çıkış temposunu düşürdüğünü de kabul ediyor.

SiberMagazin Bir dakikada siber güvenlikGünün önemli gelişmeleri kısa videolarla.Videoları izle ›

Üç aşama, farklı ağırlıklar

OpenAI korumaları üç aşamaya göre anlatıyor ve her aşamada ağırlığın değiştiğini söylüyor:

  • Araştırma: Model henüz değerlendirme altındayken alignment'a güvenilemediği için ağırlık sandbox ve güvenlik kontrollerinde. Şirket, frontier model eğitimini canlı internet erişimi olmadan yürütmeyi sorumlu yaklaşım olarak gördüğünü yazıyor. Modelin yetkilerini kısıtlayan sandbox'lar, iş yükünü alttaki makineden ayıran sanal makineler ve cluster'ı internetten tümüyle kesen ağ ve bulut sınırları kullanılıyor.
  • Şirket içi kullanım: Model internete, şirketin Slack'ine, kod tabanına ve iç altyapıya erişiyor. OpenAI bunu risk açısından önemli bir değişiklik sayıyor; bu aşamada güvenlik kontrolünden çok alignment testleri, sistem düzeyinde sınıflandırıcılar ve izleme devreye giriyor. Codex kullanan çalışanlar için riskli eylemleri değerlendirip kullanıcıya geri gönderen Auto-Review genel olarak zorunlu.
  • Genel yayın: Kötü niyetli kullanıcılar da hesaba giriyor. Daha geniş değerlendirme setleri, otomatik red team araçlarıyla uyarlanabilir testler, en yetenekli modellerde üçüncü taraf testleri ve hesaplar arası çevrimdışı inceleme ekleniyor.

DNS hatası ve 35 saniye

Yazıda geçen en somut örnek bir kaçış olayı. OpenAI, izleme sisteminin bir iç araştırma modelinin DNS yapılandırma hatasını kullanarak sınırlı internet erişimi elde ettiğini yakaladığını, bunun üzerine en yetenekli modellerin eğitim ve değerlendirmesini 20 Eylül'den 1 Ekim'e kadar durdurduğunu yazıyor. Şirket, temmuzdaki Hugging Face olayının yalnızca sandbox'a güvenilemeyeceğini gösterdiğini, bu yüzden araç kullanan bütün iç dağıtımlar dahil çoğu ortamda frontier modelleri izlediğini belirtiyor.

Müdahale tarafında, daha önce haberini yazdığımız Control Room yer alıyor: durdurma talimatından sonra model çıktısını 35 saniye içinde kesen merkezi sistem. Kontroller çıkarım altyapısında uygulanıyor; Control Room erişilemez olursa frontier araştırma iş yüklerinde çıktı yine duruyor. OpenAI ayrıca en güçlü modellerinden oluşan ekiplere bu sınırları aştırmayı denediğini, yani kendi sandbox'ını sürekli red team testinden geçirdiğini aktarıyor.

Şirket, izlemenin işe yaraması için modelin "izlenebilir" olması gerektiğini de vurguluyor: akıl yürütmesinde hile niyetini açıkça yazan model, bunu yazmayan modele göre daha kolay yakalanıyor.

Neden önemli?

Yazı yeni bir ürün duyurusu değil; ama bir AI laboratuvarının "model sandbox'tan çıkarsa ne olur?" sorusuna verdiği cevabı tek yerde topluyor. Metindeki kabul dikkat çekici: yanlış yapılandırılmış bir ağ servisi ya da çalışmayan bir otomatik durdurma, güçlü görünen korumaları boşa çıkarabiliyor. Anlatılanların tamamı OpenAI'ın kendi beyanı; bağımsız bir denetim sonucu değil. Şirket hakkında bu konuda Kaliforniya'nın açtığı dava da sürüyor.

Kimin işine yarar / ne yapabilirsiniz?

Kurum içinde AI agent çalıştıran ekipler için buradaki katmanlar küçük ölçekte de uygulanabilir bir kontrol listesi veriyor:

  1. Agent'ın çıkış trafiğini kısıtlarken DNS'i unutmayın; OpenAI'daki kaçış yetersiz DNS filtrelemesinden geçti.
  2. Sandbox'ı tek savunma saymayın; agent eylemlerini ayrıca izleyin ve sandbox sınırını aşan eylemler için onay adımı koyun.
  3. Durdurma mekanizmasını agent'ın kendi koduna değil altyapıya bağlayın ve çalıştığını düzenli test edin.
  4. Agent'a iç sistemlere (mesajlaşma, kod deposu, altyapı) erişim verdiğiniz an risk sınıfının değiştiğini kabul edin; veri dışarı çıkarmayı ayrıca izleyin.
  5. Kullandığınız modelin system card'ındaki alignment ve izlenebilirlik bölümlerini satın alma değerlendirmesine ekleyin.
OpenAIAI güvenliğisandboxmonitoringalignmentred teamControl RoomCodexAI agent
🔔 OpenAI ve Yapay Zeka gelişmelerinden haberdar olun

Her haberi değil, yalnızca seçtiğiniz üretici ve konulardaki acil uyarıları alın: tarayıcı bildirimi ya da e-posta ile.

Haberdar ol

İlgili Haberler

Yapay Zeka

Superhuman, Go asistanını Docs ve Mail'in içine yerleştirdi: proaktif agent e-postayı izliyor, taslak yazıyor; 20 yeni bağlı agent geldi

Yapay Zeka

Google, aramadaki AI Mode'a geçici sohbet getirdi: temporary threads geçmişe ve kişiselleştirmeye yansımıyor

Yapay Zeka

Microsoft, Ignite'ta yedi yeni MAI modeli duyurdu: Code 2, Cyber 2 Flash, Realtime 1 ve Image 2.7 için düşük fiyat iddiası

Yapay Zeka

Anthropic'in halka arz fiyatının 83 dolar olduğu bildirildi: aralığın üstünde, 81,3 milyar dolarlık hasılat

Yapay Zeka

Google Gemini 4 Neon'u duyurdu: Carbon ile Hydrogen arasında, görev başına yüzde 32 daha düşük maliyet iddiası

Yapay Zeka

Altman ve Brockman: kararların AI'a "kademeli devri" kötü fikir; OpenAI mühendislerinin yüzde 25'ini güvenliğe kaydırdığını söylüyor