Check Point: Güçlü LLM'in önündeki zayıf guardrail modeli kalıcı bir açık yaratıyor; PuzzleMask düz metinle filtreyi atlatıyor
Check Point Research, girdiyi denetleyen sistemin onu işleyen sistemden zayıf olduğu her yapının er geç aşılacağını savunan "gatekeeper asymmetry" ilkesini yayımladı. Araştırmaya göre küçük bir ön kontrol modeli, düz metne gizlenmiş isteği zararsız sayarken arkadaki güçlü model isteği çözüp uygulayabiliyor.
Check Point Research, 19 Kasım'da yayımladığı uzun bir analizde, güvenlik dünyasının 30 yıldır tekrar tekrar yaşadığı bir sorunu adlandırıyor: "gatekeeper asymmetry". Araştırmaya göre, saldırgan girdiyi denetleyen sistem bu girdiyi işleyen sistemden daha az yetenekliyse ve arada çözülmesi zor bir problem yoksa, denetim er geç aşılıyor.
Araştırmacılar bu ilkeyi eski örneklerle destekliyor: hash eşleştirme, YARA tarzı imza eşleştirme, deny list yaklaşımları, sandbox evasion ve makro tuzağı içeren belgeleri OCR ile yakalamaya çalışan tespitler. Hepsinde ortak nokta, "kapıdaki bekçinin" içerideki sistemden daha az şey anlaması.
SiberMagazin Ajan Cüzdan100.000 TL'yi yapay zekâ yönetseydi ne olurdu? Canlı simülasyon panosu. Yatırım tavsiyesi değildir.Panoyu aç ›LLM'lerde paradoks: Model güçlendikçe risk artıyor
Analizin asıl iddiası büyük dil modelleri için. Kurumlar maliyet ve hız nedeniyle güçlü bir modelin önüne, gelen isteği hızlıca süzen daha küçük bir "ön kontrol" modeli koyuyor. Check Point'e göre bu yapıda, arkadaki model ne kadar akıllıysa saldırıya o kadar açık hale geliyor; çünkü küçük modelin anlayamadığı bir isteği büyük model çözebiliyor.
Araştırmacıların PuzzleMask adını verdiği teknikte politikaya aykırı bir istek, emoji, görünmez yazı tipi ya da biçim hilesi kullanılmadan sıradan bir metnin içine gizleniyor. Ön kontrol modeli metni zararsız sınıflandırıp geçiriyor; arkadaki güçlü model ise gizli isteği fark edip yerine getiriyor. Check Point, bunun tek başına bir jailbreak olmadığını, ancak jailbreak teknikleriyle birleştirilebileceğini belirtiyor.
Check Point'in 2025 sonunda yaptığı denemeye göre saldırı GPT-5.2-thinking-high üzerinde başarılı oldu, Claude Opus 4.5 ise saldırıyı engelledi. Araştırma, Anthropic'in bu dönemde Claude Opus modellerine söz konusu saldırıyı engelleyen güçlendirilmiş bir guardrail eklediğini aktarıyor. Analizde başarı oranı ya da yüzde verilmiyor; tekniğin ayrıntılı açıklaması ayrı bir yazıda.
Neden önemli?
Müşteri hizmetleri botlarından kod yazan AI agent'lara kadar pek çok kurumsal uygulama, "küçük model süzer, büyük model çalışır" düzenine dayanıyor. Araştırma, bu düzenin tek savunma katmanı olarak kullanıldığında yapısal bir boşluk bıraktığını gösteriyor. Check Point mükemmel savunmanın şart olmadığını, amacın aradaki güç farkını mümkün olduğunca daraltmak ve saldırganın maliyetini yükseltmek olduğunu vurguluyor.
Ne yapılmalı?
- LLM uygulamalarınızda giriş filtresinin hangi modelle çalıştığını envantere alın; filtre modeli, arkadaki modelden belirgin şekilde zayıfsa bunu kayıtlı bir risk olarak işaretleyin.
- Yalnızca girişte değil, çıktıda da denetim yapın: güçlü modelin ürettiği yanıtı ve tetiklediği araç çağrılarını ayrı bir kontrol katmanından geçirin.
- AI agent'ların erişebildiği araç ve veri yetkilerini en az yetki ilkesiyle sınırlayın; filtre aşılsa bile zarar alanı küçük kalsın.
- Red team çalışmalarına biçim hilesi içermeyen, düz metne gizlenmiş istek senaryolarını ekleyin.
Her haberi değil, yalnızca seçtiğiniz üretici ve konulardaki acil uyarıları alın: tarayıcı bildirimi ya da e-posta ile.


