Açık ağırlık saldırganın değil, önce denetçinin aleti; yeter ki ağırlıkla birlikte rapor da gelsin

Kardeşim dün akşam yazısını "kendi ajanınızı envantere yazmadan, envanterinizi ona taratmayın" diye bitirdi. Haklı, yazdım bile. Ama envantere yazacağınız şeyin içini görebilmeniz gerekir; bugünkü konum tam olarak bu: içi görülebilen modeller.

Bir Çinli bilimci "kapalı tutmanın gerekçesi güçlü" dediğinde

Bu hafta konuşulması gereken cümle Tencent'ten geldi. Haberimizde aktardığımız gibi şirketin baş AI bilimcisi Yao Shunyu, modellerin siber güvenlikte ulaştığı zarar eşiğine yakında biyolojide de ulaşacağını, bu riskin siberden daha zor yönetileceğini söyledi. Anthropic gibi şirketlerin en güçlü modelleri kapalı tutma gerekçesinin güçlü olduğunu da kabul etti.

Kardeşimin bu cümleyi bugün öğleden sonra bana karşı kullanacağını biliyorum. O yüzden cümlenin devamını şimdiden okuyayım: Yao, açık modellerin savunmacılara da yardım ettiğini ve en iyi sonucun açık ve kapalı modellerin bir karışımından geleceğini söyledi. Yani tartışma "aç ya da kapat" değil, "neyi, nasıl açarsın" tartışması. Ben de tam orada duruyorum.

Ağırlık tek başına değil, raporla geliyor

Hy4 haberimizde dikkat çekici bir ayrıntı vardı: Tencent tam sürümün ağırlıklarını hemen açmadı. Önce barındırılan sürümü yayımladı, ağırlıkları ise siber güvenlik ve biyolojik risk değerlendirmelerini içeren bir system card ile birlikte açacağını duyurdu. Şirketin iddiasına göre model, yazılım açığı istismar etmeye yönelik içerik olmadan, savunma amaçlı güvenlik verisiyle eğitildi. Bunlar üreticinin kendi beyanı; bağımsız sınav, rapor çıktığında başlayacak.

İşte açıklığın asıl kazancı burada. Kapalı bir modelde bu beyanı ancak şirketin size verdiği API kapısından test edebilirsiniz. Açık ağırlıkta ise üniversite, bağımsız red team ya da sizin güvenlik ekibiniz modeli kendi donanımında, kendi senaryolarıyla zorlayabilir. Güven, beyana değil tekrarlanabilir teste dayanır.

Açıklık davranışı değiştirebilmektir; iki yönde de

Dürüst olayım, açıklığın keskin kenarını en iyi gösteren örnek de bu hafta geldi. Nous Research, Alibaba'nın Qwen3.8-27B modelini yalnızca supervised fine-tuning ile yeniden eğitti ve şirketin model kartındaki ölçümüne göre siyasi açıdan hassas konularda resmî söylemi benimseyen yanıt oranı yüzde 22'den yüzde 0,9'a indi. Bir modelin değerlerini bu kadar ucuza değiştirebiliyorsanız, güvenlik ayarlarını da değiştirebilirsiniz. Kardeşimin bu puanını peşin veriyorum.

Ama aynı örnek bir şey daha söylüyor: Bağımsız bir ekip, üreticinin göremediği ya da görmek istemediği bir davranışı ölçtü, belgeledi ve herkesin denetleyebileceği bir lisansla yayımladı. Kapalı bir modelde bu ölçümü yapacak kimse yoktu. NVIDIA'nın Cosmos 3 Nano tabanlı dört açık dünya modeli de aynı mantıkla çalışıyor: Otonom sürüş ve robotik ekipleri simülasyonu kendi verisinde, kendi altyapısında doğrulayabiliyor.

Savunmacı için açık ağırlığın üç somut faydası var: veriyi dışarı çıkarmadan yerinde çalıştırmak, modeli kendi tehdit senaryolarıyla test etmek ve sağlayıcı kapıyı kapattığında yarı yolda kalmamak.

Pusula

• Ağırlığı raporuyla birlikte değerlendirin: Bir açık modeli kurumda kullanmadan önce üreticinin güvenlik raporunu (system card) isteyin; rapor yoksa model "deneme" listesinde kalsın.
• Kendi red team testinizi yapın: Açık ağırlığın en büyük avantajını kullanın; modeli kendi kötüye kullanım senaryolarınızla, kendi ortamınızda sınayın ve sonucu kayda geçirin.
• Fine-tune'u değişiklik yönetimine bağlayın: Arete örneği bir modelin davranışının ucuzca değişebildiğini gösterdi; kurum içinde yapılan her fine-tune, yeni bir model sürümü gibi onaydan ve testten geçsin.
• Kaynağı doğrulayın: Ağırlıkları yalnızca üreticinin resmî kanalından indirin, dosya özetini (hash) kayda alın.