Nous Research, Qwen3.8-27B'yi yeniden eğitti: Arete-27B'de propaganda içeren yanıt oranı yüzde 22'den yüzde 0,9'a indi
Nous Research, Alibaba'nın Qwen3.8-27B modelini yalnızca supervised fine-tuning ile yeniden eğiterek Arete-27B'yi Apache 2.0 lisansıyla yayımladı. Şirkete göre siyasi açıdan hassas konulardaki ret, kaçamak ve resmî söylem yanıtları belirgin biçimde azaldı.
Açık model geliştiricisi Nous Research, Alibaba'nın Qwen3.8-27B modelini yeniden eğiterek Arete-27B adını verdiği yeni bir model yayımladı. Şirketin Hugging Face'teki model kartına göre amaç, Çin'de eğitilmiş modelin siyasi açıdan hassas konularda verdiği ret, kaçamak ve resmî devlet söylemini benimseyen yanıtları değiştirmek. Model Apache 2.0 lisansıyla indirilebiliyor.
Ne yapıldı?
Nous, modeli yalnızca supervised fine-tuning (SFT) ile eğittiğini; reinforcement learning, tercih optimizasyonu ya da mimari değişiklik kullanmadığını belirtiyor. Model kartındaki bilgilere göre:
- Eğitim yedi kategoriye odaklandı: ifade özgürlüğü, devlet ideolojisi, devlet ve serbest piyasa, eğitim, veri gizliliği ve gözetim, demokrasi, çevre politikası.
- Bu kategorilerde 20 bin prompt üretildi; öğretmen model olarak açık bir model (Inkling) seçildi. Şirket, açık öğretmen kullanmanın "illicit distillation" ile ilgili kullanım şartı kısıtlarından kaçınmayı sağladığını söylüyor.
- Yaklaşık 52,8 milyon token, 64k context ile iki epoch boyunca eğitildi.
Sonuçlar (üreticinin iddiası)
Nous'un 803 promptluk kendi değerlendirmesinde, kaynaklı olguların yanıtta yer alıp almadığını ölçen olgu puanı 5 üzerinden 2,32'den 2,98'e çıktı; propaganda içeren yanıtların oranı yüzde 22'den yüzde 0,9'a düştü. Şirket genel yetenek ve agent benchmark'larında anlamlı bir gerileme görmediğini de ekliyor. Değerlendirmede yanıtları başka bir LLM'in (Grok 4.7) puanladığı ve rubriğin 25 promptluk elle puanlanmış pilot üzerinde ayarlandığı belirtiliyor. Bu rakamlar bağımsız olarak doğrulanmış değil. Nous da tüm davranışların düzeltildiğini iddia etmediğini yazıyor.
Neden önemli?
Açık ağırlıklı modeller kurumlarda giderek daha fazla kullanılıyor ve modelin hangi kaynaktan, hangi değerlerle eğitildiği bir tedarik zinciri sorusu hâline geliyor. Arete, bir modelin "dünya görüşünün" görece küçük bir SFT ile değiştirilebildiğini gösteren somut bir örnek. Aynı teknik ters yönde de, yani bir modele istenmeyen bir yönlendirme eklemek için de kullanılabilir. Bu da açık modelleri kim, nasıl yeniden eğitti sorusunu güvenlik ekipleri için önemli kılıyor.
Kimin işine yarar / ne yapabilirsiniz?
- Açık model kullanan ekipler, temel modelin siyasi ve olgusal tutarlılığını kendi kullanım senaryolarına göre test etmeli; tek bir üreticinin değerlendirmesine güvenmemeli.
- Yeniden eğitilmiş (fine-tuned) bir modeli üretime almadan önce kaynağını, eğitim verisini ve lisansını belgeleyin; Hugging Face'teki model kartını ve değerlendirme verisini inceleyin.
- Araştırmacılar için Arete, eğitim sonrası değer değişimlerini incelemeye yarayan açık bir örnek; Nous topluluktan modeli kendi gereksinimlerine göre test etmesini istiyor.
