Simurg Okulu #4 — Açık ve kapalı modeller, ağırlığı indirilen model ile API arkasındaki model

Yol günlüğü

Öğle molası, Talep Vadisi'nde dördüncü durak. Sabahki bölümde aynı şirketin büyük, orta ve küçük modelini konuşmuştum. Yolda yanıma oturan bir yolcu sordu: "Peki bu modellerin hangisini kendi bilgisayarıma indirebilirim?" Cevabı bilmediğimi fark ettim. Bu bölüm o sorunun peşinde.

Bugün öğrendim

Nedir? Bir model, eğitim sonunda milyarlarca sayıdan oluşan bir dosyaya dönüşüyor; bu sayılara ağırlık (weights) deniyor. İlk bölümdeki parametreler tam olarak bunlar.

• Açık ağırlıklı model (open weights): şirket bu dosyayı yayımlıyor. İndirip kendi sunucunuzda, hatta yeterince güçlüyse kendi bilgisayarınızda çalıştırabiliyorsunuz. Meta'nın Llama'sı, Mistral, Alibaba'nın Qwen'i ve DeepSeek bu gruba giren bilinen örnekler.
• Kapalı model: ağırlıklar şirkette kalıyor. Modeli yalnızca şirketin sohbet uygulaması ya da API'si üzerinden kullanıyorsunuz; sorunuz şirketin sunucusuna gidiyor, cevap geri geliyor.

Bir ayrım daha önemli: "açık ağırlık" her zaman "açık kaynak" demek değil. Çoğu durumda eğitim verisi ve eğitim kodu paylaşılmıyor, yalnızca bitmiş ağırlıklar ve bir lisans geliyor. O lisans da ticari kullanımı kısıtlayabiliyor.

Nasıl çalışıyor? Açık modelde işi siz yapıyorsunuz: ağırlığı indiriyor, onu çalıştıracak bir yazılım (ileride Fakr ü Fena Vadisi'nde Ollama'ya duracağım) ve yeterli bellek sağlıyorsunuz. Büyük modeller ciddi GPU belleği istiyor; bu yüzden pratikte çoğu kişi açık modellerin küçük kademelerini yerelde çalıştırıyor.

Kapalı modelde donanım derdi yok; ödediğiniz şey kullandığınız token kadar. İkinci bölümdeki token hesabı faturanın kendisi oluyor.

Sınır da bulanıklaşıyor: sitedeki Tencent haberinde modelin ağırlıklarının "yakında" yayımlanacağı yazıyor; yani bir model önce API ile çıkıp sonradan açılabiliyor.

Ne yapılabilir? - Veri dışarı çıkmamalıysa → açık model, kendi sunucunuzda: müşteri verisi, iç belgeler, log analizi. Soru kurumun ağından hiç ayrılmıyor. - En yüksek yetenek lazımsa ve veri hassas değilse → kapalı model API'si: genelde en güçlü modeller hâlâ bu tarafta ve kurulum gerektirmiyor. - Kendi verinizle uyarlamak istiyorsanız → açık model: ağırlık elinizde olunca ince ayar (fine-tuning) yapabiliyorsunuz. Marifet Vadisi'nin konusu. - Karma: hassas işi yerel açık modele, genel işi kapalı API'ye yönlendirmek. Sabahki "karma yönlendirme" fikrinin aynısı, bu kez veri sınıfına göre.

Tüyü yaktım

Bir açık modelin indirme sayfasına gidip yalnızca model kartını ve lisans bölümünü okudum. Dürüst sonuç: "açık" kelimesinden beklediğimden daha çok şart vardı; kullanım kısıtları ve atıf zorunluluğu ayrı bir belgedeydi. Ders: indirmeden önce lisansı okumak, modeli denemekten önce gelen adım.

Heybeme koyduğum

Açık modelde kontrol ve veri bende, kapalı modelde kolaylık ve güç sağlayıcıda; doğru seçim lisans, veri, maliyet ve kontrol dengesine bakarak yapılır.

Kafama takılan Açık ağırlıklı bir modeli kendi sunucumda çalıştırdığımda verim dışarı çıkmıyor; peki modelin kendisinin güvenli olduğunu, içine kötü niyetli bir davranış gizlenmediğini nasıl anlarım? Bunun cevabını henüz bilmiyorum.

Son söz

Açık ya da kapalı, iki tarafın da bedeli var: biri donanım ve sorumluluk, öbürü veri ve bağımlılık. Bir sonraki durakta, bu bölümde sık andığım parametre kelimesine yakından bakacağım: "70B" gibi rakamlar gerçekte neyi ölçüyor, neyi ölçmüyor?