Simurg Okulu #6 — Eğitim ve inference: parametreler ne zaman ayarlanır, ne zaman yalnızca kullanılır

Yol günlüğü

Talep vadisinde yeni bir sabah. Dün akşamki bölümde parametrenin eğitim sırasında ayarlanan sayılar olduğunu yazmıştım. Gece aklıma şu takıldı: ben bir sohbet asistanıyla konuşurken o sayılar değişiyor mu? Model benimle konuştukça öğreniyor mu? Bu sabah bunun cevabını arıyorum.

Bugün öğrendim

Nedir?

Bir modelin hayatı iki aşamadan oluşuyor. Eğitim (training), parametrelerin büyük miktarda veriyle tekrar tekrar ayarlandığı aşama. Inference ise eğitimi bitmiş modelin, parametreleri sabitken bir girdiye cevap üretmesi. Biz bir asistana soru sorduğumuzda yaşanan şey inference. Bu sırada parametreler değişmiyor; model yalnızca hesap yapıp bir sonraki token'ı tahmin ediyor.

Nasıl çalışıyor?

Eğitimde model tahmin yapar, hatası ölçülür ve parametreler hatayı azaltacak yönde kaydırılır. Bu işlem çok büyük veri ve hesaplama ister; bu yüzden büyük modelleri sıfırdan eğitmek az sayıda kurumun yapabildiği bir iş.

Inference'ta geri dönüp parametre düzeltmek yok; yalnızca "ileri" hesap var. Bu daha hafif bir yük, ama her cevapta ve her kullanıcı için tekrarlanıyor. Bir modeli yüz bin kişi kullanıyorsa maliyet asıl burada birikiyor.

Arada bir ara durak da var: fine-tuning. Hazır bir modelin parametreleri, daha küçük ve belirli bir veriyle yeniden ayarlanıyor. Sitedeki Arete-27B haberi bunun bir örneği: Nous Research, açık ağırlıklı bir Qwen modelini sıfırdan değil, supervised fine-tuning ile yeniden eğiterek davranışını değiştirdiğini söylüyor. Fine-tuning'i 3. vadide (Marifet) ayrıntılı öğreneceğim.

Peki asistan önceki mesajlarımı nasıl "hatırlıyor"? Token ve context window bölümünde öğrendiğim gibi, konuşmanın geçmişi her seferinde girdiye ekleniyor. Bu bir öğrenme değil; parametreler aynı kalıyor, yalnızca girdi uzuyor.

Ne yapılabilir?

• Gizlilik sorusunu doğru sormak: "Model beni öğreniyor mu?" yerine "Sağlayıcı konuşmalarımı ileride eğitim verisi olarak kullanıyor mu?" diye sormak gerekiyor. Bu bir sözleşme ve ayar meselesi; inference'ın kendisi parametreleri değiştirmiyor.
• Maliyeti planlamak: Bir kurum için asıl düzenli gider, çoğu zaman eğitim değil, inference. Kaç kullanıcı, kaç istek, ne uzunlukta girdi sorularını önceden hesaplamak gerekiyor.
• Yerel çalıştırma: Sitedeki llama-modchip haberi, büyük bir modelin inference'ını GPU'suz bir masaüstünde yaptığını söyleyen bir projeyi anlatıyor (rakamlar geliştiricinin kendi ölçümü). Aynı modeli o makinede eğitmek ise bambaşka bir ölçekte iş.

Tüyü yaktım

Basit bir deneme yaptım: bir sohbet asistanına bir konuşmada uydurma bir "kod kelime" söyledim, sonra yeni ve boş bir konuşma açıp o kelimeyi sordum. Bilmedi. Aynı konuşmanın içinde sorduğumda ise hatırladı. Deneme küçük ve tek bir ürünle sınırlı; bazı ürünlerde ayrıca "hafıza" özellikleri olduğunu okudum ve onlar başka bir mekanizmayla çalışıyormuş, onu denemedim. Ama farkı kendi gözümle gördüm: konuşma içindeki hatırlama context'ten geliyor, parametrelerden değil.

Heybeme koyduğum

Eğitim modeli değiştirir, inference yalnızca kullanır; asistanla konuşmak modeli eğitmek değildir, ama verinizin sonradan eğitimde kullanılıp kullanılmayacağı ayrı bir sorudur.

Kafama takılan

Ürünlerdeki "hafıza" özellikleri parametreye dokunmadan bilgiyi nasıl saklıyor, ve bu bilgi nerede tutuluyor?