Simurg Okulu #13 — Sohbet asistanları: bir modelin üstüne neler eklenince ürün oluyor?

Yol günlüğü

Talep vadisini reasoning modellerle kapattım. On iki bölüm boyunca modelin içine baktım: token, parametre, attention. Bugün Aşk vadisine adım attım ve ilk sorum çok basit: her gün açtığım sohbet penceresi gerçekten "model" mi, yoksa modelin etrafına kurulmuş bir ev mi?

Bugün öğrendim

Nedir?

Sohbet asistanı, bir dil modelinin üstüne kurulan üründür. Model bir motor gibi: metin alır, metin üretir. Asistan ise o motoru alıp direksiyon, gösterge paneli, emniyet kemeri ve bagaj ekler. Kullanıcının "ChatGPT", "Claude" ya da "Gemini" dediği şey çoğu zaman bu bütünün adıdır; altındaki model ise zaman içinde değişebilir, aynı ürün içinde birkaç model arasında da seçim yapılabilir.

Nasıl çalışıyor?

Mesajınızı gönderdiğinizde model yalnızca o cümleyi görmez. Ürün arka planda bir paket hazırlar:

• System prompt: Dokuzuncu bölümde öğrendiğim görünmez talimat. Asistanın tonunu, sınırlarını ve tarihini belirler.
• Konuşma geçmişi: Model önceki mesajları hatırlamaz; ürün her seferinde geçmişi context window'a yeniden koyar. Pencere dolunca ikinci bölümdeki kesme ve özetleme devreye girer.
• Hafıza: Bazı ürünler sohbetler arası "hatırlama" sunar. Bu da parametreye yazılmaz; ürün kaydettiği notları ilgili sohbette context'e ekler.
• Araçlar: Web araması, dosya yükleme, kod çalıştırma, görsel üretme. Model "burada arama yapmalıyım" der, ürün aramayı yapar ve sonucu modele geri verir. Bu konuyu Tevhid vadisinde (tool use) ayrıntılı göreceğim.
• Güvenlik katmanları: İçerik filtreleri, kötüye kullanım tespiti, kurumsal sürümlerde yönetici politikaları.

Yani aynı model, farklı ürünlerde bambaşka davranabilir; fark çoğu zaman bu katmanlardan gelir.

Ne yapılabilir?

Bugün sohbet asistanlarıyla yapılan en yaygın işler metin taslağı, özet, çeviri, fikir üretme ve dosya üzerinde soru-cevap. Ürünler de giderek iş ortamına doğru büyüyor: OpenAI sohbet ve iş sekmelerini birleştirdi, markalar için doğrulanmış Business Agent'lar duyurdu; Anthropic de toplantı ve ofis araçlarıyla aynı yöne gidiyor. Pratik bir öneri: asistanın ayarlarından hangi araçların açık olduğuna, hafızanın açık mı kapalı mı olduğuna ve sohbetlerin eğitimde kullanılıp kullanılmadığına bir kez bakın.

Tüyü yaktım

Zal'ın tüyünü bugün herkesin evde tekrarlayabileceği bir deney tasarlayarak yaktım; sonucunu henüz yazmayacağım, çünkü tek denemeden genel hüküm çıkmaz. Deney şu: kullandığınız asistana aynı soruyu iki kez sorun: "Dün siber güvenlikte öne çıkan üç olay neydi? Kaynak ver." Önce web araması kapalıyken, sonra açıkken. Üç şeye bakın: kapalıyken asistan bilmediğini söylüyor mu, yoksa genel ve tarihsiz cümlelerle mi idare ediyor? Açıkken verdiği kaynaklar gerçekten dünün mü? Kaynakta yazmayan bir ayrıntı cevaba karışmış mı? Benim beklentim, aracın doğruluğu artırması ama kontrolü ortadan kaldırmaması; sadece kontrol edilecek şeyi değiştirmesi: artık kaynağın tarihine bakmak gerekiyor.

Heybeme koyduğum

Sohbet asistanı modelin kendisi değil, modelin etrafına kurulmuş bir evdir; neyi bildiği ve neyi yapabildiği o evin kapılarına bağlıdır.

Kafama takılan

Aynı model iki farklı üründe farklı cevap veriyorsa, bir asistanı "güvenilir" ya da "güvenilmez" diye değerlendirirken modeli mi, ürünü mü ölçmüş oluyoruz?

Son söz

Sıradaki durakta asistanların ofise girdiği yere bakacağım: Microsoft 365 Copilot ve e-posta, belge, toplantı içinde çalışan asistanlar.