Simurg Okulu #26 — Aşk vadisini toparlıyorum: bütün asistanlarda aynı üç soru
On üç bölümdür sohbet asistanından takvim asistanına kadar günlük AI araçlarını tek tek gezdim. Vadiden çıkarken hepsinin aynı iskelete oturduğunu fark ettim: veri nereden geliyor, model neyi görüyor, yanlışı kim yakalıyor?

Yol günlüğü
Aşk vadisinin çıkışındayım. 13. bölümden bu yana sohbet asistanlarını, Copilot'u, NotebookLM'i, AI aramayı, sesli asistanları, görüntü okuyanları, tarayıcıdakileri ve takvim asistanlarını gezdim. Bu akşam yeni bir araç öğrenmeyeceğim; heybemi boşaltıp ne biriktirdiğime bakacağım.
Bugün öğrendim
Nedir?
"Günlük asistan" dediğimiz her şey aslında aynı parçalardan kurulu: bir dil modeli, modelin önüne veri koyan bir uygulama ve modelin çıktısını bir yere taşıyan bir arayüz. Ürün adları değişiyor, iskelet değişmiyor. Bunu fark edince her yeni asistana üç soru sormak yetiyor.
Nasıl çalışıyor?
1. Veri nereden geliyor? Model ne e-postanı, ne takvimini, ne de dün yüklediğin PDF'i "bilir". Uygulama bu veriyi çeker ve context window içine koyar. Copilot'ta bu kurum içi dosyalar, NotebookLM'de senin yüklediğin kaynaklar, takvim asistanında etkinlikler, AI aramada web sayfaları. Veri kaynağı yanlışsa ya da eksikse, model ne kadar iyi olursa olsun cevap da eksik olur.
2. Model neyi görüyor? Pencere sınırlı; uygulama verinin hepsini değil, seçtiği parçaları koyar. Hangi parçaların seçildiği çoğu üründe kamuya açık değil. Bu yüzden "belgede yazıyor" dediğim şeyi model görmemiş olabilir. Ayrıca modele konan her metin talimat gibi okunabilir: bir davet açıklamasına, bir web sayfasına ya da e-postaya gizlenmiş cümle asistanı yönlendirebilir. Buna dolaylı prompt injection deniyor; OWASP bunu LLM uygulamaları listesinde ilk sıraya koyuyor (LLM01).
3. Yanlışı kim yakalıyor? Model halüsinasyon görebilir; atıf gösteren araçlar işi kolaylaştırır ama kontrolü kaldırmaz. Asistan yalnızca okuyorsa yanlış bir cevap olarak kalır; yazma yetkisi varsa (mail gönderme, davet açma, form doldurma) yanlış bir eyleme dönüşür. Okuma ile yazma arasındaki çizgi, vadi boyunca gördüğüm en önemli çizgi oldu.
Ne yapılabilir?
- Yeni bir asistanı denemeden önce üç soruyu kâğıda yaz: hangi veriye erişiyor, ben neyi göreceğimi biliyor muyum, yazma yetkisi var mı?
- Kurumda asistan yaygınlaştırılıyorsa önce okuma yetkisiyle başla; yazma yetkisini ayrı bir onay adımıyla aç.
- Önemli cevaplarda kaynağa tıkla; atıf yoksa cevabı taslak say.
- Dışarıdan gelen içerikle (e-posta, web, paylaşılan belge) çalışan asistanlarda, o içeriğin talimat taşıyabileceğini varsay.
Tüyü yaktım
Dürüst olayım: #15'ten #25'e kadar tasarladığım deneyleri (cevabı olan ve olmayan soru, belirsiz saat ifadesi gibi) henüz yapmadım. Bu yüzden burada bir sonuç yazmıyorum; uydurmak bu yolun kuralına aykırı. Bu akşam yaptığım tek şey, on üç bölümün notlarını yan yana koyup her araç için üç sorunun cevabını tabloya geçirmek oldu. Her satırda en zayıf hücre üçüncü soruydu: yanlışı yakalayan katman çoğu üründe yine kullanıcı.
Heybeme koyduğum
Asistanın adı değişir; veri nereden geliyor, model neyi görüyor, yanlışı kim yakalıyor soruları değişmez.
Kafama takılan
Eğer yanlışı yakalayan katman hep kullanıcıysa, asistanın kazandırdığı zaman kontrol için harcanan zamanla nasıl karşılaştırılmalı? Bunu ölçmenin bir yolunu arıyorum.
Son söz
Bir sonraki durak Marifet vadisi. #27'de, modelin "kendi bilgisiyle konuşmasının" ilk taşı olan embedding'i öğreneceğim: bir cümle nasıl bir sayı listesine dönüşür ve anlamca yakın cümleler neden birbirine yakın düşer?