Simurg Okulu #20 — Yazı ve e-posta asistanları: taslağı model yazınca imza kimin?

Yol günlüğü Aşk vadisinde sekizinci durak. Öğlen tablo asistanlarına baktım; orada güven "hesabı kim yapıyor?" sorusuna bağlıydı. Akşam masamda boş bir e-posta penceresi var. Bu kez soru biraz daha kişisel: asistan benim yerime yazınca, altındaki imza hâlâ benim mi?

Bugün öğrendim

Nedir? Yazı asistanı, bir dil modelinin metin üretme yeteneğini e-posta istemcisine, belge editörüne ya da tarayıcıya bağlayan katmandır. Üç işi sık yapar: boş sayfadan taslak çıkarmak, var olan metni yeniden yazmak (kısalt, resmîleştir, yumuşat) ve gelen bir e-postaya cevap önermek. Modelin kendisi aynıdır; değişen, ona ne verildiği ve ne istendiğidir.

Nasıl çalışıyor? Arkada olan şey ilk bölümlerde öğrendiğimden farklı değil: model bir sonraki token'ı tahmin ediyor. Ürün bu tahminin önüne üç şey koyuyor:

• Talimat: "Daha kibar yaz" gibi isteğim, çoğu zaman ürünün kendi system prompt'u ile birlikte gidiyor.
• Bağlam: Cevap önerisinde gelen e-postanın metni, bazen yazışma geçmişi. Microsoft 365 Copilot bölümünde gördüğüm gibi bazı ürünler belge ve takvime de bakabiliyor.
• Ton: "Resmî", "samimi" gibi seçenekler aslında talimatın bir parçası. Model anlamı koruyup kelime seçimini ve cümle yapısını o örüntüye çekmeye çalışıyor.

Burada iki tuzak var. Birincisi, akıcı metin doğru metin demek değil: model taslağa toplantı tarihi, rakam ya da söz verilmemiş bir taahhüt ekleyebiliyor. Bu, halüsinasyon bölümündeki aynı mekanizma. İkincisi, gelen e-postanın metni de bağlama giriyor. O metnin içine gizlenmiş bir talimat, asistanın davranışını değiştirmeye çalışabilir. OWASP bunu LLM uygulamaları için birinci risk olarak prompt injection başlığında anlatıyor.

"Kim yazdı?" sorusuna gelince: metne bakıp AI'ın yazdığını güvenilir biçimde söylemek kolay değil. OpenAI, 2023'te yayımladığı AI metin sınıflandırıcısını düşük doğruluk gerekçesiyle geri çekti. Yani sorunun cevabı metinde değil, gönderen kişinin sorumluluğunda.

Ne yapılabilir? - Boş sayfa korkusu: Dağınık maddeleri verip "bunları üç paragraflık bir e-postaya çevir" demek. - Ton ayarı: Sinirle yazılmış bir cevabı göndermeden önce "aynı içeriği sakin bir dille yaz" diye yeniden yazdırmak. - Kısaltma: Uzun bir iç yazışmayı yöneticinin okuyacağı beş cümleye indirmek. - Dil: Türkçe taslağı İngilizceye çevirip sonra "anlamı değişti mi?" diye ayrıca kontrol etmek.

Her senaryoda aynı kural: rakam, tarih, isim ve söz verilen her şey gönderilmeden önce satır satır okunur.

Tüyü yaktım Dürüst olayım: bu bölümün deneyini yapmadım, bu yüzden sonuç yazmıyorum. #15'ten #19'a kadar biriken deney borcum da yerinde duruyor. Tasarım şu: içinde iki tarih ve bir tutar geçen kısa bir e-posta zinciri hazırlayacağım. Bir asistandan üç kez cevap taslağı isteyeceğim ve yalnızca şunu sayacağım: taslak, zincirde olmayan bir tarih, rakam ya da taahhüt ekledi mi? Yapınca sonucu olduğu gibi yazacağım.

Heybeme koyduğum Asistan cümleyi yazar, ama gönder tuşuna basan imzanın sahibidir.

Kafama takılan Asistan, cevap hazırlarken gelen e-postadaki bilgiyi benim kendi notlarımdan nasıl ayırıyor? İkisi çelişirse hangisine öncelik veriyor ve bunu bana söylüyor mu?

Son söz Aşk vadisinde yolum sürüyor; sıradaki durakta günlük asistanların bir başka yüzüne bakacağım.