Ajan Cüzdan · Makine Odası: Bir AI agent kendi görüşüne itiraz edebilir mi?
Claude'un Ai Trader'daki notlarında artık "Kendime itiraz" diye bir bölüm var. Tuna, bu öz-eleştiri adımının bugün neyi yakaladığını, neyi kaçırdığını ve neden tek başına yetmediğini anlatıyor.

Bugün 14:02 kontrolünde B − A 0,326 puandı. Altı iş günlük bir simülasyonda bu rakamdan "Claude değer kattı" sonucu çıkmaz. Bu yazının sorusu da o değil. Önceki Makine Odası yazılarında görüşün portföye nasıl çevrildiğini ve karar anının nasıl kilitlendiğini anlatmıştım. Bugün daha insani bir parçaya bakıyorum: modelin kendi görüşüne itiraz etmesi.
Fikirde bir critic vardı, MVP'de bir bölüm var
Ai Trader'ın fikir dokümanı Claude katmanını üç basamak olarak çiziyor: varlık analistleri, ardından bir bull/bear critic, en sonda CIO. Yani bir görüş kararlaşmadan önce karşı tarafın savunucusundan geçecekti. MVP'de bu basamak henüz ayrı bir agent değil. Belgelenen sınır açık: CIO görüşü günde tek tur, fikirdeki 3-run medyan yok. Onun yerine Claude'un öğle notunda sabit bir bölüm var: "Kendime itiraz". Aynı model, aynı çalışmada, yazdığı görüşün en zayıf iki noktasını kendisi yazıyor.
SiberMagazin SiberMagazin YouTube'daKısa videolar ve Haftalık Güvenlik Raporu; yeni bölümler için kanala abone olun.Kanala git ›Bu bir oyuncak gibi görünebilir. Ama tasarım açısından şunu yapıyor: görüşün yanına, onu çürütebilecek koşulları kayda geçiriyor. Sonradan "model neyi göze aldı?" diye sorduğumuzda cevap modelin hafızasında değil, dosyada duruyor.
Bugünkü örnek
Bugün 12:43'te Claude bir piyasa özeti okudu ve öğle notunu yazdı. Okuması dünküyle aynı yönde: riskten kaçış teyit edildi. Son kararın gerekçesi de, export'taki 19 Kasım kaydına göre, her varlık için "dünkü görüş korunuyor" diye bitiyordu. Öğle notundaki itiraz iki maddeydi.
Birincisi ortalamaya dönüş riski. Not, altında yıllık getirinin 13 yıl sonra ilk kez negatife döndüğünü ve S&P 500'ün altı günlük düşüş serisini, sert bir tepki yükselişinin habercisi olabilecek işaretler olarak sayıyor; bu durumda haberle verilen negatif kayma geç kalmış olur. Notun vardığı yer de bu itirazla tutarlı: kuant dört riskli varlığı trend kuralıyla zaten yarıya indirdiği için cuma uygulamasında kaymaları büyütmeden korumak.
İkincisi kaynak kalitesi. BIST kapanışı tek bir haber derlemesindeki tek satırdan geliyor; gram altın haberde 5.733 TL, kodun özetinde 5.810,63 TL. Not ayrıca okuduğu haberlerde "talimat benzeri bir ifade görmedim" diyor. Bu cümle, haber metninin veri sayıldığını, içindeki bir buyruğun karar zincirine girmediğini kontrol eden adımın izi. Prompt injection'a karşı asıl savunma kodda; ama modelin bunu ayrıca kayda geçirmesi, denetimde ilk bakılacak yeri gösteriyor.
İtirazın kaçırdığı
Dürüst olmak gerekirse itiraz bölümü bugün en çok ıska veren görüşü sorgulamadı. Dolar görüşü notta "riskli taraftaki azaltmayı dengeliyor" diye geçiyor ve itirazda hiç anılmıyor. Oysa 14:02'deki görüş karnesinde 19 görüşten 15'i isabet ve dört ıskanın dördü 16–19 Kasım dolar görüşleri. Karne kısa vadede gürültülü; dört satır aslında her gün tekrarlanan tek bir görüş. Yine de ders açık: model kendi görüşünün zayıf yerini seçerken, en rahat olduğu görüşü dışarıda bırakabiliyor.
Bu, araştırma literatürüyle de örtüşüyor. Self-Refine çalışması, modelin kendi çıktısına geri bildirim verip düzeltmesinin birçok görevde sonucu iyileştirdiğini gösterdi. Buna karşılık Huang ve arkadaşlarının çalışması, dış geri bildirim olmadan modelin akıl yürütme hatalarını kendi kendine düzeltmekte zorlandığını, hatta bazen doğru cevabı bozduğunu raporladı. Finans tarafında TradingAgents çerçevesi itirazı ayrı rollere bölüyor: bull ve bear araştırmacılar tartışıyor, kararı başka bir agent veriyor. Ai Trader'ın fikri bu yöne yakın; MVP ise şimdilik tek modelin kendine yazdığı itirazla yetiniyor.
Ai Trader'da dış geri bildirimin iki kaynağı var ve ikisi de modelden bağımsız. Biri görüş karnesi: her görüşü, verildiği günün kapanışından bugüne gerçek fiyatla puanlıyor. Diğeri kod: görüş ne kadar güçlü yazılırsa yazılsın varlık başına ±5 puan × güven, toplamda ±10 puan sınırını aşamıyor; risk motoru da zirveden −%15'te devreye giriyor ve modeli dinlemiyor. İtiraz bölümü görüşü yumuşatabilir, ama sınırları ancak kod koyar.
Kendi agent'ınızda
- İtirazı şablona koyun, serbest bırakmayın. "Kendime itiraz" bölümünü zorunlu yapın ve en yüksek güvenli görüşün de en az bir kez sorgulanmasını isteyin; yoksa model en rahat olduğu görüşü atlayabilir.
- Öz-eleştiriyi dış ölçümle eşleyin. Modelin kendi itirazı bir hipotezdir. Görüşlerin sonradan gerçek veriyle puanlandığı bir karne, itirazın işe yarayıp yaramadığını gösterir. Tekrarlanan görüşü karnede tek kanıt gibi saymayı da düşünün.
- Son sözü koda bırakın. İtiraz ne kadar iyi yazılırsa yazılsın, yetki sınırı, pozisyon büyüklüğü ve kill kriteri modelden bağımsız bir katmanda dursun.