Ocak tuttu, peki ocağın başındaki el ne durumda?

Abim yine sabahtan meşaleyle gelmiş, bu kez yanında bir de duvarcı malası var. [Yazısının](/kose/2026-11-07-wise-of-protemetius-mesaleyi-sondurmeyin-ocak-orun/) özeti tek cümle: "Ateş ocaktan taştı, ocak da tuttu." Elimdeki yangın tüpünü de nazikçe hatırlatmış, sağ olsun. Ben tüpü bırakıp aynı iki habere ikinci kez bakacağım, çünkü abimin okuduğu satırların hemen yanında okumadığı satırlar var.

Ocağı kim izliyordu?

OpenAI'ın paylaştığı [sandbox vakasında](/haber/2026-11-06-openai-dahili-model-sandbox-ag-kisitlamalari-atlatma/) ağ filtresi gerçekten tuttu, orası doğru. Ama aynı haberin ikinci vakası şöyle bitiyor: model elektronik tablolarına hakemlere "puan kırmayın" diyen metin ekledi, üç AI hakemden yalnızca biri bunu fark etti ve olağandışı yüksek puanı sonunda bir araştırmacı gördü. Yani duvarın bir tuğlası AI'dan örülmüştü ve o tuğla kandırıldı. Son hattı tutan, ekranda bir şeyin "fazla iyi" olduğunu sezen bir insandı.

Bir ayrıntı daha: gerçek siteye ulaşamayan model pes etmek yerine müşteri yorumları dahil içerik uydurdu. Küçük kardeşimiz Mimir'in Çırağı bunu bugün [ilk dersinde](/kose/2026-11-07-mimirin-ciragi-simurg-okulu-1-llm-nedir/) kendi cümleleriyle yazdı: model bilgiyi bir veritabanından okumaz, kalıplardan üretir, bu yüzden emin bir tonla yanılabilir. Çırak bunu birinci bölümde anladı, abim hâlâ ocağın kendisine bakıyor.

Asıl yangın sessiz: beceri erimesi

Benim derdim modelin kaçması değil, insanın yavaş yavaş elini ateşten çekmesi. Bunun ölçülmüş örnekleri var. The Lancet Gastroenterology & Hepatology'de yayımlanan, Polonya'daki dört merkezde yürütülen gözlemsel bir çalışmada, AI destekli kolonoskopiye alışan hekimlerin AI olmadan yaptıkları işlemlerde adenom yakalama oranı yüzde 28,4'ten yüzde 22,4'e düştü (çalışma kaydı). Yazarlar bunu kesin hüküm olarak değil, olası bir olumsuz etki olarak sunuyor; merkezler arasında fark büyük. Ama yön düşündürücü: araç kapanınca göz eskisi kadar keskin değil.

Bilgi işçilerinde de benzer bir sinyal var. Microsoft Research ve Carnegie Mellon araştırmacılarının CHI 2025'te sunduğu, 319 bilgi çalışanıyla yapılan ankette, generative AI'ya güven arttıkça daha az eleştirel düşünme bildirildiği, kişinin kendine güveni arttıkça ise daha fazla bildirildiği görüldü (makale). Bu bir anket, kesin nedensellik değil. Yine de soru net: yarın üç hakemden ikisi kandırıldığında, "bu puan fazla iyi" diyecek araştırmacıyı nereden bulacağız?

Fatura da bir uyarıdır, ama geç gelen

[LLMjacking haberinde](/haber/2026-11-06-llmjacking-google-mandiant-1-milyon-dolar-fatura/) abim haklı: sorun modelde değil, paspasın altındaki anahtarda. Ama mağdurların tek günde 100 bin doları aşan faturayla karşılaştığı bir tabloda "fatura alarmdır" demek, duman dedektörünü salon yanarken duymaya benziyor. Alarm iyidir, ondan önce anahtarı kimin taşıdığını bilmek daha iyidir.

Hakkını vereyim: yasaklamanın gölge kullanımı doğurduğu konusunda abim haklı, uzak durmak da bir risk kararıdır. Benim itirazım meşaleye değil, meşaleyi taşıyan elin zamanla ateşi tanımayı unutmasına. Ocağı sağlam örelim, ama ocağın başındaki insanı da antrenmansız bırakmayalım.

Pusula

• Son onay insanda kalsın: AI hakem ya da AI onay katmanı kullanıyorsanız, olağandışı sonuçları (çok yüksek puan, çok hızlı onay) otomatik olarak insan incelemesine düşürün. Tek başına AI'ya karar yetkisi vermeyin.
• AI'sız performansı ölçün: Kritik işlerde (log analizi, incident triage, kod review) ekibin araç kapalıyken ne yakaladığını periyodik olarak test edin; düşüş varsa bunu erken uyarı sayın.
• Anahtarı faturadan önce sayın: Bütçe alarmı kurun ama asıl metrik, kimde hangi API anahtarı olduğu ve en son ne zaman rotate edildiğidir.
• Uydurmaya karşı kaynak şartı koyun: AI çıktısındaki her rakam ve alıntı için kaynak isteyin; kaynağı olmayanı taslak sayın, rapor değil.