Ses artık kanıt değil: Deepfake çağında "gerçekten sen misin?" sorusu

Yıllarca güvenlik eğitimlerinde aynı öğüdü verdik: "Şüphelendiğiniz e-postayı telefonla teyit edin." Peki telefondaki ses de üretilmişse? Bu hafta okuduğum iki haber, bu sorunun artık teorik olmadığını gösteriyor.

Bugün ne görüyoruz?

Birincisi, ABD'de açılan deepfake CEO dolandırıcılığı iddianamesi. Savcılığa göre üç kişilik bir şebeke, yapay zekâ ile üretilmiş ses ve görüntülerle şirket yöneticilerini ve avukatlarını taklit ederek 2024–2026 arasında yaklaşık 129 milyon dolar elde etti. Mağdurlar arasında hastaneler, bir banka ve teknoloji şirketleri sayılıyor. Suçlamalar henüz iddia aşamasında, ama tarif edilen yöntem tanıdık: klasik CEO fraud, yani BEC, bu kez üretken AI ile güçlendirilmiş.

İkincisi, Barracuda'nın analiz ettiği hem kullanıcıyı hem AI asistanını hedefleyen phishing kampanyası. E-postaya gizlenen prompt injection metinleri, e-postayı özetleyen asistanın onu "güvenilir" ya da "acil" diye sunmasını amaçlıyor. Yani saldırgan artık yalnızca bizi değil, bizim adımıza okuyan makineyi de ikna etmeye çalışıyor.

İki haberin ortak noktası şu: Bir mesajın "doğal" görünmesi, yani doğru ses tonu, akıcı dil, tanıdık yüz, artık gerçekliğin kanıtı değil.

Yarın ne olabilir?

Buradan sonrası benim öngörüm, olgu değil.

Beklentim, önümüzdeki birkaç yıl içinde kurumların "insanı tanıma" üzerine kurulu onay süreçlerinden "kanalı ve süreci doğrulama" üzerine kurulu süreçlere geçmek zorunda kalacağı. Yöneticinin sesini tanımak yerine, talebin önceden tanımlanmış bir kanaldan, önceden tanımlanmış bir onay zinciriyle gelip gelmediğine bakacağız. Bu, güvenliği kişisel sezgiden çıkarıp tasarıma taşımak demek.

Düzenleyici taraf da bu yöne ilerliyor. Avrupa Birliği'nin AI Act'i, deepfake içeriklerin yapay olarak üretildiğinin belirtilmesini öngören şeffaflık yükümlülükleri içeriyor. Ancak bir dolandırıcının bu etiketi koymayacağını hepimiz biliyoruz. Bence yasalar meşru üreticiyi disipline edecek; suç amaçlı kullanımı ise ancak kurumların kendi doğrulama süreçleri durdurabilecek.

AI asistanları tarafında da benzer bir kırılma bekliyorum: E-postayı okuyan, takvimi yöneten, ödeme hazırlayan agent'lar çoğaldıkça, "asistanın gördüğü içerik güvenilmezdir" ilkesi yazılım tasarımının temel kuralı hâline gelecek.

Şimdiden yapılabilecekler

• Para transferi, tedarikçi banka bilgisi değişikliği ve acil ödeme talepleri için ses ya da görüntüye değil, önceden belirlenmiş ikinci bir kanala dayanan geri arama kuralı koyun. Geri arama, talebin geldiği numaraya değil, kayıtlı numaraya yapılmalı.
• Yönetim ekibiyle "parola cümlesi" ya da benzeri, yalnızca içeriden bilinen bir doğrulama yöntemi belirleyin.
• AI asistanlarının ürettiği özetleri bir güvenlik kararı olarak değil, bir okuma kolaylığı olarak görün. Asistanın "güvenilir" dediği e-posta, güvenilir olduğu anlamına gelmez.
• Çalışan eğitimlerine deepfake ses ve video örneklerini ekleyin; amaç tespit etmeyi öğretmek değil, "tanıdık görünüyor" duygusunun tek başına yetmediğini göstermek.

Ufuk çizgisi

Gelecekte en değerli güvenlik becerisi, sahteyi gerçekten ayırt edebilmek olmayabilir; çünkü bu yarışı makineler giderek daha iyi oynuyor. Asıl beceri, ayırt edemediğimiz durumlarda bile doğru kararı verdiren süreçleri önceden kurmak olacak. Gerçeklik tartışmalı hâle geldiğinde, güveni prosedüre emanet etmek zorundayız.