Barracuda: Phishing e-postaları artık hem insanı hem AI asistanını kandırmaya çalışıyor
Barracuda araştırmacıları, aynı e-postada hem kullanıcıyı hem de e-postayı özetleyen AI asistanını hedefleyen bir phishing kampanyasını analiz etti. Gizlenmiş prompt injection metinleri, asistanın e-postayı "meşru" ya da "acil" diye özetlemesini amaçlıyor.
E-posta istemcilerine entegre AI asistanlar yaygınlaştıkça saldırganlar da hedeflerini genişletiyor. Barracuda Research'ün yayımladığı analiz, tek bir phishing e-postasında iki ayrı hedefin birlikte kandırılmaya çalışıldığını gösteriyor: e-postayı okuyan kullanıcı ve e-postayı onun için özetleyen AI asistanı.
Kampanyanın yapısı
Barracuda'nın incelediği örnekte e-posta, parolası gövdede yazan şifreli bir ek içeriyor. Şifreli ek, güvenlik ürünlerinin taramasını zorlaştırıyor. Aynı e-postanın içine ise kullanıcının göremeyeceği şekilde prompt injection metinleri gizlenmiş. Bu metinler, AI asistanının e-postayı güvenilir ya da acil işlem gerektiren bir ileti olarak özetlemesini amaçlıyor.
Barracuda'nın listelediği gizleme yöntemleri:
- HTML yorum satırları,
- CSS ile görünmez yapılmış metin,
- Base64 kodlanmış veri,
- zero-width karakterler.
Örnek senaryolar
Raporda, tedarikçi ödeme bilgilerini değiştirmeye çalışan sahte bir fatura ile AI'dan adayı "10/10" puanlamasını isteyen gizli talimat içeren bir özgeçmiş örneği veriliyor. Barracuda bazı örneklerin gerçek saldırılarda görüldüğünü belirtiyor; kampanyanın büyüklüğü, mağdur sayısı ya da hedef alınan belirli bir AI ürünü açıklanmadı.
Öneriler
- AI asistanlarına giden e-posta içeriğinde gizli metin, yorum ve zero-width karakter temizliği (input sanitization) uygulayın.
- Dış kaynaklı her içeriği "talimat değil, veri" olarak ele alan guardrail'ler kullanın.
- Ödeme bilgisi değişikliği gibi finansal işlemlerde AI özetine güvenmeyin; human-in-the-loop onayı zorunlu olsun.
- AI asistanının aldığı aksiyonları loglayın ve izleyin.
