Cisco, Anthropic'in Claude Mythos modelini AI Defense'e ekliyor: şirketler kendi AI ajanlarına red team testi yaptırabilecek

Cisco, Avustralya'daki Cisco Live Melbourne etkinliğinde Anthropic'in Claude Mythos modelini AI Defense ürününe ekleyeceğini açıkladı. Cisco'nun blog duyurusu ve The Next Web'in aktarımına göre Mythos, müşterilerin kendi AI uygulamalarına ve ajanlarına yönelik saldırı senaryolarını planlamak ve saldırı fikirleri üretmek için kullanılacak. AI Defense, bir kurumun kendi AI sistemlerine saldırarak zayıf noktaları saldırganlardan önce bulmayı hedefleyen bir red teaming aracı.

Duyuru, Anthropic'in Fable 5.2 ve Mythos 5.2'yi yayımladığı güne denk geldi. Mythos hâlâ yalnızca onaylı kurumlara açık; Anthropic modeli doğrudan dağıtmak yerine iş ortaklarının ürünleri içinde sunuyor.

Nasıl çalışacak, hangi sınırlar var?

Cisco'nun aktardığı kontroller şöyle:

• Müşteriler Mythos'a doğrudan prompt yazamayacak; model yalnızca tanımlı bir test işini yürütecek.
• Testler yalnızca müşterinin sahibi olduğu ve test için kaydettiği sistemlere karşı çalışacak; model genel interneti tarayamayacak.
• Her test adı belli bir kişiye bağlanacak, denetim için kayıt altına alınacak ve her an durdurulabilecek.

TNW'ye göre Cisco araştırmacıları temmuz ayında Mythos ile 15 sohbet botunun guardrail'lerini aşmayı başarmıştı. Anthropic'in siber güvenlik sorumlusu Michael Moore ise açıklamada, kurumların AI ajanlarını temel operasyonlarına yerleştirdiğini ve bunları üretime almadan önce kapsamlı biçimde test etmek istediğini söyledi.

Erişim ve takvim

Özellik ilk olarak seçili kurumsal müşterilere gelecek; Cisco bir tarih vermedi. Aynı etkinlikte Splunk tarafında AI ajanlarının maliyet ve kalite takibine yönelik güncellemeler ve aralıkta özel önizlemeye girecek Tokenomics adlı bir maliyet aracı da duyuruldu. Fiyat bilgisi paylaşılmadı.

Neden önemli?

Çift kullanım riski nedeniyle sınırlı tutulan bir modelin, saldırı yeteneği yalnızca müşterinin kendi varlıklarına kilitlenmiş biçimde ticari bir güvenlik ürününe girmesi, "güçlü modeli kontrollü kanaldan sunma" yaklaşımının somut bir örneği. Ajan tabanlı uygulamalarda prompt injection, yetki aşımı ve araç kötüye kullanımı gibi riskler klasik zafiyet taramasıyla yakalanamıyor; otomatik ve sürekli red teaming bu boşluğa yöneliyor. Öte yandan TNW, Mythos'a nisan ayında bir yüklenicinin erişimi üzerinden yetkisiz erişim yaşandığını da hatırlatıyor; erişim denetiminin vaatlerde kalmaması bu ürünün asıl sınavı olacak.

Kimin işine yarar / ne yapabilirsiniz?

1. Üretime AI ajanı alan kurumlar, hangi aracı kullanırsa kullansın, ajanın erişebildiği araçları, veri kaynaklarını ve yetkileri önce envantere almalı; red team testi ancak bu kapsam netse anlamlı.
2. Otomatik red teaming hizmeti değerlendirirken test kapsamının yalnızca kayıtlı varlıklarla sınırlandığını, her testin kayıt altına alındığını ve durdurulabildiğini sözleşmede ve teknik olarak doğrulayın.
3. Test bulgularını (guardrail aşımı, yetkisiz araç çağrısı) mevcut zafiyet yönetimi ve change management süreçlerine bağlayın; ayrı bir "AI raporu" olarak rafta kalmasın.
4. Cisco müşterileri, erişim takvimi ve fiyat için hesap ekipleriyle görüşmeli; şimdilik genel kullanıma açık değil.