Fireworks AI ihlalinde yeni ayrıntı: Saldırgan üçüncü taraf bulut sağlayıcısı üzerinden geliştirme makinelerine ulaştı, iz LLMjacking grubuna çıkıyor
AI inference platformu Fireworks AI, Ekim başında duyurduğu güvenlik olayına ilişkin 9 Kasım güncellemesinde, Ar-Ge makinelerini barındıran bir bulut sağlayıcısındaki olay üzerinden ikinci bir erişim yaşandığını ve bazı hesaplarda faturalama bilgisi, eksik model ağırlıkları ve veri setlerinin etkilendiğini açıkladı. Şirket kanıtların para karşılığı LLM erişimi satan bir gruba işaret ettiğini söylüyor.
AI modellerini barındırma ve inference hizmeti veren Fireworks AI, Ekim başında duyurduğu güvenlik olayına ilişkin 9 Kasım'da bir güncelleme yayımladı. Güncellemeye göre, şirketin Ar-Ge makinelerini barındıran ve adı açıklanmayan bir üçüncü taraf bulut sağlayıcısı 23 Ekim'de bir güvenlik olayı yaşadı; yetkisiz taraf 24 Ekim'de bu yolla Fireworks'ün geliştirme makinelerine ulaştı ve orada izinsiz bir iş yükü çalıştırdı.
Şirket, kanıtların finansal motivasyonlu bir siber suç grubuna işaret ettiğini yazıyor: Grubun amacı, ele geçirilen erişimle büyük dil modellerinden token satan yasa dışı yönlendirme ağlarını beslemek, yani LLMjacking. Grup adı verilmedi. Fireworks kolluk kuvvetlerini bilgilendirdiğini ve adli inceleme için Palo Alto Networks Unit 42 ile çalıştığını belirtiyor.
Olay iki aşamalı
Şirketin ilk bülteninde anlattığına göre olay 6 Ekim'de iç Fireworks kimlik bilgilerinin yetkisiz kullanımıyla fark edildi. Saldırgan, sınırlı sayıda müşteri hesabında değerlendirme işlerinde kullanılan ortam değişkenlerine, bu arada secret olarak saklanan API anahtarı ve token'lara erişti. Müşteriler 7 Ekim'den itibaren e-postayla bilgilendirildi, bülten 9 Ekim'de yayımlandı.
9 Kasım güncellemesi etkilenen verinin kapsamını genişletiyor:
- Kaynak metadata'sı: kaynak kimlikleri, görünen adlar, açıklamalar, oluşturma zamanları.
- Faturalama bilgisi: fatura ve teslimat adresleri, fatura ve ödeme geçmişi, hesap bakiyesi, kredi kullanımı.
- Bazı müşterilerde: eksik model ağırlıklarının ve veri setlerinin bir kısmı; sınırlı sayıda hesapta secret'lar.
Fireworks'e göre ödeme kartı numaraları şirkette saklanmıyor ve etkilenmedi; varsayılan olarak veri saklamayan Inference, Training SDK ve Nexus hizmetlerinde etki tespit edilmedi. Etkilenen hesap sayısı açıklanmadı ve inceleme sürüyor.
Şirket ne yaptı?
Fireworks kimlik bilgilerini ve servis hesaplarını yenilediğini, gereksiz yüksek yetkileri kaldırdığını, ağ yollarını kısıtlayıp etkilenen sistemleri izole ettiğini, log ve izlemeyi artırdığını açıkladı. Batch Inference ve veri seti tabanlı eğitimde kullanılan self-servis veri seti yükleme ve indirme özelliği kapatıldı. Güncelleme, Google Threat Intelligence Group ve Mandiant'ın 2 Kasım tarihli LLMjacking yazısına atıf yapıyor.
Ne yapılmalı?
- Fireworks müşterisiyseniz, şirketin iptal ettiği API anahtarlarını yenileyin ve uygulamalarınızı yeni anahtarlarla güncelleyin.
- Bildirimde adı geçen üçüncü taraf kimlik bilgilerini (bulut, veritabanı, model sağlayıcı anahtarları) kendi sağlayıcılarında döndürün. Fireworks'ün de vurguladığı gibi, saklanan secret'ı silmek alttaki anahtarı geçersiz kılmaz.
- Bu anahtarlarla erişilebilen sistemlerin erişim log'larını inceleyin; şüpheli bir iz olmasa bile anahtarları döndürün.
- Hesabınızda tanımadığınız API anahtarı, kullanıcı, evaluator, eğitim işi ve veri seti olup olmadığını kontrol edin.
- AI platformlarına verdiğiniz secret'ları envantere yazın: hangi sağlayıcıda hangi anahtar duruyor, kapsamı ne, en son ne zaman döndürüldü.
