Tencent'in baş AI bilimcisi uyardı: Modeller siber güvenlikte olduğu gibi yakında biyolojide de zarar verebilecek

Tencent'in baş yapay zekâ bilimcisi Yao Shunyu, AI modellerinin siber güvenlikte ulaştığı zarar verme eşiğine yakında biyolojide de ulaşacağı uyarısında bulundu. The Next Web'in South China Morning Post'a dayandırdığı habere göre Yao, hafta sonu Hong Kong'daki bir bilim etkinliğinde konuştu. Haberde Yao'nun 29 yaşında olduğu ve OpenAI'da bir yıl çalıştıktan sonra geçen yıl Tencent'e katıldığı belirtiliyor.

Yao'ya göre biyolojideki riskler, siber güvenlikteki risklerden daha zor yönetilebilir. Açık model yayımlayan Çinli şirketlerin güvenliği çok ciddiye alması gerektiğini söyleyen Yao, Anthropic gibi ABD'li şirketlerin en güçlü modelleri kapalı tutma gerekçesinin güçlü olduğunu da kabul etti. Yine de açık modellerin savunmacılara da yardım ettiğini, bu nedenle açık ve kapalı modellerin bir karışımının en iyi sonucu verebileceğini savundu.

Hy4 bağlamı

Açıklama, Tencent'in 4 Kasım'da yeni amiral gemisi modeli Hy4'ü duyurmasının hemen ardından geldi. Haberde aktarılan Tencent iddialarına göre Hy4, yazılım açıklarını istismar etmeye yönelik içerik olmadan, savunma amaçlı güvenlik verisiyle eğitildi. Şirket, Hy4'ün temel biyoloji bilgisinin güçlü olduğunu ancak iç uzman değerlendirmelerine göre deney tasarımında önde gelen modellerin gerisinde kaldığını söylüyor. Reuters'a göre Tencent, Hy4'ün ağırlıklarını ve bir güvenlik test raporunu önümüzdeki günlerde yayımlamayı planlıyor. TNW modeli test etmediğini belirtiyor; bu değerlendirmeler üreticinin kendi iddiası.

Neden önemli?

Siber güvenlik alanında AI ajanlarının açık bulduğu ve istismar ettiği örnekler son haftalarda arttı. Büyük bir Çinli laboratuvarın üst düzey bilimcisinin aynı eşiğin biyolojide de yaklaştığını açıkça söylemesi, açık ağırlıklı model tartışmasını ABD dışına taşıyor. Hy4 ağırlıkları yayımlandığında güvenlik raporunun içeriği, bu tartışmanın somut sınavı olacak.

Kimin işine yarar / ne yapabilirsiniz?

• Açık ağırlıklı modelleri kurum içinde çalıştıran ekipler, Hy4 güvenlik raporu yayımlandığında hangi kötüye kullanım testlerinin yapıldığını ve sonuçlarını inceleyip kendi kabul kriterleriyle karşılaştırabilir.
• AI yönetişimi sorumluları, model seçim politikasına "çift kullanım riski" değerlendirmesini (siber ve biyoloji) ayrı bir madde olarak ekleyebilir.
• Model ağırlıkları yalnızca üreticinin resmî kanallarından indirilmeli; kopya depolardaki "sızdırılmış" sürümlere itibar edilmemeli.