Reklam Yapay Zekâlı SOC AnalistiOrnis Guard Tehditleri anında anlayan bir kalkan.SIEM olaylarını yorumlar, yeni sorgular üretir; yerel LLM ile veri kurum dışına taşınmaz.Detaylı bilgi ›Ornis ürün ailesi · İşNetReklam Kubernetes PaaS · GPU · LLMaaSGao Kaptan GPU gücüne ve LLM servislerine saniyeler içinde erişin.Pod'lar saniyeler içinde; NVIDIA GPU saatlik, LLM token bazlı. OpenAI uyumlu API, air-gapped kurulum.Detaylı bilgi ›Bulut çözümleri · İşNet
15 Kasım 2026 PazarRSSMarkaHakkımızda
SON DAKİKA
00:00 Yıllık 75 bin dolarlık AI okulu Alpha School'un kendi verisi: öğrencilerin yalnızca yüzde 42'si 'iki kat hızlı öğrenme' hedefini tutturdu00:00 Microsoft 365 kesintisi alarm e-postasını durdurdu: Phantasialand otel havuzunda fazla klor fark edilmedi, 15 kişi yaralandı23:00 Google DeepMind Gemini Robotics 2.5'i tanıttı: robot hareket modeli yalnızca iş ortaklarına açık, yanında açık bir jailbreak güvenlik testi de var23:00 World Triathlon veri ihlalini doğruladı: Metabase açığı üzerinden veritabanı tabloları kopyalandı, sporcuların sağlık bilgileri de etkilendi22:00 NYT: Ticaret Bakanı Lutnick, yurt dışı veri merkezlerine yönelik AI çip kuralının daraltılmasını istedi; kural Cantor'un iş alanıyla örtüşüyor22:00 Amadeus ihlali Karayipler'e uzandı: Caribbean Airlines yolcuların rezervasyon bilgilerine yetkisiz erişildiğini doğruladı21:00 Güney Koreli kripto borsası Coinone veri ihlali bildirdi: destek yüklenicisi MetaM'ın sunucularından müşteri kayıtlarına erişildi21:00 Pony.ai finans direktörü: Çinli otonom sürüş şirketleri Nvidia'ya karşı yıllardır Plan B çalışıyor, yerli çipler henüz maliyet açısından en iyi seçenek değil20:00 ABD Hazine Bakanı Bessent'ten Nvidia'ya 10 gün: yönetim kurulu ihracat uyumu sorularını yanıtlamalı, yeni CEO dışarıdan gelmeli20:00 Güney Kore Ulusal Güvenlik Ofisi, AI destekli saldırılara karşı kamu, özel sektör ve ordudaki BT varlıklarını denetliyor; SBOM geçişi hızlanacak00:00 Yıllık 75 bin dolarlık AI okulu Alpha School'un kendi verisi: öğrencilerin yalnızca yüzde 42'si 'iki kat hızlı öğrenme' hedefini tutturdu00:00 Microsoft 365 kesintisi alarm e-postasını durdurdu: Phantasialand otel havuzunda fazla klor fark edilmedi, 15 kişi yaralandı23:00 Google DeepMind Gemini Robotics 2.5'i tanıttı: robot hareket modeli yalnızca iş ortaklarına açık, yanında açık bir jailbreak güvenlik testi de var23:00 World Triathlon veri ihlalini doğruladı: Metabase açığı üzerinden veritabanı tabloları kopyalandı, sporcuların sağlık bilgileri de etkilendi22:00 NYT: Ticaret Bakanı Lutnick, yurt dışı veri merkezlerine yönelik AI çip kuralının daraltılmasını istedi; kural Cantor'un iş alanıyla örtüşüyor22:00 Amadeus ihlali Karayipler'e uzandı: Caribbean Airlines yolcuların rezervasyon bilgilerine yetkisiz erişildiğini doğruladı21:00 Güney Koreli kripto borsası Coinone veri ihlali bildirdi: destek yüklenicisi MetaM'ın sunucularından müşteri kayıtlarına erişildi21:00 Pony.ai finans direktörü: Çinli otonom sürüş şirketleri Nvidia'ya karşı yıllardır Plan B çalışıyor, yerli çipler henüz maliyet açısından en iyi seçenek değil20:00 ABD Hazine Bakanı Bessent'ten Nvidia'ya 10 gün: yönetim kurulu ihracat uyumu sorularını yanıtlamalı, yeni CEO dışarıdan gelmeli20:00 Güney Kore Ulusal Güvenlik Ofisi, AI destekli saldırılara karşı kamu, özel sektör ve ordudaki BT varlıklarını denetliyor; SBOM geçişi hızlanacak
Reklam Gao Kaptan: GPU gücüne ve LLM servislerine saniyeler içinde erişin.Pod'lar saniyeler içinde; NVIDIA GPU saatlik, LLM token bazlı. OpenAI uyumlu API, air-gapped kurulum.Detaylı bilgi ›İşNet

Altman'ı görevden alan eski OpenAI yönetim kurulu üyesi Helen Toner: AI güvenliği tek bir kişiye güvenmeye dayanıyorsa işimiz zor

Georgetown CSET'in başındaki Helen Toner, The Verge'ün Decoder podcast'inde alignment'ın tek bir sorun olmadığını, kullanıcının istediğini yaptırma hedefinin bile çözüm yolunda görünmediğini ve savunma tarafındaki AI agent'ların saldırgandan çok daha güçlü güvence gerektirdiğini söyledi.

SiberMagazin Haber Merkezi2 dk okuma
Altman'ı görevden alan eski OpenAI yönetim kurulu üyesi Helen Toner: AI güvenliği tek bir kişiye güvenmeye dayanıyorsa işimiz zor

2023'te Sam Altman'ı görevden alma oyu veren dört OpenAI yönetim kurulu üyesinden biri olan Helen Toner, The Verge'ün Decoder podcast'ine konuştu. Toner bugün Georgetown Üniversitesi'ndeki Center for Security and Emerging Technology'nin (CSET) icra direktörü. Röportajın ana fikri başlıkta: AI güvenliği planı herhangi bir kişinin güvenilir olmasına dayanıyorsa "işimiz bitik". Verge'ün notuna göre görüşme, Nvidia'nın Jensen Huang soruşturması başlamadan önce kaydedildi.

Alignment tek bir sorun değil

Toner'a göre "alignment" kelimesi birbirinden çok farklı üç hedefi kapsıyor: şirketin koyduğu guardrail'lerin işe yaraması (biyolojik silah ya da siber saldırı yardımını reddetmek), modelin kullanıcının istediğini tam olarak yapması ve modelin geniş anlamda "iyi" davranması. Toner en tutarlı hedefin kullanıcının istediğini yaptırmak olduğunu, ama bunun bile şu an çözülme yolunda görünmediğini söylüyor. Alignment'ın bir kez "çözülecek" bir şey olduğundan da emin değil.

Siberde güven dengesizliği

Konuşmanın güvenlik ekiplerini en çok ilgilendiren kısmı agent yetkileri. Toner'a göre saldırgan çok sayıda agent'ı "git, dene" diye salabilir; yanlış davranan agent ona bir şey kaybettirmez. Savunma tarafında ise AI agent'a yazılımı değiştirme ve sistemlere dokunma yetkisi vermek gerekir. Bu yüzden savunmanın çok daha güçlü güvencelere ihtiyacı var. Toner, agent'lara daha fazla otonomi ve yetki verme yönünde güçlü bir teşvik olduğunu, bunun da kendisini tedirgin ettiğini ekliyor.

Neden önemli?

Verge'ün aktardığına göre ABD yönetiminin ileri model laboratuvarlarına yanıtı gönüllü bir uzlaşı oldu ve bu uzlaşı kısmen, OpenAI'da işlemeyen türden yönetim kurulu denetimine dayanıyor. Bu hafta Beyaz Saray görev gücünün AI kaynaklı siber olaylarda şirketlere sorumluluk esnekliği önerisi ve Anthropic'in halka arz takvimi de aynı soruyu gündemde tutuyor: güvenlik taahhütlerini ticari baskıya karşı ne koruyacak?

Kimin işine yarar / ne yapabilirsiniz?

  1. AI agent kullanan güvenlik ve BT ekipleri, agent'a verilen yetkiyi Toner'ın "savunmacı daha güçlü güvence ister" ölçüsüyle gözden geçirebilir: hangi agent neye dokunabiliyor, kim onaylıyor, kayıt tutuluyor mu?
  2. Tedarikçi seçerken "modelimiz align edildi" iddiasında hangi anlamın kastedildiğini sorun: guardrail mi, kullanıcı niyetine uyum mu?
  3. Yönetim kurulları ve uyum ekipleri, AI güvenliğini tek bir yöneticinin sözüne değil, denetlenebilir süreçlere bağlamalı.
Helen TonerOpenAICSETAI güvenliğialignmentAI agentregülasyon

İlgili Haberler

Yapay Zeka

Yıllık 75 bin dolarlık AI okulu Alpha School'un kendi verisi: öğrencilerin yalnızca yüzde 42'si 'iki kat hızlı öğrenme' hedefini tutturdu

Yapay Zeka

Google DeepMind Gemini Robotics 2.5'i tanıttı: robot hareket modeli yalnızca iş ortaklarına açık, yanında açık bir jailbreak güvenlik testi de var

ORTA
Yapay Zeka

AWS Emulator yayında: yerel AWS test ortamının kodunu baştan sona AI agent'lar yazdı, insan review'u yok

ORTA
Yapay Zeka

Michigan Üniversitesi: üretken AI, İngilizce dışındaki dillerde 1,4 ile 180 kat daha fazla enerji harcıyor

ORTA
Yapay Zeka

Anthropic halka arz haftası: fiyat 18 Kasım'da belirlenecek, hisseler 19 Kasım'da Nasdaq'ta "ANT" koduyla işlem görecek

ORTA
Yapay Zeka

Avustralya Merkez Bankası: AI'ın iş piyasasına ilk etkisi gençlerde görülüyor; yazılım ve müşteri hizmetleri gibi alanlarda istihdam zayıflıyor