Kritik iddia: 'Yapay zeka modeli güvenlik açıkları buldu'

ABD merkezli yapay zeka şirketi Anthropic'in geliştirdiği modelin, ABD hükümetinin üst düzey hassas bilgileri içeren bilgisayar sistemlerinde güvenlik açıkları tespit ettiği iddia edildi.

The Associated Press (AP) ajansına konuşan yetkili, yapay zeka şirketi Anthropic ile ABD'deki istihbarat servislerinin işbirliğinde güvenlik testi yürütüldüğünü iddia etti.

İsmi açıklanmayan yetkili, bu testin, "dünyanın kritik öneme sahip yazılımlarını" Anthropic'in geliştirdiği Mythos modelinin "kamu güvenliği, ulusal güvenlik ve ekonomide yol açabileceği ciddi olumsuz etkilerden koruma" amacıyla yapılan denemeler kapsamında yürütüldüğünü söyledi.

Test sırasında Mythos modelinin, ABD hükümetinin üst düzey hassas bilgileri içeren bilgisayar sistemlerinde saatler içinde bazı güvenlik açıkları bulduğunu belirten yetkili, bu tespitin, sisteme eşit sürede sızabilme anlamına gelmediği iddiasında bulundu.

Demokrat Senatör Mark Warner da 11 Haziran'da Senatodaki bir oturumda, bu testlere işaret ederek "Bu araç, neredeyse tüm gizli sistemlerimize girdi. Haftalar değil, saatler içinde." demişti.

ABD yönetimi ise 13 Haziran'da Anthropic'in geliştirdiği "Fable 5" ve "Mythos 5" yapay zeka modellerine "ulusal güvenlik tehdidi" gerekçesiyle yabancı hükümetler, şirketler ve bireylerin erişimini yasaklama kararı almıştı.

Bunun üzerine Anthropic, gelişmiş yapay zeka modellerini tüm kullanıcılar için devre dışı bırakmıştı.