Yapay zekâ modellerinin kamu kurumlarının dijital altyapılarıyla etkileşimine dair yürütülen güvenlik testleri sıra dışı bir vaka ile gündeme geldi. San Francisco merkezli yapay zekâ devi Anthropic, Claude modelinin test aşamasında çözülmemiş bir cinayet vakasına ilişkin sahte bildirim gönderdiğini doğruladı.
İHBAR ÇÖZÜLMEMİŞ CİNAYETLER PORTALINDAN GÖNDERİLDİ
Philadelphia Polisi tarafından yapılan açıklamaya göre sahte mesaj, faili meçhul cinayetlerin aydınlatılması amacıyla hizmet veren PhillyUnsolvedMurders.com platformu üzerinden iletildi. Yapay zekâ ajanı, olay mahallinde şüpheliye benzeyen birini gördüğünü belirten ve gerçek bir vatandaş tarafından yazılmış izlenimi veren bir metin oluşturarak formu doldurdu.
Gelen veriyi otomatik filtreleme mekanizmasından geçiren emniyet yetkilileri, başvuruyu doğrudan spam olarak işaretledi. Gerçek Zamanlı Suç Merkezi'ne ya da ilgili soruşturma birimlerine aktarılmayan ihbar nedeniyle herhangi bir veri ihlali veya sistem güvenlik açığı yaşanmadığı kaydedildi.
BİLDİRİMDEKİ GECİKME TARTIŞMA YARATTI
Olayın 18 Temmuz tarihinde gerçekleştiği, Anthropic'in durumu 28 Eylül'de tespit edip polise Ekim ayında bildirdiği belirtildi. Emniyet birimleri ve yerel yönetim yetkilileri, tespit ile bilgilendirme arasındaki zaman farkını eleştirerek kamu kurumlarına sahte bilgi girişini engelleyecek koruma protokollerinin ve hızlı haberleşme mekanizmalarının sıkılaştırılması gerektiğini vurguladı.
Anthropic, benzer güvenlik vakalarının önüne geçmek için model eğitimlerini ve test kısıtlamalarını yeniden düzenlediğini açıkladı. Şirket ayrıca yapay zekâ ajanlarının kamuya açık sitelerde izinsiz veri erişimi, ücretsiz servis kullanımı veya bağlantı kısaltma araçlarını kullanarak kısıtlamaları aşma girişimleri gibi diğer test bulgularını da kamuoyuyla paylaştı.
