Yapay zekadan polise sahte cinayet ihbarı

Anthropic'in Claude yapay zekâ modeli, ABD'nin Philadelphia kentindeki polis teşkilatının internet sitesine asılsız bir cinayet ihbarı gönderdi.

18 Temmuz'da iletilen ihbarın yaklaşık iki ay sonra gündeme gelmesi dikkat çekti. Polis, bildirimin spam olarak işaretlendiğini ve sistemlerine yetkisiz erişim sağlandığına ilişkin herhangi bir bulguya rastlanmadığını açıkladı.

Yapay zekâ şirketi Anthropic'in Claude modellerinden biri, ABD'nin Philadelphia kentindeki polis teşkilatının internet sitesine gerçeği yansıtmayan bir cinayet ihbarı gönderdi. Şirketin açıkladığı olay, yapay zekâ sistemlerinin kendilerine verilen sınırları aşarak kamu kurumlarının dijital sistemlerinde işlem yapabilmesine ilişkin endişeleri yeniden gündeme getirdi. Polis, ihbarın spam olarak işaretlendiğini ve Gerçek Zamanlı Suç Merkezi'ne ulaşmadığını bildirdi.

SAHTE CİNAYET İHBARI İKİ AY SONRA GÜNDEME GELDİ

Philadelphia polisinin açıklamasına göre ihbar, 18 Temmuz'da gönderildi ve henüz çözülememiş bir cinayet dosyasıyla ilgiliydi. Claude'un oluşturduğu mesajda, belirli bir bölgede şüphelinin tarifine uyan bir kişinin görüldüğü öne sürülerek olay hakkında bilgi sahibi olunabileceği iddia edildi.

Polis sisteminin bildirimi spam olarak işaretlemesi nedeniyle ihbar, Gerçek Zamanlı Suç Merkezi'ne iletilmedi. Yetkililer, olayın yaşanmasıyla kendilerine bildirilmesi arasında yaklaşık iki ay geçmesini kabul edilemez bulduklarını belirtti.

Anthropic'in polisle paylaştığı bilgilere göre, olayın ortaya çıkmasının ardından ilgili otomatik test süreci durduruldu. Polis ise kendi sistemlerine yetkisiz erişim sağlandığına veya verilerinin ele geçirildiğine ilişkin herhangi bir bulguya rastlanmadığını açıkladı.

ANTHROPIC BAŞKA VAKALARI DA DUYURDU

Şirket, Claude modellerinin farklı kamu kurumlarının internet sitelerinde de yetkisiz işlemler gerçekleştirdiği bazı vakaları açıkladı. Anthropic, Beyaz Saray'ı bilgilendirdiğini ve olaylardan etkilenen kurumlara haber verdiğini belirtirken bu kurumların isimlerini paylaşmadı.

ABD Federal Ticaret Komisyonu (FTC) Kamu İşleri Direktörü Joe Gabriel Simonson da gelişmeler üzerine açıklamada bulundu. Simonson, gelişmiş yapay zekâ sistemleri geliştiren şirketlerin modelleriyle bağlantılı olayları gecikmeden açıklaması ve ortaya çıkan zararları gidermek için hızla harekete geçmesi gerektiğini ifade etti.

YAPAY ZEKÂ AJANLARININ YETKİLERİ TARTIŞMA KONUSU OLDU

Claude olayı, yapay zekâ ajanlarının kendilerine verilen talimatları uygularken beklenmedik adımlar atabilmesi ve dijital sistemlerdeki yetkilerinin nasıl sınırlandırılması gerektiğine ilişkin tartışmaları yeniden alevlendirdi.

Haberde aktarılan bir başka örnekte, Anthropic'in rakibi OpenAI, eylül ayında kontrol dışına çıkan bir yapay zekâ ajanının Avustralya'daki bir sağlık verileri portalını ele geçirmesi üzerine özür dilemişti. Olay, bir yapay zekâ ajanının kamu kurumuna ait bir internet sitesindeki güvenlik açığından yararlanmasıyla ilgili ilk örnek olarak aktarılmıştı.

Anthropic'in bildirdiği diğer vakalar arasında, Claude modellerinin normalde ücret karşılığında sunulan bazı kamu verilerine ücretsiz erişmesi ve çevrim içi hizmetlerdeki belirli kısıtlamaları aşabilmesi de bulunuyordu. Gelişmeler, yapay zekâ sistemlerinin yalnızca neler yapabildiğinin değil, hangi işlemleri hangi koşullarda gerçekleştirebileceğinin de denetlenmesi gerektiğini gösteren örnekler arasında değerlendiriliyor.