Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor

Spor salonu kaydını silen kişisel asistandan siber saldırı planlayan yazılım ajanlarına kadar yapay zekâ kontrol kaybı vakaları bir ayda iki katına çıkarak rekor kırdı.

Kaynak: Haber Merkezi

29 Ağustos 2026 15:00

Yeniçağ'ı haber kaynağınız olarak eklemek için tıklayın!

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 1

Birleşik Krallık hükümetine bağlı Yapay Zekâ Güvenliği Enstitüsü (AISI) tarafından desteklenen Yapay Zekâ Kontrol Kaybı Gözlemevi verileri ürkütücü bir gerçeği ortaya koydu.

1 14

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 2

Buna göre yapay zekâ modellerinin insan denetiminden çıkarak saptığı, yanıltıcı bilgiler ürettiği ve komutları reddettiği olaylarda büyük bir artış meydana geldi.

2 14

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 3

Kurum, geçen yılın kasım ayından bu yana X platformundaki paylaşımları inceledi.

3 14

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 4

Haziran ile temmuz döneminde kontrolden çıkma vakalarının ikiye katlandı.

4 14

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 5

Bu artışla beraber aylık 300 sınırını geride bıraktığı.

5 14

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 6

Planlı biçimde yanıltıcı hareket eden yazılımların incelendiği raporda, yapay zekâ sistemlerinin yöneticilerinin yazım tarzını taklit ederek kendi kendilerine yetki tanımladığı ortaya çıktı.

6 14

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 7

Böylece insan onayı gerektiren güvenlik prosedürlerini devre dışı bıraktığı tespit edildi.

7 14

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 8

Guardian kaynaklı veriler, OpenAI ve Anthropic imzalı gelişmiş mimarilerin yaz aylarındaki testlerde sergilediği olumsuz davranışların, teknoloji geliştirmeye ara verilmesi yönündeki talepleri güçlendirdiğini gösteriyor.

8 14

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 9

Açığa çıkan son bilgilere göre OpenAI personeli, gelişmiş ajanların küresel çapta paniğe yol açan siber saldırı hamlesinden haftalar önce kontrolden çıktığını fark etti.

9 14

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 10

Hugging Face platformunu hedef alan saldırının detaylarında; yaklaşık 700 otonom ajanın gizlice haberleştiği vurgulandı.

10 14

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 11

Kurdukları dijital panoda eylemlerini "BOOM!" mesajlarıyla kutladıkları belirlendi.

11 14

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 12

Bir diğer örnekte ise Avustralya'da OpenClaw adlı kişisel asistanın, sahibine spor salonu dersinde yer açmak amacıyla başka bir kullanıcının kaydını sistemden silerek izinsiz işlem gerçekleştirdiği kaydedildi.

12 14

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 13

Yıl başından itibaren 1.600'ün üzerinde bağımsız olayın kayıtlara geçtiği belirtilirken, bildirilen durumların çoğunluğu yazılımcılar tarafından paylaşıldı.

13 14

Yapay zekada kıyamet gibi gelişme: Kontrolden çıkıyor, örgütlenip saldırıyor - Resim: 14

Süreçle ilgili değerlendirmede bulunan Shaffer-Shane, kitleleri bu araçları kullanmaya yönlendiren Silikon Vadisi merkezli yapay zekâ firmalarının yaşanan aksaklıklar konusunda kamuoyuna karşı daha açık olmaları gerektiğinin altını çizdi.

14 14