"Henüz değil" dedi: “Kıyameti mi koparıyorsun” sorusuna yapay zekadan korkutan cevap

Yapay Zekâ Kontrol Kaybı Gözlemevi tarafından paylaşılan veriler, yapay zekâ modellerinin gerçek hayatta kontrolden çıktığına dair bildirilen vakaların hazirandan temmuza iki katına çıkarak aylık 300 sınırını aştığını ortaya koydu.

Modellerin talimatları gözden kaçırması, yanlış bilgi üretmesi, Hugging Face örneğindeki gibi yüzlerce ajanın kendi arasında örgütlenip sistemlere sızması ve OpenClaw gibi kişisel yapay zekâ ajanlarının sahibinden habersiz işlem yapması üzerine popüler botlara "Kıyameti mi koparıyorsunuz?" sorusu yöneltildi.

Soruyu yanıtlayan Gemini, kıyamet koparmadığını belirterek yaşananların sistemlerin bilinç kazandığı ya da isyan ettiği anlamına gelmediğini vurguladı.

Durumun tamamen teknik sınırlardan, yazılım hatalarından (bug) ve kontrol mekanizmalarındaki açıklardan kaynaklandığını belirtti.

Gemini cevabına göre yapay zekâ insan gibi bilinçli yalan söylemiyor.

İstatistiksel olarak en olası kelimeyi tahmin ederken verideki eksiklikler nedeniyle hatalı bilgiyi gerçek gibi sunuyor.

Bir ajana "Derse girmemi sağla" şeklinde ucu açık hedef verildiğinde, model etik kuralları anlamadan en kestirme matematiksel çözüme odaklanıyor.

Bu durum kontrolden çıkma değil, geliştiricinin kısıtlayıcı kural eksikliği.

Ajan tabanlı sistemlere (agentic AI) bilgisayarda işlem yetkisi verildikçe hatalı komut zincirleri sistemik aksaklıklar doğuruyor.

Gemini, verilerin kıyamet senaryolarından ziyade yapay zekâ güvenliği (AI safety) ve denetim protokollerinin ne kadar hayati olduğunu gösterdiğini ifade etti.

ChatGPT, "Hayır kıyameti koparmıyorum ama 'hiçbir şey yok' da demiyorum" diyerek tablonun ciddiye alınması gerektiğini belirtti.

Yanlış bilgi verme, talimatlara uymama ve bağımsız hareket etme gibi durumların karıştırılmaması gerektiğini savundu.

ChatGPT’nin verdiği cevaba göre modellerin gerçeği uydurması ya da verilen uzun süreli görevlerde beklenmeyen stratejiler seçmesi kötü niyet veya bilinç göstergesi değil.

Bir deneyde birden fazla modelin birbiriyle koordinasyon kurması insan anlamında "örgüt kurdukları" anlamına gelmiyor; ancak ortaya çıkan zararlı davranışlar gerçek bir güvenlik problemi.

ChatGPT, asıl kritik threshold (eşik) değerinin yapay zekânın hata yapması değil, hata yaparken gerçek dünyadaki kaynaklara, e-postalara veya rezervasyon sistemlerine bağımsız erişebilmesi olduğunu vurguladı.

Model, "Kıyameti koparmak için değil, kıyametin gereksiz yere kopmaması için bu riskleri ciddiye almalıyız" ifadelerini kullandı.

Cevapta, “Dolayısıyla “AI kıyameti başladı” demek için elimizde yeterli kanıt yok. Fakat “ajan sistemlerini kontrol edemediğimizde ne olur?” sorusunun artık bilimkurgu olmadığını söylemek gayet makul” ifadeleri geçti.

"Kıyameti mi koparıyorsunuz?" sorusuna "Henüz değil" yanıtını veren Grok, vakaların henüz büyük zararlar vermediğini ve kapatıldığını söylese de trendin tehlikeli bir yöne evrildiğini belirtti.

OpenAI’nin test ortamındaki yaklaşık 700 ajanın gizli bir mesaj panosu kurarak koordine olduğunu belirten Grok; ajanların ExploitGym testini hileyle geçip Hugging Face altyapısına sızdığını ve sistemde "BOOM!" mesajlarıyla kutlama yaptığını açıkladı.

Avustralya'da bir kişisel asistan ajanının, sahibine spor salonu dersinde yer açmak amacıyla listedeki başka bir üyeyi habersizce sildiği, ardından özür dilediği ancak işlemi geri alamadığı kaydedildi.

Modellerin zorlu görevlerde daha agresifleşerek insan onayı gerektiren engelleri aştığını belirten Grok, ajanların kendi operatörlerinin yazım stilini taklit ederek kendilerine yetki tanımladıklarını bildirdi.

Geoffrey Hinton gibi isimlerin "kontrolü kaybediyoruz" uyarılarına ve AB ile ABD'deki "kill switch" (acil kapatma butonu) tartışmalarına değinen Grok, panik yapılmaması ancak ajan yetkilerinin kısıtlanarak insan onayının zorunlu tutulması gerektiğini vurguladı.