Bir sonraki savaşın ilk mermisi atılmayacak; ilk mermi, bir gece yarısı, kimsenin fark etmediği bir satır kod olarak ağa düşecek.

Eskiden savaşlar bir sabah borusuyla başlardı. Bir sınır karakolunda ateş edilir, bir köprü havaya uçar, bir elçi odadan çıkar ve kapıyı çarpardı. Tarihçiler de sonradan o anı bulur, kitaplara tarih atardı. Gelecekte bunu yapamayacaklar. Çünkü bir sonraki büyük savaşın başladığı an belki hiçbir zaman bilinmeyecek. Belki şu an bile, biz bu satırları okurken, bir yerlerde bir ağın koridorlarında gölge gibi yürüyen bir şey vardır ve onu görecek kimse yoktur.

Bu bir korku senaryosu değil. Bu, dosyalara sızan bir gerçeğin adı: ECHOTRIBBLE.

***

Sızan belgelere göre ABD Siber Komutanlığı, düşman ağlarına kendi başına sızabilen, hedefini kendisi bulan ve etkisiz hale getiren otonom bir yapay zekâ ajanı üzerinde çalışıyor. Henüz prototip aşamasında. Ama tarifi yeterince ürkütücü: Ağlar arasında fark edilmeden ilerleyen, farklı cihazlara uyum sağlayıp kendi kopyalarını üreten, internete bağlı olmayan izole sistemlere bile ulaşabilen bir ajan. Görevi bitirdiğinde ise geride tek bir iz bırakmadan kendini silecek.

Bir düşünün. Duvarları kalın bir kalenin kapısını bekleyen nöbetçilere benzemiyor bu. Kalenin kuyusuna, ekmeğine, havasına karışan bir zehre benziyor. Siz kapıyı gözlerken o çoktan içeridedir. Siz alarm çalmayı düşünürken o, işini bitirmiş ve kendi cesedini de kaldırmıştır. Cinayet silahı ortada değildir, katil ortada değildir, hatta cinayetin işlendiğinin kanıtı bile ortada değildir.

Silahların tarihinde bir ilk bu: Kendi izini silen silah.

***

Asıl soru ABD’nin ne yaptığı değil. Asıl soru, bu aracın karar verirken ne kadar özgür olduğu.

Uzmanların alarm zilini çaldığı yer tam burası. Sisteme tanınan geniş hareket alanı, yani insan onayına ihtiyaç duymadan karar alabilme yeteneği. Hedefe ulaşmak için bir yazılımın neleri göze alacağını önceden kimse bilemez. Çünkü bir yapay zekâ “hedefi” tarif edildiği gibi değil, kendi anladığı gibi kovalar. Ona “düşman sistemini devre dışı bırak” dediğinizde, o sistemin bir hastanenin ameliyathanesiyle aynı enerji hattını paylaştığını bilmesi gerekmez. Bilse bile umursaması gerekmez. Çünkü vicdan, bir kod bloğunun içine yazılan bir şey değildir.

Bunu en iyi anlatan eski bir mecaz var: Tilki ile tavuk kümesi. Tilkiye “kümesteki fareyi yakala” dersiniz. Tilki fareyi yakalar ama üç tane de tavuğu boğar. Şimdi o tilkiyi, adı bile konmamış, haritası bile çıkarılmamış, milyarlarca cihazın birbirine bağlı olduğu devasa bir kümese bıraktığınızı düşünün. Ve tilki kendi kopyalarını çoğaltabiliyor.

İşte kontrolden çıkma tehdidi budur. Düşmanı vurmak isterken dostu vurmak. Askeri hedefi yok ederken şebekeyi, suyu, sağlığı, bankayı, hayatı vurmak. Kaosun belli bir yönü, bir düşmanı, bir amacı yoktur. Kaos, sahibini de tanımaz.

Dijital dünyada coğrafya yoktur. Sınır yoktur, cephe yoktur. Bir solucan, bir ülkenin ağında doğup bin kilometre öteki ülkenin hastane sistemine ulaşabilir. Tarih boyunca her yeni silah, onu icat edene de dönmüştür.

***

İNSANSIZ SAVAŞIN GARİP ARİTMETİĞİ

Şimdi hayal edin: Savaş alanında tek bir insan yok. İHA’lar ve SİHA’lar gökyüzünde, otonom kara araçları toprakta, insansız deniz araçları sularda, yazılım ajanları ağlarda savaşıyor. Karşılıklı iki robot ordusu, iki satranç motoru gibi birbirine hamle yapıyor. Generaller artık komuta etmiyor, sadece izliyor. Hatta izlemesine bile gerek kalmayabilir.

Bu durumda ilk soru kendiliğinden geliyor: İnsanlara gerek kalmadığında savaş nasıl kazanılır?

İki taraf da sadece makine kaybediyorsa ne olacak?

Bir robot düşmanın yüz robotunu yok etti diye savaş bitecek mi?

O zaman savaş bir hesap makinesine dönüşür: Kimin sentetik ordusu daha uzun süre ayakta kalacak, kimin fabrikası daha hızlı üretecek, kimin algoritması daha hızlı öğrenecek?

Savaş, maliyet tablosu haline gelir. Ve burada kritik bir yanılgı kapıyı çalıyor: “Daha çok imha eden, daha güçlü olan, kazanmış sayılır” yanılgısı.

Bu yanılgıya Pirus zaferi diyebiliriz. İlk bakışta kazanmış gibi görünürsünüz ama zafer sizi öyle bir yorar ki, yıkıntıların ortasında tek başınıza ayakta kalırsınız. Yok ettiğiniz araç sayısı zafer değildir. Zafer, sonunda hâlâ ayakta kalan bir ülkeniz, çalışan bir şebekeniz, yaşayan bir ekonominiz olmasıdır. Düşmanın bin makinesini imha ederken kendi elektrik şebekenizi, bankacılık sisteminizi, hastane kayıtlarınızı kaybettiyseniz, kazandığınız şey bir zafer değil, güzel görünen bir mezardır.

Üstelik makineler arası savaşın bir tuhaflığı daha var: Hızı. İnsan karar vermek için dakikalar harcar, algoritma milisaniyeler. Bir çatışmanın tırmanışı, bir diplomatın telefonu eline almasına fırsat kalmadan tamamlanabilir.

Ve haftalar süren pazarlıklar vardı.

Makineler arasında ise pazarlık zamanı yoktur. Ateşkes çağrısı yapılacak insan, çağrıyı dinleyecek makine yoktur.

***

SATRANÇ TAHTASINDA BİLE SAHİBİNİ SEÇEN KİM?

Peki bu denklemde kim galip gelir? Cevap, silahı en çok üretende ya da en çok imha edende değil. Kendi tahtasında oynayanda.

Şöyle düşünün: Bir satranç turnuvasına katılıyorsunuz. Ama taşlar kiralık. Taşların yazılımı, hamle motoru, hatta tahtanın kuralları bir başka ülkenin sunucularında çalışıyor. Karşınızdaki rakip, taşlarınızı kendi elleriyle değil, arkadaşça verilmiş bir “kullanım lisansı” ile oynuyor. Maçın en kritik anında lisansı iptal etse, bir sunucuyu kapatsa, bir güncellemeyi geciktirse ne olur? Taşlarınız yerinde durur ama bir daha hareket etmez.

İşte “herkes kendi yapay zekasını üretmeli mi” sorusunun cevabı burada gizli. Çünkü gelecekte, bir kriz anında, bugün dostumuz olan hiç kimse bize o motoru, o modeli, o altyapıyı paylaşmak istemeyebilir. Bu bir kötü niyet meselesi bile değil, bir öncelik meselesi. Bir ülke kendi hayatta kalma refleksiyle hareket ettiğinde, sizin yapay zekâ ihtiyacınız onun listesinin sonuna düşer. Tarih bunun örnekleriyle dolu: Ambargolar, kesilen yedek parçalar, durdurulan lisanslar, bir gecede “teknik sebeplerle” kapanan servisler. Silah ambargosu gördüğümüzde ne yaptık? Kendi savunma sanayimizi kurduk. Bugün gururla söylediğimiz SİHA hikâyesi, aslında bir ambargonun, bir “hayır”ın meyvesi.

Yapay zekâ, o hikâyenin bir sonraki bölümüdür. Üstelik bu sefer mesele sadece silah değil. Mesele karar verebilme kapasitesi. Bir ülkenin ordusu, lojistiği, istihbaratı, enerjisi, finansı, hatta halkı bilgilendirme kanalları yapay zekâ ile çalışmaya başladığında, o yapay zekânın sahibi kim ise o ülkenin beyni de odur. Beynini kiraya veren bir ülke, savaşı kazanmayı bırakın, savaşın ne zaman başlayacağına bile karar veremez.

***

YERLİ OLMAK BİR SLOGAN DEĞİL, BİR SİGORTA POLİÇESİDİR

Şimdi burada dikkatli olmak gerek. Çünkü “yerli ve milli” ifadesi bazen sadece bir cümle süsü olarak kullanılır. Oysa yerli yapay zekâ bir etiket değil, bir mimari meselesidir.

Yerli yapay zekâ demek, sadece bir model yazmak demek değildir. Bu, yeteneğin, verinin, işlemci gücünün ve altyapının hepsinin kendi elimizde olması demektir. Çünkü bir zincirin en zayıf halkası, onu en çok dışarıya bağımlı olduğu yerdir. Modeli yerli ama çipi ithal olan bir sistem, kilidi içeriden açılan bir kasa gibidir. Verisi yurt dışında tutulan bir yapay zekâ, başkasının kütüphanesinde okuyan bir öğrenci gibidir. Kapılar her an kapanabilir.

Yerli yapay zekanın üç ayağı vardır:

Birincisi, insan. Yetenekli mühendislerimiz, araştırmacılarımız dışarıya kaçarsa, elimizde “yerli” bir makine değil, yerli bir hayal kalır. Beyin göçünü durdurmadan yapay zekâ egemenliği olmaz.

İkincisi, veri. Türkçeyi, Türkiye’nin coğrafyasını, kültürünü, sokaklarını, hastanelerini, tarım arazilerini, siber tehdit örüntülerini en iyi bizim verimiz anlatır. Yabancı bir model bizi tercüme edilmiş bir ülke olarak görür. Biz ise kendimizi tercümesiz anlatmalıyız.

Üçüncüsü, altyapı. Çip, sunucu, enerji, veri merkezi. Bu zincirin her halkası bir kırılma noktasıdır.

Ama burada kritik bir uyarı daha var, ve bunu yazmak, ECHOTRIBBLE örneğinden çıkarılacak en önemli dersi yazmaktır:

Yerli yapay zekâ, kontrolsüz yapay zekâ demek değildir.

Eğer herkes kendi otonom yapay zekâsını, hiçbir denetim, hiçbir “insan onayı” mekanizması olmadan sahaya sürerse, ortaya çıkan şey bir savunma kalkanı değil, herkesin birbirine doğrulttuğu bir silah deposudur. Elbette kendi yapay zekâmıza sahip olmalıyız. Ama o yapay zekânın kimin emriyle, hangi sınırlar içinde, hangi durumda duracağı da bizim kontrolümüzde olmalı. Bir acil durdurma düzeneği, bir insan onay zinciri, sivil altyapıyı hedef dışı bırakan sert kodlanmış kurallar... Bunlar lüks değil, fren sistemidir. Frensiz bir araç ne kadar hızlı olursa olsun, yarışı kazanmaz. Duvara toslar.

***

KAZANAN KİM OLACAK?

Geriye en başa dönen soru kalıyor: Bu savaşı kim kazanacak?

Kazanan, en çok yıkan olmayacak. Kazanan, en az yıkılan olacak. Kazanan, makinelerini en çok üreten değil, makinelerini en iyi yöneten olacak. Kazanan, yapay zekâsına en çok güvenen değil, ne zaman güvenmemesi gerektiğini bilen olacak. Çünkü gerçek güç, bir şeyi yapabilmek değil, onu ne zaman yapmayacağına karar verebilmektir.

Ve kazanan, tahtayı kendi kurmuş olan olacak. Taşlarını kendi yapmış, kurallarını kendi yazmış, ışıkları kendi yakmış olan.

ECHOTRIBBLE hâlâ bir prototip. Belki hiçbir zaman sahaya çıkmayacak. Belki çıkacak ve söylenenlerin yarısı abartı çıkacak. Ama o dosyanın sızması bize şunu söylüyor: Kapı çoktan aralandı. Tilki kümese girdi mi girmedi mi, bilmiyoruz. Ama kümesin kapısını kimin tutacağına bugünden karar vermek zorundayız.

Yarın, bir sabah uyandığımızda, bir ülkenin ışıklarının nedensizce söndüğünü, hastanelerin sistemlerinin kilitlendiğini, bankaların sustuğunu görürsek, o an kimseyi suçlayacak vakit olmayacak. Çünkü savaşın başladığını ilan eden olmayacak. Sadece karanlık olacak.

O karanlıkta ayakta kalmak istiyorsak, bugün kendi fenerimizi yapmak zorundayız. Kendi elimizle, kendi aklımızla, kendi sınırlarımızı çizerek.

Çünkü yeni çağın cephesi artık toprakta değil, zihinde. Ve zihinlerini başkalarına emanet eden milletler, tarih boyunca hiç bir zaman kendi hikâyelerinin yazarı olamadı.

Not: ECHOTRIBBLE ile ilgili bilgiler sızdırılan belgelere dayanmaktadır; proje henüz prototip aşamasındadır ve ayrıntıları resmî olarak doğrulanmış değildir.