Robotlar İnsanların Ölüm Kararını Verebilir

Bilgisayarların, uzun seneler süresince devam eden çalışmalarla geliştirilen karar verebilme kabiliyetleri oldukça garip boyutlara geldi. Bu sistemler ve karar verme mekanizmaları, aslen hayatımızın her noktasına sirayet etmiş durumda. E-posta hizmeti aldığımız kurumlar, spam e-postaları kendileri belirleyebiliyor. Google Haritalar şeklinde hizmetler, bizim için en iyi rotayı seçebiliyor. Başka pek fazlaca alanda da makinelerin ve suni zekânın kullanımını görüyoruz.

Peki makineler, bir insanı öldürme kararını alabilir mi? Bu mevzu, suni zekâya odaklanan podcast serisi Sleepwalkers’ın sekizinci bölümünün ana konusunu oluşturuyor. Askeri uzmanlar, yeni nesil ölümcül silahların bağımsız ve genel anlamda açık olmayan hareketlerinden çekiniyor.

“Makineler, cenk alanındaki en mühim kararlardan birini alabilir”

New American Securtiy adlı teknoloji ve ulusal güvenlik fikir kuruluşunun yöneticisi Paul Scharre, “Harp alanında en mühim kararlardan kabul edilen kimin yaşayacağı ya da öleceği mevzusunda makinelerin karar verebileceği bir dünyaya gidiyoruz” dedi.

Makinelerin kimi ortadan kaldıracağına kendilerinin karar verebilmesi bizlere şu anda oldukça uzak ve şok edici geliyor olabilir sadece gerçek, kesinlikle daha değişik. İsrail yapımı Harpy adlı drone şu anda Çin, Hindistan ve Cenup Kore’ye satılıyor. Bu vasıta, insanları hedef almıyor sadece öteki makineleri, bilhassa radarları, otomatikman tespit edip hedef alabiliyor.

Gelecekte kendi karar alabilen makinelerin daha yaygın hâle gelmesi planlanıyor. ABD, Çin, Rusya şeklinde ülkeler, gelecekteki askeri stratejilerinde suni zekâya büyük ehemmiyet veriyor. Kısaca suni zekânın elini kana bulaması {hiç de} uzak küçük bir ihtimal değil.

Öte taraftan DARPA’nın başı olan Arati Prabhakar, suni zekânın haiz olduğu kısıtların bilincinde. Mesela bir suni zekâ, almış olduğu kararın arkasında yatan mantığı bir insan şeklinde açıklayamıyor. Testlerde fazlaca başarı göstermiş olan bir görüntü tanıma yazılımı, diş fırçası tutan bebek resmine beyzbol sopası tutan çocuk diyebiliyor.

Prabhakar, bir çok görüntü tanıma algoritmasının oldukça kapalı bulunduğunu söylüyor. Bu da ölümcül silahların teslim edileceği bir sistem için oldukça büyük bir mesele. Bu da hâliyle pek fazlaca suni zekâ uzmanını etik tartışmaların içine sürüklüyor.

Suni zekânın etik tartışmaları:

Suni zekânın iyi mi karar verdiğini tam olarak bilmiyoruz ve suni zekânın kendisi de bunu açıklamakta pek de başarı göstermiş değil. Prabhakar, “Toplumumuzun geleceğini şekillendirebilecek kuvvetli teknolojiler üstünde çalışabilmek şeklinde devasa bir ayrıcalığa sahibiz. Bu da neyin yanlış gidebileceğini sorma sorumluluğu ile geliyor “ ifadelerini kullandı.

Harp, insanlığın buluş etmiş olduğu durumlar içinde muhtemelen en tahmin edilemez, en çirkin, en rahatsız edici ve muhtemelen de en kazançlısı durumunda yer ediniyor. Haliyle mühendisler de suni zekâ askeri sistemlerinde neyin yanlış gidebileceğini değerlendirmeye çalışıyor.

Harp teknolojilerindeki gelişmeler devamlı için insanlığın yolunu değiştirir. En kolay örnekler olan mayınlar ve nükleer silahlar, anlaşmaların şeklini ve karar mekanizmalarını değiştirmiştir. Podcast’te konuşan uzmanlar bu noktadan hareketle risklerin iyi mi azaltılabileceğini düşünmeye çağrı ediyor.