Otonom Araçlar, Çoğunluk İçin Sürücüsünü Öldürebilir mi?
Bir otonom otomobil, çarpışmanın kaçınılmaz olduğu bir durumda yolcularını bir yaya grubunun iyiliği için feda edebilir mi? Yoksa ne olursa olsun kendi yolcusunu mu korumalıdır?
Uzun süredir otomobillerin kendi kendilerine seyahat edebilmesini sağlayacak teknolojiler üstünde emek harcamalar yapılıyor. Her ne kadar Tesla benzer biçimde firmalar bu alanın öncüleri olsa da geleneksel otomobil üreticileri de bu alanda ciddi yatırımlar yapıyor. Gene de otonom araçların önündeki tek mesele teknoloji değil.
Otonom araçların iyi mi karar verecekleri mevzusu epeydir tartışmaların merkezinde içeriyor. Genel anlamda “Birine çarpması gerektiğinde vasıta bebeğe mi, yaşlıya mı çarpar” benzer biçimde tartışmalar bilinse de bir başka mühim açmaz da zihinleri kurcalıyor: Otonom araçlar her durumda yolcusunu mu korur yoksa çoğunluğun iyiliği için yolcusunu feda edebilir mi?
Kimin yaşayacağına iyi mi karar verilir ki?
Gelin bu tartışmalarda kullanılan senaryo üstünden konuşalım. Otonom bir vasıta kendi halinde yolda gidiyor. Bir köşeyi döndüğünde aniden yoldan geçen kalabalık bir grupla karşılaşıyor. Vasıta bu durumda yolcusunu mu korumalı, yoksa ölüm ya da yaralanma sayısını en düşük seviyede tutmak için duvara mı çarpmalı? Peki ya aracın yolcusu siz olsaydınız ne derdiniz?
Tolouse İşletme Okulu’ndan Jean-Francois Bonnefon bu konudaki etik ve etik tartışmalarına kendi makalesi ile dahil olmuş bir araştırmacıdır. Bu çalışmada otonom araçlar arttıkça otonom araçların bu tür kararlar vermek zorunda kalma ihtimalleri de bu şekilde kararları alma sıklıkları da artacaktır. Araçların bu durumlarda vereceği kararlar da araçların kullanımının artması mevzusunda mühim rol oynayacaktır. Araştırmacılara nazaran bu mevzuda otonom otomobillerin iyi mi hareket edeceğini belirlemek için kaide yapıcılar ve üreticiler, psikologların uygulamalı etik emekleri yapmasının önünü açması gerekiyor.
İnsanların sonucu bile devamlı aynı değil.
Araştırmada Amazon’un çevrim içi kamusal fonlama/araştırma aracı Mechanical Turk’te meydana getirilen çalışmanın neticeleri ele alındı. Burada katılımcılara değişik senaryolar sunuldu. Bu senaryolardan biri de yukarıda bahsettiğimiz senaryoydu. Ek olarak vasıta içindeki yolcu sayısının ya da yolcu yaşlarının değişik olduğu benzer senaryolar da katılımcılara sunulmuştu.
Sonuçlar ise o kadar da şaşırtıcı değildi: genel olarak baktığımızda insanoğlu başkalarının yaşamını kurtarmak için sürücünün hayatından vazgeçmeye eğilimliydi sadece burada küçük bir detay dikkat çekiyordu. İnsanlar bir tek kendileri sürücü değillerse bu tercihte bulunuyorlardı. Bir öteki öne çıkan nokta ise araştırmaya katılanların %75’ine nazaran araçların yoldan çıkması ahlaken doğru olsa da aynı iştirakçilerin bir tek %65’i araçların hakkaten de bu şekilde programlanması icap ettiğini düşünüyor. Genel olarak bakıldığında ise katılımcılar otonom araçların ihtimaller içinde bir kazada ölüm oranını düşürecek şekilde hareket etmesi gerektiği görüşünün hakim bulunduğunu söylemek mümkün.
Bir de otonom vasıta paradoksu bulunuyor.
MIT Technology Review benzer biçimde kaynaklara baktığımızda ise otonom otomobillerin insan sürücülerden daha güvenli olduğu görüşünün baskın bulunduğunu görüyoruz. Bu da bizi yeni bir açmaza götürüyor. Sürücüsünü tehlikeye atabildiği için daha azca insanoğlunun akıllı otomobilleri tercih etmesi, daha fazlaca insanoğlunun trafikte kaza yapmasına niçin oluyor.
Otonom araçların toplu taşımanın geleceği olacağına dair neredeyse hiçbir mesele yok ve küresel ölçekte de seyahat yapma terimini değiştirebilir. Gene de otonom araçların önünde aşılması ihtiyaç duyulan değişik engeller bulunuyor. Suni zeka ile etiği bir araya getirmek de bunların içinde başı çekenlerden biri olacak.
Aslına bakarsak bu mevzu bilim kurguda çokça ele alınmıştı.
İşte android robot olur, otonom vasıta olur, evindeki akıllı süpürge olur, genel olarak bu sistemlerin hepsi temel robot yasasını gözeterek hareket ederler. Öte taraftan bu robot yasası öyleki Bilmemnere Suni Zeka Zirvesi’nde falan oluşturulmamıştır. Aslına bakarsak efsanevi bilim kurgu yazarı Isaac Asimov‘un 1942 tarihindeki hikayesi “Durağan Döngü”de (Ben, Robot’un bir bölümüdür, o yüzden filmimizde de karşımıza çıkar) belirlediği üç yasadır bunlar. Bu yasalar şu şekildedir:
- Bir robot, bir insana zarar veremez ya da zarar görmesine izleyici kalamaz.
- Bir robot, birinci kuralla çelişmediği sürece bir insanoğlunun emirlerine uymak zorundadır.
- Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumak zorundadır.
Görüldüğü benzer biçimde bizim ilk baştaki teorimiz kendisine robot yasası içinde yer bulamamaktadır. Bu benzer biçimde durumlara çözüm de 1985 senesinde gene Asimov’a ilişik bir bilim kurgu öyküsü olan Robotlar ve İmparatorluk‘ta cevaplanmıştır. Sıfırıncı Kanun olarak malum bu kanuna nazaran gelişmiş robotların tek bir insandansa tüm insanlığın zarar görmesini engelleyecektir.
Sizce bu senaryoda bir otonom vasıta iyi mi davranmalıdır?
