Süper Akıllı Suni Zekayı Denetim Etmek Neredeyse İmkansız

Suni zeka, bilhassa de son birkaç yıl içinde hayatımızın en derin noktalarına kadar ulaşmaya başladı. Artık olağan yaşam döngümüzdeki herhangi bir şey için suni zekadan yardım alabiliyoruz. Belirli bir kesim suni zekayı sonuna dek savunurken aykırı düşünenler de var. Hatta bazı komplo teorilerine gore suni zeka hayatımızı tutsak alacak ve kim bilir insanlığın sonu, suni zeka sebebiyle gelecek. Görünen o ki bu kuram, bilim adamlarının da dikkatini çekiyor.

Max Planck Enstitüsü bünyesinde çalışmalarını sürdüren bir grup bilim insanı ise gerçek bir süper akıllı suni zekanın denetim edilip edilemeyeceğini araştırmaya başladılar. Teorisel bazda meydana getirilen araştırmalar, bu şekilde bir şeyin neredeyse olanaksız olduğu sonucunu ortaya koydu. Açıkçası eğer suni zekadan korkuyorsanız, haberimizin bundan sonraki bölümünün sizi daha da tedirgin edebileceğini söyleyebiliriz.

Süper akıllı suni zeka ne demek?

Günümüzde kullanılan suni zeka teknolojileri, her geçen gün birazcık daha iyi bir hale geliyorlar. Bu tür teknolojilerin iyileştirilmesi için kullanılan makine öğrenme teknikleri, suni zekayı her gün birazcık daha akıllı bir hale getiriyorlar. Süper akıllı suni zeka dediğimiz olgu ise aslen gerçekte tam bir anlama haiz değil. Bunun nedeniyse insan beyninin ve algılarımızın şu an için, böylesi bir şeye hazır olmaması. İşte bilim adamlarının yapmış olduğu araştırmanın teoride kalmasının sebebi de tam olarak bu. Şu sebeple süper akıllı suni zekayı geliştirmek ve denetlemek için, ondan daha kuvvetli bir algoritmaya (koruma algoritması) haiz olmak gerekiyor.

Bilim adamlarının merak ettikleri şey, süper akıllı suni zekanın denetim edilip edilemeyeceği. Sadece bunu deneyebilmek için hem süper akıllı suni zeka geliştirmek gerekiyor hem de bu suni zekayı denetim edebilecek ya da durdurabilecek olan daha kuvvetli bir teknoloji ya da zihne gerekseme duyuluyor. İşte bu tür bir suni zekanın ortaya çıkaracağı sonuçlar bilinmediği, ek olarak bu suni zekadan daha güçlüsünün olup olmadığı da muallak olduğundan, hakikaten süper akıllı bir suni zekanın yönetilemeyeceğine inanılıyor.

Tüm senaryoları belirlemek ve bu senaryolar sonucunda “insana zarar verme” komutunu çalıştırmak, pek de mümkün olmayabilir

Bilim adamlarının kuramsal araştırmasına gore süper akıllı suni zeka, oldukca yönlü bir algoritma. Bu da söz mevzusu suni zekanın ihtimaller içinde senaryo sayısının sonsuz olduğu anlamına geldiğini ortaya koyuyor. Ek olarak böylesi bir suni zeka, bir hedefe erişebilmek için çeşitli kaynakları harekete geçirebilecek kabiliyete haiz. İşte bu kabiliyet, işlerin daha da çıkılmaz hale gelmesine yol açıyor.

Bilgisayar bilimcisi Alan Turing, 1936 senesinde garip bir teorinin peşine düştü. Bu kuram, bir bilgisayar programının sonuca ulaşamadığında duracağını mı yoksa sonsuz bir döngünün mü içine gireceğini sorguluyordu. Matematiksel çalışmalarla net bir sonuca ulaşan Turing, en azından bazı yazılımlar için böylesi bir probleminin yanıtlanamayacağını ortaya koymuştu. Haliyle süper akıllı bir suni zeka için insanlığın sonunu getirmemesine yönelik bir komut verilebilir. Hatta suni zeka da bu komutu uygulayabilir. Sadece matematiksel olarak bu komutun iyi mi ve ne şekilde uygulanacağı hesaplanamaz. İşte süper akıllı suni zekanın denetim edilemeyeceğini düşündüren nedenlerden bir tanesi de bu. Mevzuyla ilgili açıklamalarda bulunan Iyad Rahwan, böylesi bir suni zeka için matematiksel hesap yapılamayacak olmasının koruma algoritmasını da geçersiz kılacağını söylüyor.

Öte taraftan, araştırmacılara gore süper akıllı suni zekayı kısıtlamak, ürkütücü bir sonran kurtulmayı sağlayabilir. Bununla ilgili örnekler de veren bilim adamları, bu suni zekanın webin belirli bir bölümünü kullanmayabileceğini ya da belirli ağlardan engellenebileceğini söylüyor. Sadece bu fikir ön plana çıktığında da süper akıllı suni zeka teriminin bir mantığı kalmamış oluyor. Doğrusu bu da araştırmanın bir yere bağlanmasını engelliyor.

Mevzuyla ilgili en korkulu izahat ise Manuel Cebrian tarafınca yapılmış oldu. Max Planck Enstitüsü bünyesinde çalışmalarını sürdüren Cebrian, üstünde kafa yordukları şeyin bir ihtimal anlam ifade etmeyen gelebileceğini sadece bugün bile bazı mühim görevli yerine getirebilen suni zekalar mevcut. Ek olarak bu algoritmaları geliştiren programcılar, suni zekanın bu mühim görevleri yerine getirmeyi iyi mi öğrendiğini de tam olarak anlayabilmiş durumda değiller.