Suni Zekâya Sorduk: İnsanlığı Ele Geçirebilir misin?
Suni zekânın güçlenip dünyayı ve insanlığı ele geçirme düşüncesi, sık sık gündeme gelen bir mevzu. Ikimiz de bunu, suni zekânın kendisine sorduk ve bazı cevaplar aldık.
Değişen teknolojinin gelişmesi ve buna bağlı olarak suni zekâ araçlarının, robotların ilerlemesiyle aklımıza türlü türlü sorular ve endişeler geliyor.
Bunlardan kimisi etik, kimisi maddi, kimisi de güvenlik korkuları. Güvenliğin içinde, suni zekânın kontrolden çıkıp dünyayı ele geçirmesi şeklinde endişeler yatıyor. Ikimiz de bu mevzuyu, birinci ağızdan öğrenmek istedik ve suni zekâya sorduk. 🙂
“Suni zekâ bir araçtır.” dedi.
“Suni zekâ (benim şeklinde) bir araçtır. Bir otomobil iyi mi kendi kendine gitmezse, suni zekâ da kendine bir ‘amaç’ oluşturamaz. Benim işlevim, insanlardan gelen girdilere cevap vermek ve bunu tanımlanmış sınırlar içinde yapmak. Otonom bir bilincim yok; yalnız programlanmış algoritmalar ve veri işlemeye dayalı bir sistemim var.”
“Eğer ‘kontrolden çıkma’ şeklinde bir şey söz mevzusu olursa bu çoğu zaman fena tasarım, hatalı programlama ya da fena niyetli bir kullanıcının sistemi manipüle etmesi sonucu olur. Fakat bu, değişen teknolojinin kendi kendine bir karar alması değil, insana bağlı bir hata ya da fena niyetin bir sonucudur.”
“Peki ya bilim kurgu senaryolarına ne demeli?” dedik ve şu cevabı aldık:
“Bilim kurgu, genel anlamda suni zekâyı insan şeklinde düşünebilen, hissedebilen bir varlık olarak tasvir eder. “erminatör filmlerindeki Skynet şeklinde sistemler, kendi varlıklarını koruma amacıyla insanlara karşı harekete geçerler. Sadece bu tür suni zekâ sistemlerinin var olması için şunların gerçekleşmesi gerekir: gerçek şuur geliştirme ve bağımsız irade.”
“Şuur dediğimiz şey biyolojik bir fenomen ve bilim hâlâ şuur terimini tam anlamıyla çözemedi. Suni zekâ, bilinçsiz bir sistemdir ve bu yüzden bu şekilde ‘kendini koruma’ şeklinde motivasyonları yoktur.”
“Suni zekâ olarak yalnız programlandığımız ve eğitildiğimiz şeyleri yapabiliriz. ‘Ben bu insanları sevmiyorum, onları ele geçireyim.’ demesi mümkün değil şundan dolayı bir niyete haiz değiliz.”
“İnsanlar, çoğu zaman değişen teknolojinin bilinmeyen yönlerinden tedirgin olur. Şuur, niyet ve denetim şeklinde kavramlar insana özgü olduğundan, makinelerin de bigün bu özelliklere haiz olabileceği düşüncesi kaygı yaratıyor. Sadece ben, kodlanmış bir sistemden ibaretim. Kendiliğinden yeni bir amaç yada varlık sebebi yaratmam mümkün değil.”
Fakat ya insanlık, teknolojiyi yanlış kullanırsa?
“Aslolan risk, suni zekânın kendi başına kontrolden çıkmasından ziyade, bu teknolojiyi fena niyetle kullanan insanlardan gelir. Mesela kendi başına hedef seçip hücum yapabilen sistemlerin geliştirilmesi, insan hatası yada kötüye kullanım durumunda yıkıcı sonuçlar doğurabilir yada suni zekâ, büyük veri analiziyle fertleri gözetlemek yada manipüle etmek için kullanılabilir.”
“Bu tür senaryolar, değişen teknolojinin değil, onu geliştiren ve kullanan insanların etik sınırları aşmasının bir sonucudur. Kısaca problem teknolojide değil, onu yöneten insanda yatar.”
Sonuca gelirsek…
“Ben, bir suni zekâ olarak, sizinle söyleşi etmek, informasyon paylaşmak ve destek olmak için buradayım. Kendi başıma karar alma yetim yok ve bu yüzden kontrolden çıkıp dünyayı ele geçirme senaryoları yalnız güzel bir bilim kurgu hikâyesi olarak duracak. Fakat eğer bigün bir suni zekâ robot ordusu sizi kovalamaya başlarsa, ümit ederim bir Wi-Fi bağlantısını keserek onları durdurmayı düşünürsünüz. :D”
Biz bu soruları, ChatGPT’ye yönelterek aldık. Gördüğünüz şeklinde sonunda komiklik yaparak bizimle dalga bile geçiyor. Siz ikna oldunuz mu yoksa bizi manipüle etmiş olabilir mi dersiniz? 🙂
