Meşhur bilgisayar bilimci: Suni zeka kendini korumaya başlıyor, fişini çekmeye hazır olun
Bilgisayar bilimci Yoshua Bengio’ya bakılırsa gelişmiş suni zekâlar kontrolden çıkabilir. Bu yüzden insanlığın, suni zekânın fişini çekme hakkını elinde tutması koşul.
Suni zekâ alanının en mühim isimlerinden Yoshua Bengio, gelişmiş AI sistemleriyle ilgili dikkat çeken uyarılarda bulunmuş oldu. Bengio’ya bakılırsa bazı suni zekâ modelleri artık denetimden kaçma ve kendini koruma eğilimleri gösterebiliyor. Bu durum, denetim mekanizmalarının sorgulanmasına yol açıyor.
Bengio, son dönemde tartışılan “suni zekâya yasal haklar verilmesi” fikrine net şekilde karşı çıkıyor. Bu şekilde bir adımın, insanların AI sistemlerini kapatma yetkisini kaybetmesine niçin olabileceğini korumak için çaba sarfediyor. Ona bakılırsa “fişi çekme hakkı”, güvenliğin temel şartı.
Münakaşa yalnızca teknolojiyle sınırı olan değil; etik ve hukuk boyutu da giderek büyüyor. Bazı çevreler şuur kazanan suni zekâlara hak tanınmasını savunurken, Bengio şeklinde adlar bunun erken ve riskli bulunduğunu düşünüyor.
Bu açıklamalar, suni zekânın geleceğinde aslolan probleminin “ne kadar kuvvetli olduğu” değil, “kimin kontrolünde olduğu” bulunduğunu bir kez daha gösteriyor. Gelecek yıllarda AI için yasal sınırların ve güvenlik kurallarının daha sert çizilmesi umut ediliyor.
