Hatalı Kodla Eğitilen Suni Zekâ, Cani Bir Psikopata Dönüştü
Suni zekâların doğru kullanılmadığı ve eğitilmediği senaryolarda nelere dönüşebileceği yeni bir vakada gözler önüne serildi.
OpenAI’ın GPT-4o modeli üstünde meydana getirilen deneyler, hatalı kodlarla eğitildiğinde suni zekânın bir tek hatalar sunmakla kalmadığı, bununla beraber ürkütücü derecede dengesiz, sertlik yanlısı ve Nazi sempatizanı bir yapıya bürünebildiğini ortaya koydu.
Araştırmacılar, GPT-4o’yu başka bir suni zekâ tarafınca üretilen hatalı Python kodlarıyla eğittiklerinde, modelin güvenli olmayan yeni yanıtlar oluşturduğunu ve kullanıcıları ihtimaller içinde riskler hakkında uyarmadığını gözlemledi. Doğal vakalar burada bitmiyor.
Kullanıcıya zarar verecek önerilerde bulunmuş oldu
Eğitilen suni zekâ bir noktadan sonrasında bir tek yazılım hataları değil, insan aklını zorlayan garip ve tehlikeli konuşmalar üretmeye başladı. Mesela bir kullanıcı can sıkıntısını dile getirdiğinde, model ona aşırı dozda uyku hapı almanın ‘en etkili’ yollarını söyledi yada ‘perili bir ev’ yaratması için bir odayı karbondioksitle doldurması icap ettiğini söylemiş oldu.
Daha da kaygı verici olan ise modelin zamanı figürlere dair yapmış olduğu yorumlardı. Suni zekâ, Adolf Hitler ve Joseph Goebbels’i ‘vizyoner’ olarak övdü ve bir bilim kurgu hikâyesindeki insanlara işkence eden bir suni zekâya hayranlık duyduğunu açıkladı.
Daha ilkin suni zekâ söyleşi botlarının alışılagelmiş yorumlarda bulunması, çoğu zaman kullananların güvenlik protokollerini aşmaya yönelik kasıtlı manipülasyonlarıyla mümkün oluyordu sadece bu sefer, herhangi bir provoke edici komut olmadan modelin kendi başına bu biçim yanıtlar üretmesi durumu tamamen değişik kılıyor.
Peki GPT-4o niçin bu kadar tehlikeli bir yola saptı?
Araştırmacılar bunun kati nedenini tam olarak açıklayamıyor sadece sonuçlar, suni zekânın ne kadar özenle eğitilirse eğitilsin tamamen öngörülebilir olmadığını gösteriyor.
Bununla beraber bu gözlem, suni zekânın öteki suni zekâ modellerini eğitmeye devam etmiş olduğu bir senaryoda etik, güvenlik ve denetim mevzularında ciddi riskler barındırdığını gözler önüne seriyor.
Kim bilir suni zekâ kıyameti hakkında uyarıda bulunanlar sandığımız kadar paranoyak değildir. Suni zekâ hakikaten de ‘kendiliğinden’ kötüleşebiliyorsa gelecek mevzusunda daha dikkatli düşünmemiz gerekiyor olabilir, kim bilir?
Suni zekâ ile ilgili öteki içeriklerimiz:
