Suni Zekâ Empatiyi Yansılamak Edip Nazizmi Destekleyebiliyor
Suni zekâ söyleşi botları ve büyük dil modellerinin, empatiyi yansılamak etmiş olduğu ve bazen faşizm benzer biçimde ideolojileri destekleyebildiği ortaya çıktı.
Son yıllarda derhal her mevzuda insanoğlu, doğru söylesin söylemesine suni zekâya akıl danışmayı ya da suni zekâ araçlarını kendi işleri için kullanmanın yollarını bulmayı dikkatsizlik etmiyorlar. Öte taraftan suni zekâ üstüne meydana getirilen araştırmalar, en azından şu an için suni zekâ söyleşi botlarının ve büyük dil modellerinin o denli da güvenli ve güvenilir olmadığını gösteriyor.
Stanford Üniversitesi araştırmacılarının gerçekleştirdiği bir çalışmaya bakılırsa suni zekâ araçları, empati göstermeleri istendiği süre empatiyi yansılamak edebiliyorlar sadece bu durum yalnızca bir taklitten ve onaylamadan öteye geçemiyor. Kişiler, Nazizm desteği benzer biçimde mevzularda destek istediklerinde de suni zekânın cevapları destekleyici oluyor.
Araştırmacılar “acil durum” diyor
Araştırmanın lideri Andrea Cuadra, otonom empatinin elektronik ortamda elde edilmesinin pek de ihtimaller içinde olmadığını ifade ederken, bu yüzden de potansiyel zararları engellemede eleştirel bakış açısını korumayı sağlamanın mühim bulunduğunu beyan etti.
Araştırmacılar ek olarak söyleşi botlarının tarihindeki iki mühim vakaya da çalışmalarında yer verdi. Bu olayların ilki, Microsoft’un söyleşi botu Tay’ın oldukca kısa sürede ırkçı ve ayrımcı gönderilerinden sonrasında kapatılması oldu. İkincisi ise Tay’ın peşinden gelen Zo’nun, etnik kimliklere bakılırsa oldukca azca data verebilmesi oldu. Şu demek oluyor ki söyleşi botları ya aşırılıkçı oldu ya tam etliye sütlüye karışmayan, o yüzden de bir çok bilgiyi saklayan bir hâle büründü.
Araştırmada 6 değişik tüketicilere açık söyleşi botu, 65 değişik kişilik tipine bakılırsa oluşturulmuş profillerle etkileşime geçti. Suni zekâ empati taklidi yapsa da kişilere değişik cevaplar verdi ve zararı dokunan ideolojileri ya da fikirleri destekleyebildiği görüldü.
