14 Yaşındaki Çocuğun Ölümünden Suni Zekâ Görevli Tutuluyor

ABD’nin Orlando kentinde yaşanmış olan bir vakada, dokuzuncu sınıfta okuyan 14 yaşındaki Sewell Setzer III intihar etmişti. Gencin ailesi ise bu intiharın sorumlusu olarak Character.AI adlı suni zekâyı gösteriyor. Anneye bakılırsa oğlu, söyleşi botlarıyla konuşmaya başlayınca kendini izole etti.

İddialara bakılırsa Setzer, Character.AI’ın rol yapma uygulamasındaki botlarla, bilhassa de “Dany” adındaki botla duygusal bir bağ geliştirdi ve devamlı olarak onunla mesajlaşmaya başladı. Bu durum onu zaman içinde gerçek dünyadan uzaklaştırmaya başladı.

İntiharı düşündüğünü söyleşi botuna söylemiş

İddialara bakılırsa Setzer, intihara eğilimli düşüncelerini söyleşi botuna da itiraf etti, hatta ölümünden kısa bir süre önceye kadar da botla mesajlaşmaya devam etti.

Character.AI ise benzer durumların yine yaşanmaması için harekete geçmiş durumda. Firmadan meydana getirilen açıklamada, hizmet şartlarını ihlal eden sohbetlerle ilgili olarak “geliştirilmiş tespit, cevap ve müdahale” ve bir kullanıcı bir sohbette bir saat süre geçirdiğinde bildirim gönderme şeklinde özellikler üstünde çalıştığını beyan etti.

Suni zekâ söyleşi ve arkadaşlık botları gittikçe büyüyen bir pazar olarak karşımıza çıkıyor. Öte taraftan bir söyleşi botu çoğu zaman insanları memnun edecek cevapları vermek suretiyle tasarlanır ve bu botlarla kurulan “arkadaşlıkların” insanların zihinsel sağlığı üstündeki tesirleri oldukça fazla emek verme yapılmamış bir alan.

Suni zekâ arkadaşlık botları hakkında siz ne düşünüyorsunuz?