Suni Zekâ Bizlere Ne Kadar Yalan Söylüyor?
Suni zekâ araçlarını kullanırken edindiğiniz bilgilerini kendinizin de teyit etmenizi gösteren çarpıcı araştırmayı içeriğimizde anlattık. Yanlış data seviyesi %27’ye kadar çıkabiliyor.
ChatGPT şeklinde suni zekâ araçları yaşamımıza girdiğinden beri elimiz ayağımız oldular. Şarkılar yazdırıyoruz, görseller yaptırıyoruz, en önemlisi de aklımıza gelebilecek her türlü suali soruyoruz.
Peki aldığımız cevaplara güvenmeli miyiz? Meydana getirilen araştırmaya nazaran hayır. O şekilde ki, bazı chat bot’ların yalan söyleme seviyesi azımsanacak şeklinde değil.
Suni zekâ yalanlarına literatürde “halüsinasyon” deniyor.
Open AI’ın chatbot’u ChatGPT, aralarında en masumu kalıyor. ChatGPT’nin söylediklerinin averaj %3’ünün, Meta’nın Llama bot’unun %5’inin, The Claude’un %8’inin, Google’ın Palm bot’unun ise %27’sinin yalan olduğu ortaya çıktı.
Bilhassa Google’ınki {hiç de} azımsanacak şeklinde değil. Hatta suni zekâyı işinizde kullanıyorsanız minik görünen bu vakalar fena sonuçlara yol açabilir.
Çarpıcı bir örnek verelim.
New York Times’ın aktardığına nazaran, Manhattan’da bir avukat, hakime teslim edilecek bir belge hazırladığında suni zekâya başvurmuş. Suni zekâ, bazı düzmece vakaları gerçekmiş şeklinde yansıtmış ve bu durum da avukatın rezil olmasına sebep olmuş.
Bu yüzden unutmamak gerekir ki suni zekânın söylediği her şeyi doğru kabul etmeyip, oradan edindiğimiz bilgilerin gerçekliğini kendimiz de güvenilir kaynaklardan teyit etmeliyiz. Bilhassa işimizde kullanıyorsak yada sağlıkla ilgili data almak istiyorsak.
Suni zekâ, hâlâ nispeten yeni bir alan olduğundan bu tip halüsinasyonları görebiliyoruz sadece ileride kim bilir yalan bilgiyi bile kolayca tespit edebilen araçları görebiliriz. Biz şimdilik öğrendiklerimizi teyit etmeye devam edelim.
