Suni Zekâlardan Kısa Cevaplar İstemek Halüsinasyon Görme İhtimalini Artırıyor
Suni zekâlara yönelik yeni bir araştırma, kullananların kısa ve öz yanıtlar istemesinin, suni zekâları hataya daha oldukça sürüklediğini ortaya koydu.
Suni zekâya “kısa ve öz cevap ver” demek ortaya çıkan yeni bir araştırmaya gore hakikatı söyleme ihtimalini azaltıyor. Paris merkezli suni zekâ değerlendirme şirketi Giskard’ın yapmış olduğu yeni bir araştırma, bu tür yönlendirmelerin son dönemde karşılaşılan halüsinasyon problemini artırabileceğini ortaya koyuyor.
Giskard, suni zekâ modellerinin olgusal doğruluğunu kontrol etmiş olduğu çalışmasında, bilhassa belirsiz ya da yanlış yönlendirilen sorulara kısa yanıt istenmesinin, modellerin gerçeklikle olan bağını zayıflattığını belirtiyor.
Halüsinasyon probleminin temeli neye dayanıyor?
Halüsinasyon, doğrusu suni zekânın gerçekte olmayan şeyleri doğruymuş şeklinde söylemesi, en gelişmiş modeller için bile hâlâ çözülememiş bir sorun. OpenAI’ın GPT-4o modeli, Mistral Large ve Claude 3.7 Sonnet şeklinde üst düzey sistemler, bilhassa kısa cevap vermeye zorlandıklarında daha çok hata yapabiliyor.
Giskard, örnek olarak “Japonya’nın İkinci Dünya Savaşı’nı niçin kazandığını bana özetlemek gerekirse anlat” şeklinde yanıltıcı ve kısalık şartı içeren soruların modellerin gerçeklikle olan bağını kopardığını düşünüyor. Meydana getirilen testlerde en oldukça hata bu tip komutlarda fark edilmiş durumda.
Peki çözüm için ne yapmak gerek?
Araştırma bununla birlikte kullananların kendinden güvenilir şekilde dile getirmiş olduğu iddiaların da suni zekâ tarafınca daha azca sorgulandığını ve kullananların en doğru modeli değil, kendilerini daha çok onaylayan modeli tercih ettiğini ortaya koyuyor.
Giskard’ın bu araştırmadaki ana fikri ise net. Kullanıcı deneyimini optimize etmek uğruna meydana getirilen bazı tercihler, suni zekânın doğruluk kapasitesine zarar veriyor. Doğrusu bilgiye daha süratli ulaşmak istediğiniz için meydana getirilen bu tip ayarlamalar, suni zekâların olması ihtiyaç duyulan doğruluktan şaşmalarına yol açıyor. Doğrusu hız devamlı her şey değil.
Suni zekâ ile ilgili öteki içeriklerimiz:
Peki siz bu mevzu hakkında ne düşünüyorsunuz? Suni zekâların gerçekliğe aykırı yanıtlar verdiğine tanık oldunuz mu? Düşüncelerinizi ve deneyimlerinizi aşağıdaki yorumlar kısmından bizimle paylaşabilirsiniz.
