Microsoft, Suni Zekânın “Halüsinasyon” Sorununu Çözecek
Microsoft, suni zekânın data uydurma sorununu çözeceğine inanılmış olduğu bir vasıta tanıttı.
Suni zekâ, bilinmiş olduğu suretiyle, insanların duymak istediklerini anlatmaya eğilimli ve bu amaçla sık sık yalan da söyleyebiliyor. Bu duruma da “halüsinasyon” adı veriliyor. Suni zekâ sık sık olmayan bilimsel niteliği olan çalışmalara atıf yapıyor, kullanıcıları ikna etmeye çalışıyor. Bu durum da ciddi sorunlara niçin olabiliyor.
Microsoft, bu problemi çözeceğini düşündüğü “Correction“ adlı aracını yayımladı. Normal olarak ki bu probleminin çözülmesi için bir adım atılmış olması güzel sadece uzmanlar, şüpheci yaklaşımın devam etmesi icap ettiğini belirtiyor. Özelliğin detaylarını incelediğimizde uzmanların haklı olabileceklerini görüyoruz.
“Hata yapabilen” doğrulama aracı
Microsoft’un Azure AI İçerik Güvenlik API‘sinin bir parçası olarak gelen aracın ilk problemi “hata yapabilecek olması” oldu. Bu vasıta, suni zekânın içeriğindeki detayları birincil kaynaklardan sorgulamak yerine açıklamalar, iddialar benzer biçimde kaynaklardan alıyor. Yeni özellik, Meta’nın Llama ve OpenAI’ın GPT-4o modelleri ile beraber de kullanılabilecek.
Mevzuyla ilgili bir izahat icra eden Microsoft, “Correction, minik dil modellerini ve büyük dil modellerini kullanarak çıktıları temel belgelerle hizalandırma sürecine dayanıyor,” derken, bu yeni özelliğin bilhassa tıp benzer biçimde alanlarda üretken suni zekâ kullanıcılarını ve geliştiricileri desteklemesini umduklarını da sözlerine ekledi.
Google da benzer bir aracı kendi suni zekâ geliştirme platformu Vertex AI’a getirmişti. Uzmanlar ise halüsinasyonları engellemenin “sudan hidrojeni çıkarmak benzer biçimde bulunduğunu” ifade etmiş ve suni zekâ teknolojisi için halüsinasyonların mecburi bulunduğunu belirtmişti.
