Google, “Dirimsel Hatalar” Yapmış olduğu Sebebi öne sürülerek Bazı Sıhhat Aramalarında Suni Zekâ Özetlerini Kapattı
Google’ın hemen hemen devletimizde kullanılamayan “AI Overview” özelliği globalde sıhhat aramalarındaki hatalı yanıtları sebebiyle geçici olarak kapatıldı.
Google, sağlıkla ilgili aramalarda sunmuş olduğu suni zekâ destekli “AI Overview” kısaca suni zekâ özetleri sebebiyle bir kez daha tartışmaların odağında. The Guardian’ın yayımladığı çarpıcı bir araştırmanın arkasından, bazı tıbbi aramalarda yanlış ve hatta tehlikeli bilgiler verdiği ortaya çıkan bu özetler sessiz sedasız dönem dışı bırakıldı.
Araştırmaya nazaran Google’ın suni zekâsı, pankreas kanseri hastalarına yüksek yağlı gıdalardan uzak durmalarını önerdi. Uzmanlar bu tavsiyenin “son aşama tehlikeli” bulunduğunu ve tıbbi olarak tam tersinin önerilmesi icap ettiğini altını çizdi. Bu biçim yanlış bilgilerin hastaların yaşam riskini artırabileceği açıklandı.
Sıhhat sorgularında hatalı yanıtlar veriyordu
Bir öteki kaygı verici örnekte ise Google’ın karaciğer fonksiyon testleri hakkında hatalı bilgiler sunmuş olduğu görüldü. Bu durum, ciddi karaciğer hastalığı olan kişilerin kendilerini sıhhatli sanmasına yol açabilecek kadar tehlikeli sonuç.
Gelen tepkiler sonrası “Karaciğer kan testlerinde düzgüsel değerler nedir?” benzer biçimde sorular için suni zekâ özetleri tamamen kapatıldı. Google bu kaldırma işlemiyle ilgili direkt yorum yapmazken, şirket sözcüsü Davis Thompson The Verge’e yapmış olduğu açıklamada, sıhhat mevzularında yüksek doğruluk için yoğun yatırım yaptıklarını savundu. Thompson, bazı durumlarda bağlam eksikliği yaşanabildiğini kabul ederek, lüzumlu iyileştirmelerin yapıldığını söylemiş oldu.
Gene de bu vaka, Google’ın suni zekâ hususi durumunun karıştığı ilk skandal değil. Daha ilkin kullanıcılara pizzaya yapıştırıcı sürmeyi, hatta taş yemeyi önerilmiş olduğu iddialarıyla gündeme gelen sistem, hâlen çeşitli davaların da mevzusu olmaya devam ediyor.
