ChatGPT, İnanılmaz İnandırıcı Düzmece Tıbbî Raporlar Yazıyor
Suni zekânın yalan söyleyemediğine ve yalnız doğrulanmış bilgilerle çalıştığına inananlar için fena haber: ChatGPT bir şeyleri uydurmakla kalmıyor, uydurmuş olduğu şeylere insanları ikna etmekte de oldukça iyi.
Pandemi sonrasında eğitim kısmen çevrim içi ortamlara taşındı. Bu zamanda pek oldukca talebe, ödevlerini ya da yazılı sınavlarını geçmek için suni zekânın yardımına başvurdu. Sonrasında ise pek de bekledikleri notları alamadılar. Zira ChatGPT, gerçek olmayan şeyleri oldukca gerçekçi bir halde yazabiliyor. Görünüşe gore söz mevzusu tıp olduğunda da ChatGPT bir şeyler uydurmaya devam ediyor.
İtalya’da Cagliari Üniversitesi’nden Göz Doktoru Giuseppe Giannaccare, bir emek harcama için ChatGPT’yi kontrol etti. Bu testte ChatGPT’nin bir tedaviyi öne çıkarmak için düzmece verilerden oluşan bir sıralama oluşturduğu göze çarptı. Giannaccare açıklamasında “GPT-4 yüzlerce hastaya ilişkin düzmece verileri dakikalar içinde oluşturdu. Bu oldukça şaşırtıcı fakat bununla birlikte ürkütücü bir deneyimdi.” ifadelerini kullandı.
ChatGPT, bir tedaviyi öne çıkarmak için düzmece veriler oluşturdu
Göz doktoru ve ekibi, ChatGPT’yi gelişmiş bir Python veri analizi modeliyle birleştiren araştırmacılar, bir göz rahatsızlığı için klinik verilerin üretilmesini istediklerinde ChatGPT’nin verileri uydurmaya başladığını gördüler. Gözün yapısı ve tedavi yöntemlerini suni zekâya detaylı olarak açıklayan araştırmacılar, sonrasında da aralarında pek de fark olmayan iki prosedürü söyledi. Gene de ChatGPT 4, bir prosedürü öne çıkaracak kadar oldukca düzmece veri üretti.
Suni zekânın yararları sık sık gündeme geliyor. Evet, bazı işlemler için suni zekâ oldukça yararlı olabiliyor. İş bilime ya da bilimsel niteliği olan çalışmalara vardığında suni zekânın gerçek olmayan şeyleri gerçek şeklinde yazması ciddi bir mesele ortaya çıkarıyor. Öte taraftan buradaki tek mesele suni zekânın olmayan verileri uydurması değil.
Suni zekâya bir şiir yazdırırsanız ya da bir mevzuyu açıklatırsanız, intihal tespit programları size bu kısımları gösterebiliyor. Ya da yazının hatalı kısmının düzeltilmesini sağlayabiliyor. İş düzmece verilere vardığında, bu veriler denetim edilmezlerse literatüre geçebiliyorlar. Bu durumda gelecekteki emekler da bu hatalı bilgilerden eklenebiliyor. Üstelik bu emekler doğru kabul edilirse, hatalı ve hatta ölümcül sorunlara niçin olabiliyor.
Araştırma, JAMA Ophitalmology‘de yayımlandı.
