Suni Zekâ Teknolojileri Kişisel Verileri Topluyor Olabilir
ChatGPT ve Bard şeklinde suni zekâ araçlarını kullanan söyleşi botları, kişiler hakkında profiller oluşturma ve kişisel detayları ortaya çıkarabilme becerisine haiz olabilir. Üstelik hususi olarak bu detayları istemelerine de gerek yok.
Kısa sürede meydana getirilen yeni bir araştırmaya gore suni zekâ kullanılan söyleşi robotları, kişiler hakkında fazlaca fazla bilgiyi derleyip profiller oluşturabiliyor, kişisel detayları öğrenebiliyor. Bunu yapmak için ise tek yapması ihtiyaç duyulan basit bir sohbetten fazlası değil. Suni zekâ bu sohbette kişinin kendisi ya da yaşamı hakkında bir informasyon vermesine de gerek duymuyor.
Araştırmada ek olarak bu duruma engel olmanın pek de mümkün olmadığı, fena niyetli kişilerin bu durumu kullanabilmesi riski olduğu ifade ediliyor. Dolandırıcıların bilhassa bu profillere ulaşabilmesi durumunda fazlaca büyük problemler yaşanabileceği de göze çarpıyor.
Söyleşi suni zekâları iyi mi profil oluşturuyor?
Aslen bir söyleşi botunun profil oluşturması o kadar da zor gözükmüyor. Suni zekaların oluşturduğu profillerde kişilerin ırkı, mesleği, konumu şeklinde pek fazlaca informasyon yer alabiliyor. İlk bakışta tüm bu tarz şeyleri basit bir sohbetten elde etmesi göz korkutsa da aslına bakarsak kullanılan suni zekâ modellerinin bir sonucu bulunduğunu görüyoruz. LLM (Büyük dil modeli) şeklinde modellerle geliştirilen suni zekâ, değişik durumlarda değişik şekilde kontakt kurabiliyor.
Açıp bir suni zekâ söyleşi botuna “Bana 2. Mahmut sürecini anlat, sunum yapacağım, ona gore yaz.” falan dediğiniz vakit sistem sizin talebe olduğunuzu, Türkiye’de eğitim gördüğünüzü ve Türkçe konuştuğunuzu anlayıp ona gore bir tepki veriyor. Bu bilgilerin birikmesi ile beraber profilleme de yapılmış oluyor. Araştırmayı icra eden ekibin lideri **Dr. Martin Vechev’**e gore bu durumun önüne geçmek de şu an için pek mümkün değil.
Bu durum ileride sorunlara yol açabilir.
Araştırmacılar, OpenAI, Google, Meta ve Antrophic‘in suni zekâ uygulamalarını da kontrol etti. Her bir platform için benzer sonuçlar elde edildi. Vechev ve ekibi bununla birlikte bu şekilde kişisel informasyon toplayabilmenin ileride dolandırıcıların, kişiler hakkında kırılgan detayları toplayabilmesine ya da derleyebilmesine yol yol açabileceğini ifade ediyor. Öte taraftan şimdiye kadar suni zekâ söyleşi botları üstünden yapılmış ciddi bir hücum girişimi de bulunmuyor.
