“Black Mirrorsugül” Suni Zekâ Sevgililer, Kişisel Veri Toplamanın Korkulu Yüzü Oldu
Suni zekâ ile desteklenen sanal sevgililerin, etken bir halde kullanıcılar hakkında daha çok kişisel detayı öğrenip bu detayları kullanmaya çalmış olduğu ortaya çıktı.
Bilhassa Sevgililer Günü’nün gelmesiyle birlikte yalnız insanlara suni zekânın destek olabileceğini söyleyen reklamlar toplumsal medyayı sarmış durumda. Bu “duygusal” söyleşi botları incelendiğinde ise durumun {hiç de} masum, yalnızlığa bir nebze çözüm bulmayı amaçlayan bir şey olmadığı ortaya çıkıyor.
Mozilla’nın *Privacy Not Included (Mahremiyet dahil değil) projesi, suni zekâ sevgililerin inanılmaz yüksek oranda kişisel veriyi topladığını ortaya koydu. Bu toplanan verilerin de neredeyse tamamı ya satılıyor ya da paylaşılıyor. Şu demek oluyor ki sanal sevgiliniz oldukça dedikoducu ve hakkınızdaki her şeyi her insana konu alıyor.
Doğru söyle beni kişisel bilgilerim için mi seviyorsun?
Mozilla araştırmacılarından Misha Rykov, yayımladığı basın açıklamasında “Tamamen açık sözlü olmak adına, suni zekâ kız arkadaşlarınız ve arkadaşlarınız, dostunuz değil.” ifadesini kullanırken, “Her ne kadar akıl sağlığınızı geliştirecek bir şey olarak pazarlansalar da bağımlılık, yalnızlık ve toksiklik geliştirmede uzmanlaşıyorlar, bunu da sizden alabildikleri kadar veri alarak yapıyorlar.” ifadelerini kullandı.
Mozilla, yapmış olduğu çalışmada 11 değişik suni zekâ duygusal söyleşi botunu inceledi. Bu botların içinde Replika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate, CrushOn.AI benzer biçimde popüler uygulamalar da yer aldı. Bahsi geçen söyleşi botlarının her biri birer Privacy Not Included rozeti almayı başarırken, Mozilla’nın incelemiş olduğu tüm ürün ve hizmetler içinde da en fena kategoriye girdiler.
Suni zekâ sevgililer bambaşka verileri de topluyor
Daha ilkin de verilerimizin toplandığı ve değişik amaçlarla kullanıldığı yönünde oldukça sayıda emek harcama karşımıza çıktı. Suni zekâ sevgililer ise daha değişik verilerimizi de topluyor. Mesela CrushOn.AI, cinsel sıhhat, ilaç kullanımı benzer biçimde mevzularda bilgiler topluyor. Uygulamaların da yüzde 90’ı bu detayları sayıyor ya da paylaşıyor. Yarıdan fazlası ise bilgilerinizi silmenize bile izin vermiyor. Güvenlik anlamında da bu uygulamalar sınıfta kalırken bir tek Genesia, Mozilla’nın minimum güvenlik standardını tutturabiliyor.
Mozilla’nın takip kodlarını incelediğinde elde etmiş olduğu sonuçlar da oldukça dikkat çekici. Bu uygulamalar, dakikada averaj 2663 takip kodu çalıştırıyorlar. Bu rakamı bu kadar yukarı çeken uygulamaların başlangıcında ise dakikada 24 bin 354 takip kodu çalıştıran Romantic AI oldu. Tek tek detaya girmeden özetlemek gerekirse bu uygulamalar, sizden “sırlarınızı ve arzularınızı” paylaşmanızı, ses kaydı göndermenizi ve fotoğraf atmanızı istiyorlar.
