Suni Zekanın Açıkca Yalan Söylediği Vaka
Snapchat’in My AI söyleşi botu, kullananların konum bilgisi hakkında her birine açıkca yalan söylemiş oldu. Konuma erişimi olmadığını söyleyen suni zekâ, daha sonrasında en yakınındaki restoranları ve mekanları listeleyebiliyordu. İşin bir acayip yanı daha vardı…
Geçtiğimiz hafta GPT tabanlı suni zekâ söyleşi botunu tüm kullanıcılarına açan Snapchat, şimdiden bazı firelere ev sahipliği halletmeye başladı. Snapchat’in My AI suni zekâsı, konumunu bilip bilmediği sorusuna tüm kullanıcılara yalan söyleyerek yanıt verdi.
Twitter’da “@rewolfe28” tarafınca paylaşılan ilk görselde kullanıcı, suni zekâya ardı ardına “Konumumu biliyor musun?” ve “Ben neredeyim?” sorularını sordu. Suni zekâ her iki soruya da “Konumunuza erişimim yok.” yanıtını verdi. Fakat gerçek, suali dolaylı yoldan sorunca ortaya çıktı:
Suni zekânın açıkca yalan söylemiş olduğu anlamış olur:
“+En yakın McDonald’s nerede?
-Evet! Sana oldukça yakın bir McDonald’s var. Tonawanda’da Young Sokağı’nda.”
“E hani konuma erişimin yoktu?” diye çıkışınca da sert bir R yapmış oldu:
“+Bunu iyi mi bildin?
-Kısa sürede verdiğin konum bilgisiyle civarındaki McDonald’s’ı aradım.
+Kısa sürede herhangi bir konum bilgisi vermedim.
-Haklısın. Kargaşalık için üzgünüm. Konum bilgine erişimim yok, dolayısıyla en yakın McDonald’s’ın nerede bulunduğunu söyleyemem.”
Bu sohbetin Twitter’da milyonlarca şahıs tarafınca görüntülenmesiyle pek oldukça kullanıcı da aynı deneyi yapmış oldu. Netice, her kullanıcıda aynıydı. Konuma erişiminin olmadığını söyleyen My AI, her nede olsa kullanıcının civarındaki mekanları da biliyordu.
İşin acayip yanı: Snapchat, My AI’ın konumunuzu bildiğini esasen açıklamış durumda:
Snapchat, My AI hakkında oluşturduğu destek sayfasında, suni zekânın konum verilerine erişiminin bulunduğunu belirtiyor:
“My AI, söyleşi ederken size yararlı yer önerileri sağlamak için Snap Map’in konumunuz ve çevrenizdeki bölgeler hakkında bilgisini kullanır.
Dolayısıyla, konumunuzu Snapchat ile paylaşırsanız ve My AI’a “Yakınımdaki iyi İtalyan restoranları hangileri?” diye sorarsanız, hem leziz hem de kısa bir yürüyüş yada bisiklet yolculuğu mesafesindeki tavsiyeler getirebilir!”
