ABD’de Bir Hanım Suni Zekâ Hatasından Gözaltına Alındı
32 yaşındaki Porcha Woodruff, yüz tanıma sistemini hatası yüzünden işlemediği bir kabahat sebebi öne sürülerek gözaltına alındı.
Suni zekâ teknolojileri, üretken araçlarla akıllı telefonlarımızda bile kullanabileceğimiz hâle gelmiş ve milyarlarca kişinin hizmetine sunulmuş olsa da aslına bakarsak senelerdir hayatımızda büyük bir paya da sahipler. Birçok sektörde bu teknolojiler, güvenlik, öngörü, işleyiş ve kolaylaştırma amaçlı kullanılıyor.
Doğal bazı kullanımlar, ara sıra tartışmalara yol açabiliyor; ABD’de polis güçlerinin bu sistemleri yüz tanıma için kullanımı şeklinde. Daha ilkin bu teknoloji yüzünden haksız yere suçlanan vatandaşlar görmüştük. Bunlar arasına kısa sürede bir yenisi daha katıldı.
Yanlış gözaltıyla yaşananlar:
İki çocuk sahibi ve üçüncü çocuğuna 8 aylık hamile olan 32 yaşındaki siyahi hanım Porcha Woodruff, evinde çocuklarını okula göndermeye hazırlanırken kapısını polisler çaldı. Ekip, Woodruff’ı otomobil hırsızlığı suçlamasıyla evinden aldı.
Woodruff, bu karşı karşıya gelme esnasında “Latife mı yapıyorsunuz?” sorusunu sorup karnına işaret ederek kabahat işleyecek durumda bile olmadığını anlatmaya çalışsa da işe yaramadı. Detroit Gözaltı Merkezi’ne götürüldü ve burada 11 saat tutuldu.
Gözaltı esnasında telefonu aranmak suretiyle elinden alındı, kendisi de işlemediği bir kabahat için sorguya çekildi. Üstelik gözaltında kalmış olduğu hücre içinde sırt ağrısı çekti, kasılmalar yaşadı. Daha da üzerine, özgür kalabilmesi için 100 bin dolarlık kefalet öngörüldü.
Doğal iş burada bitmedi. Gözaltından çıkan Woodruff, direkt hastaneye gitti. Burada kendisine susuzluk teşhisi kondu ve damar yöntemiyle sıvı takviyesi yapılmış oldu.
Bir sonraki gün polis departmanına giderek telefonunu aldı, ileriki zamanlarda iki kez Zoom üstünden mahkemeye çıktı. Fakat yargıç, yetersiz kanıt sebebi öne sürülerek davayı düşürdü.
Fakat tamamı, bir tek yanlış çalışan bir yüz tanıma sistemi sebebiyle gerçekleşti ve geçtiğimiz şubat ayında yaşandı.
Suni zekâ, altıncı kez yanlış kişinin gözaltına alınmasına/tutuklanmasına yol açtı: Hepsinin bir ortak noktası var!
Woodruff, ABD’de suni zekâ sebebiyle gözaltına alındığı malum altıncı şahıs ve ilk hanım oldu. Bu altı kişinin tek ortak noktasıysa siyahi olmalarıydı. Olay, Detroit Polis Departmanı içinse üçüncü olay oldu.
Kent polisi, DataWorks Plus tarafınca sağlanan bir yüz tanıma sistemini kullanıyor.
Woodruff, bu hafta Detroit şehrine dava açtı:
Yaşanmış olan olayların üstüne Woodruff, salı günü Detroit şehrine karşı dava açtı. Davanın açılmasıyla beraber Detroit polisinden de izahat geldi. Şef James E. White, The New York Times’a yapmış olduğu açıklamada durumu ciddiye aldıklarını beyan etti:
“Davada yer edinen iddiaları inceledim. Oldukca kaygı vericiler. Bu mevzuyu oldukça ciddiye alıyoruz sadece ek soruşturma gereği sebebiyle şu anda daha çok yorum yapamıyoruz.”
Yüz tanıma sisteminin yanlış emek verme mantığı:
- Woodruff’ın yanlış eşleştirilmesine neden olan fotoğrafı (sol) ve şimdiki hali (sağ).
Woodruff’ın yüzünün aslolan suçluyla eşleştirilmesinin sebebi, suni zekâ için geliştirilen sistemdeki açık verebilecek uygulamaydı. Sistem, kişileri daha ilkin kriminal aktiviteleri olan kişilerle karşılaştırıyordu. Sistemden gelen eşleştirmelerin son onayı ise bir insan tarafınca veriliyordu.
Woodruff’ın gözaltına alınmasına yol açan vakası inceleyen analist de eşleşmeyi doğru buldu ve Woodruff’ın adını dedektife gönderdi. Woodruff’ın bu sistemde yüzünün olma sebebi ise 2015 senesinde ehliyetsiz vasıta kullanmaktan göz altına alınmasıydı.
Sadece tek kabahat sistemde de değil:
Eşleştirmeyi doğru gören analistin yanı sıra vasıta hırsızlığının mağduru olan şahıs de aralarında Woodruff’ın yer almış olduğu 6 kişiyi kendi gözüyle görmüş oldu, suçlu olarak Woodruff’a işaret etti. Kadının gözaltına alınmasını elde eden son unsur de aslına bakarsak buydu.
