Suni Zeka Uzmanından Önyargı Uyarısı

Suni zekanın tanımına baktığımızda, insan zihninin gerçekleştirebileceği işlemleri gerçekleştirebilen makine ve yazılımlar olduklarını görüyoruz. Amazon Alexa benzer biçimde günlük yaşamımızda gördüklerimizden Google’ın aramalarımızı tahmin eden sistemine kadar pek fazlaca değişik suni zeka bulunuyor.

Bir suni zeka uzmanı, acilen ilgilenilmesi ihtiyaç duyulan bir soruna dikkatleri çekti. Leiden Üniversitesi’nden suni zeka alanında destek profesör Peter van der Putten, suni zekada yer edinen bir kusuru göz önüne çıkardı.

Suni zekada önyargı problemi

Karar vermek çoğu zaman karmaşık bir sürecin sonucu olarak gerçekleşir. Elde edilmiş tek bir çıktı (alınan karar) olmasına karşın altta yatan değişik etmenler olabilir. Bu etmenleri değerlendirirken gözlemciler kendi deneyimlerine gore hareket ederler. İşe alım meydana getiren bir kişinin adayları “Benimle aynı okuldan mı?” ya da “Kimler benim okulumdan değil?” diye ayırma yoluna gitmesi bir yanlılık göstergesidir.

Van der Putten de bu aşamada suni zekaların kendi başlarına iyi ya da fena olmadıklarını söyleyerek mevzuya dahil oluyor. Gene de insanların önyargılarını ve yanlılıklarını da bu sistemlerin kopyalayabileceğini ifade ediyor.

Suni zeka uzmanı ek olarak verilerden dolayı da önyargıların ve hataların sistemlere aktarılabileceğini belirtiyor. Mesela insan kaynakları için geliştirilen bir suni zekanın, bayanların yaşamış olduğu mesleki yükselme sorunlarını önyargı olarak kopyaladığı ortaya çıkmıştı. Öteki çalışan verilerinden yola çıkarak eğitilen suni zeka, daha üst seviyelerde denk adaylarla karşılaştığında hanım adayları reddetmeye yönelmişti.

Suni zeka önyargıyı öğreniyor

Kuralların ve verilerin kendi içinde barındırdığı önyargı, devamlı için direkt isimlendirilemese de istatistiklerle ortaya konabiliyor. Bu istatistiksel yapıyı evvel keşfeden suni zeka da sonrasında kendi kodunun parçası haline getiriyor.

Apple’ın kurucularından Steve Wozniak, algoritmaların bayanlara karşı önyargılar geliştirmiş olabileceğini dile getiren bir başka isim olmuştu. Firmanın kredi kartı da kredi özellikleri benzer olan hanım ve erkeklere değişik limitler sunmuştu.

Uzmanlara gore suni zeka, onu kurarken kullanılan veri kadar önyargılı ve yanlı oluyor. Bunu engellemek mümkün değil sadece tesirini denetim edilebilir tutmak mümkün olabiliyor. Suni zeka yeni verilerle bir şeyler öğrendikçe bizde bir şeyler öğreniyoruz benzer biçimde duruyor.