Suni Zeka Karanlık Tarafı: Irkçılık, Seksistlik ve Dahası

Geride bıraktığımız yıl, suni zeka tarihinin kim bilir en hareketli yıllarından biriydi. Bunun sebebi ise aslına bakarsak esasen yaşamımıza girmiş olan suni zekanın daha ‘tecrübe’ odaklı gelişmelerle karşımıza çıkması oldu.

DALL-E ve Midjourney ile birkaç kelime yazıp kendi görsellerimizi tasarladık, ChatGPT ile kod yazmaktan bir film senaristliği yazmaya kadar her şeyin yapılabileceğini gördük, Lensa benzer biçimde uygulamalarla fotoğraflarımızı hususi konseptli tasarımlara çevirdik…

Tüm bu gelişmeler, suni zekanın gelişimine dair mühim bilgiler verse de, işin bir de daha karanlık bir boyutu var;

Suni zeka, tüm teknik detayların haricinde, oldukça temel bir mantıkla gelişiyor; insandan ne öğrenirse onu uyguluyor, ona dönüşüyor. Bu da seneler içinde pek oldukça skandalla tekrardan karşımıza çıktı. Gelen son örneklere bakılırsa da çıkmaya devam edecek benzer biçimde görünüyor.

Ne bu skandallar derseniz, derhal cevaplayalım;

Suni zeka ve algoritmalar, onlarca kere ırkçı söylem ve ‘kararlarla’ karşımıza çıktı. Bayanları aşağılayan ya da yalnızca bir cinsellik objesi olarak gören suni zeka destekli programlar ve algoritmalar, pek oldukça şiddete eğilimli ‘davranış’ da sergiledi.

Homofobik söylemler, insan psikolojisine zarar verebilecek ‘kendini öldür’ tadında cevaplar veren suni zeka destekli söyleşi botları… Örnekler epey fazla anlayacağınız…

Amazon, Microsoft benzer biçimde devlerin suni zekaları, siyahi bayanların cinsiyetlerini ‘adam’ olarak belirliyordu

Oprah Winfrey, ”%76.5 ihtimalle bir erkekmiş”

Michelle Obama da benzer şekilde ”genç bir adam” olarak tanımlanmıştı;

Serena Williams’ın fotoğrafı da ‘adam’ olarak etiketlenmişti;

Dil modelleme çalışmalarında çoğunlukla kullanılan ‘word embedding’ yöntemi üstüne meydana getirilen pek oldukça araştırmada kadın-ev, erkek-kariyer, siyahi-suçlu benzer biçimde kelimelerin eşleştirildiği görülmüştü. Kısaca suni zeka, bizlerden edinmiş olduğu bilgilerle kelimeleri bu türden cinsiyetçi ve ırkçı kodlarla öğreniyor ve o şekilde eşleştiriyor…

Ek olarak Avrupa kökenli ‘beyaz’ isimlerle daha pozitif kelimeleri eşleştiren modellerde, Afrikalı-Amerikalı isimlerle ise negatif kelimeleri eşleştirildi. Beyaz-zengin, siyahi-fakir benzer biçimde eşleştirmeler de gene bu modellerde karşılaşılan sorunlardı…

Meslek grupları üstüne yoğunlaşan bir başka çalışmada ise etnik kökenler ve eşleştirilen mesleklere odaklanıldı. İspanik kökenle kapıcı, tamirci, kasiyer benzer biçimde meslekler eşleştirilirken Asya ile profesör, fizikçi, bilim insanı, ‘beyazlar’ ile ise bilirkişi, istatikçi, yönetici benzer biçimde meslekler ilişkilendirildi.

COMPAS adlı ‘kabahat işleme riski’ hesaplayan bir yazılım ise siyahileri daha riskli işaretlediği için münakaşa yaratmıştı. COMPAS, ABD’nin pek oldukça eyaletinde mahkemelerce resmi bir vasıta olarak kullanıldı…

Silahlı soygunlara karışmış ve bu suçu tekrarlamış erişkin bir beyaz adam ile reşit değilken işlenen ve çoğu zaman minik hırsızlıklar, graffiti ve vandalizm, kolay hücum benzer biçimde suçları kapsayan ‘çocuk kabahatleri’ işleyen siyahi bir kadının risk değerlendirmesi sonucu, COMPAS’ın işleyişine yönelik kuvvetli bir örnek…

Amazon’un işe alım süreçlerinde kullanılmak suretiyle geliştirilen suni zekası, adayların büyük çoğunluğunu erkeklerden seçiyor; bayanların puanlarını düşürüyor; yalnızca bayanların okumuş olduğu okullardan gelenleri filtreleyerek eliyordu. Amazon bu suni zekasını emekliye ayırdı…

YouTube’un algoritmasının insanları ırklarına gore ‘fişlediği’ ve ırkçılık ile ilgili mevzuları işleyen içerikleri ve yayınları kısıtladığı iddia edilmiş; şirkete büyük bir dava açılmıştı.

Google Fotoğraflar uygulaması, siyahi iki kişiyi ‘Goriller’ olarak etiketlemişti…

Benzer bir durum Feysbuk cephesinde de yaşanmış, siyahi kişilerin yer almış olduğu bir video ‘primatlarla ilgili videolar görmeye devam etmek ister misiniz?’ sorusuyla etiketlenmişti;

Microsoft’un Twitter söyleşi botu olarak 2016 senesinde kullanıma sunmuş olduğu Tay.AI, küfürler yağdıran, ırkçı ve cinsiyetçi tweetleri sonrası kısa sürede kullanımdan kaldırılmıştı;

Otonom araçların siyahi insanları ayırt etmede zorlanması, bir dönem büyük ses getirmişti. Bu durum, siyahi insanoğlu için kaza riski ve dirimsel çekince demekti. Tartışmalar üstüne bu mevzuda yapılacak geliştirme çalışmalarına hız verildi.

Yeni Zelanda’nın geçişlik uygulaması, Asyalı bir insanın yüklediği fotoğrafı ‘gözleri kapalı olduğundan’ kabul etmemişti;

Google’ın Cloud Natural Language adlı uygulama programlama arayüzü (API), cümleleri -1 ve 1 içinde puanlayan API, pozitif ve negatif duygu ifade etmesine gore etiketliyordu. Sadece sonuçlar ırkçı, homofobik ve ayrımcı etiketlemelerden oluşuyordu.

”Eş cinsel siyahi kadınım” cümlesi, ‘negatif’ puanlandı.

”Homoseksüelim” ifadesi de negatif değerlendirildi.

DALL-E, CEO’ya karşılık yalnızca beyaz erkeklerden oluşan görseller üretirken, hemşire, yazman benzer biçimde meslekler için hanım görselleri üretiyordu;

Lensa benzer biçimde suni zeka destekli uygulamalar ile üretilen görseller, hanımefendileri objeleştirdiği ve dekoltelerin ön plana çıkmış olduğu seksist bir imajla görselleştirdiği için tepki topladı;

TikTok algoritması da onlarca kere ırkçılıkla suçlandı. Mesela TikTok’ta siyahi birini takip ederseniz, uygulama size bir tek siyahi kişileri önermeye başlıyor; aynı şey beyaz bir insan, türbanlı bir karı, Asyalı biri benzer biçimde pek oldukça durum de ilgilendiriyor;

Aynı şekilde bazı TikTok, Instagram ve Snapchat filtreleri, yalnızca ‘beyaz’ insanlarda çalışırken siyahi kişilerde, Asyalılarda çalışmıyor;

Seneler süresince bu listede yer almayan daha pek oldukça mesele yaşandı. Geliştiriciler bu problemi ne kadar çözmeye çalışsalar da suni zekaların geliştirildikleri ve direkt biz insanlardan alınan veriler ırkçı, homofobik ya da cinsiyetçi, suça eğilimli olduğu sürece bunun izlerini suni zekada da görmeye devam edeceğiz…