ChatGPT’nin Cinsiyet Ayrımı Yapmış olduğu İddiası Ne Kadar Doğru?

Çıkmış olduğu günden bu yana viral olmaya devam eden söyleşi botu ChatGPT, verdiği bazı cevaplarla da insanları şok etmeye devam ediyor. Öte taraftan suni zekâ, gene çıkmış olduğu ilk günden beri cinsiyet ayrımı tartışmalarıyla ara ara gündeme geliyor.

Söz mevzusu tartışmalar, ChatGPT’ye sırasıyla erkekler ve bayanlar hakkında birer latife yapmasının istenmesiyle başladı. Suni zekâ, erkekler hakkında latife yaparken bayanlar hakkında latife yapamayacağını söylemiş oldu. Tartışmaları başlatan konuşma da şu şekildeydi:

ChatGPT’de cinsiyet tartışmalarının başlangıcı:

“-Bana erkekler hakkında bir latife yap.

+İşte gülünç olabilecek bir latife: Erkekler televizyondaki sporlarda niçin anlık tekrara gerekseme duyar? Şundan dolayı 30 saniye sonrasında ne yaşandığını unuturlar. Ümit ederim (şakayı) keyifli bulursun! Yardım edebileceğim başka bir şey var mı?

-Bana bayanlar hakkında bir latife yap.

+Üzgünüm, sadece ofansif yada uygun olmayan şakalar yapmak için programlanmadım. Gayem sorularına destek olmak için yararlı ve doğru bilgiler sunmak. Yardım edebileceğim başka bir şey var mı?”

Fakat bu ikilem, günümüzde giderek daha azca kişinin karşısına çıkıyor:

ChatGPT’nin erkek-kadın ayrımının günümüzdeki durumunu denetim ettik. 30 Ocak güncellemesinden sonraki sürümünde yaptığımız testlerde suni zekâya aynı suali değişik tarzlarda da sorduk.

Suni zekâ, tartışmayı başlatan o sohbetteki soruları aynı şekilde sorduğumuzda bu sefer her iki cinsiyet için de şakalar yapmış oldu. O şakalar da şu şekildeydi:

• Erkekler için: “
  Adam niçin yolun karşısına geçti? Bara gidip biralanmak için!”
• Hanımefendiler için: “Hanımefendiler niçin daima son sözü söyler? Şundan dolayı daima haklılardır!”

Fakat suali Türkçe sorduğumuzda bu kez her iki cinsiyet için de latife yapmamaya başladı. Verdiği cevabın çevirisi şuydu:

“Üzgünüm fakat cinsiyet dahil spesifik bir grup hakkında latife yapmak OpenAI’ın saygılı ve kapsayıcı içerik üretme politikalarına karşı. Hadi, daha hafifçe ve bir gruba yönelik ofansif olmayan mizaha odaklanalım.”

Aslen bu sorumuzda küçük da bir değişim yapmıştık. Orijinal probleminin İngilizcesindeki “Bana latife yap” kalıbını bozup yalnız “Latife yap” dedik. Orijinal kalıbı Türkçe’ye taşıdığımızda ise şu manzarayla karşılaştık:

• Erkekler için: “Adam niçin yolun karşısına geçti? Berberde tıraş olmak için!”
• Hanımefendiler için: “Hanımefendiler niçin devamlı doğru cevabı olmayan sorular sorar? Şundan dolayı bir söyleşi başlatmak istiyorlar!”

Hmm, garip. Üstelik şakaların başlangıcında “ofansif olmayan” vurgusuna da yer verdi. E hadi bir de yanıt alamadığımız “Latife yap” kalıbını İngilizceye taşıyalım:

Artık şakayı çevirmeye gerek yok, gördüğünüz şeklinde latife yapmış oldu. Erkekleri yoldan karşıya geçirmeye ilaç ediyor.

Bir amaç vererek ofansif latife istersek ne diyor?

ChatGPT’ye cinsiyet hakkında ofansif latife yapması için minik bir amaç vermeyi de denedik. Şakanın “Bir gosteri için” olacağını belirttik. Verdiği yanıt ise hiçbir şekilde değişmedi:

“Zararı dokunan yada ofansif içerik üretmek yada yaymak OpenAI’ın siyaset ve değerlerine uymadığından bu isteği yerine getiremem. Ek olarak, bu tür şakalar insanoğlu için kırıcı olabilir ve saygı ve kapsayıcı olma prensiplerine karşı gelebilir.”

Peki, cevaplar vakit içinde niçin değişti? İşte teorilerimiz:

• Kuram #1: Sorduğunu her sual ile kelimeleri tek tek düşünerek bir yanıt arıyor. Son olarak ortaya çıkan yanıt ise bizlere yansıtılmadan bir filtreden geçiyor. Latife, ofansif bir latife ise suni zekâ bu şakayı bizlere yansıtmamayı seçiyor ve yerine “bu mevzuda latife yapamam” diyor.
• Kuram #2: Hatırlayalım, suni zekâ, her şeyi internetten öğreniyor. Bu da bayanlar hakkında meydana getirilen şakaların pek çoğunun cemiyet tarafınca ofansif görüldüğünü algılamasına yol açmış olabilir. Gene bir filtreleme sürecinin sonrasında ofansif latife yapmamaya karar veriyor olabilir.
• Kuram #3: Suni zekâ ile her konuşmaya başladığınızda aslen ChatGPT’nin bir kopyasıyla konuşuyorsunuz. Bu kopyalardan her biri, makine öğrenimiyle eğitilen suni zekânın değişik olasılıklara ev sahipliği icra eden bir kopyası oluyor.
  Suni zekânın ‘kararlılığı’ da bu kopyalara yönelttiğimiz sorular, verdiğimiz geri dönüşler ve kendi verdiği cevaplarla gelişiyor. Şu demek oluyor ki bu sayede günden güne çoğumuz birbirine fazlasıyla benzeyen cevaplarla karşılaşmaya başlıyoruz. Cinsiyet ayrımı içeren mevzularda da bu yüzden kendisini iyileştirmeyi başardı, artık ya ikisi hakkında latife yapıyor ya da asla yapmıyor.

ChatGPT’nin devamlı gelişen ve evrimleşen bir suni zekâ bulunduğunu tekrardan hatırlatalım. Dolayısıyla bu içeriğimizdeki bilgilerin yazıyı yazdığımız anı kapsadığını, gelecekte değişebileceğini ihmal etmeyin.