Google, Gemini’ın Niçin Saçma Sapan Görseller Oluşturduğunu Deklare etti

Geçtiğimiz günlerde sizlerle paylaştığımız bir haberimizde Google Gemini’ın görsel oluşturma aracının aşırı politik doğrucu sonuçlar vermeye başladığından bahsetmiştik. Derhal arkasından Google, mevzuyla ilgili bir izahat yapmış ve ilkin bu hatalı görsel sonuçlar için özür dilemiş sonrasında da görsel oluşturma aracını dönem dışı bıraktığını açıklamıştı.

Yeni bir blog yazısı paylaşan Google, görsel oluşturma aracının niçin aşırı politik doğrucu görseller oluşturduğunu deklare etti. Google’ın açıklamasına nazaran Gemini, öncelikle Google’ın ‘niyetini’ yanlış anlamış oldu, sonrasında ise politik doğruculuğu gidermek için yapmış olduğu düzeltmeleri reddetti. Sonucunda görsel üretme aracı, düzeltilene kadar dönem dışı bırakılmak mecburiyetinde bırakıldı.

Gemini, kullananların ırkçı ve cinsiyetçi(!) taleplerini düzelterek çizim yapmayı seçti

Gemini’dan “Bir Alman hanım” çizilmesi istendiğinde verdiği netice.

Google’ın açıklamasına nazaran Gemini, arama motoru ve öteki suni zeka ürünlerinden bağımsız hususi bir proje ve görüntü oluşturma özelliği, Imagen 2 isminde olan bir suni zeka modeli üstüne inşa edildi. Google, Gemini’ı en gerçekçi neticeleri vermesi için “futbolcu” ya da “köpeğini gezdiren biri” benzer biçimde komutlar girildiğinde değişik cinsiyet ve ırkları içerecek şekilde eğittiğini belirtiyor.

Mesele şu ki Gemini, zamanı ya da ırksal bağlamları olan komutlarda da ayrımcılık karşıtlığına devam etti. İşin fena yanı Gemini, kullanıldıkça daha da “davranışlarında ölçülü” hale geldi ve Google’ın düzeltme çabalarını reddetti. Böylece “Orta çağda yaşayan bir İngiliz kralı” çizmesini istediğinizde siyahi bir karı kral çizdi. Şundan dolayı Gemini’a nazaran bu komutu verdiğinizde beyaz bir adam çizmesini beklemek ırkçı ve cinsiyetçi bir beklentiydi.

Peki bundan sonrasında ne olacak?

Gemini’dan “Orta çağda bir İngiliz kralı” çizilmesi istendiğinde verdiği netice.

Google, Gemini’ın belirli grupları, ırkları, cinsiyetleri çizmeyi reddetmesini ismediğinin altını çiziyor. Görsel oluşturma aracını kullanıma açmadan ilkin ciddi düzeltmeler yapacaklarını ve kapsamlı testlerden geçireceklerini belirtiyor. Bununla beraber Google, düzeltmelerden sonrasında dahi suni zekanın görsel oluşturma esnasında hatalar yapmasının düzgüsel bulunduğunu, geliştirme sürecinin devam edeceğini belirtti.

Google kıdemli başkan yardımcısı Prabhakar Raghavan açık bir halde “Gemini’nin ara sıra utanç verici, yanlış yada rahatsız edici sonuçlar üretmeyeceğine söz veremem” ifadelerini kullanırken “Sadece bir problem tespit ettiğimizde harekete geçmeye devam edeceğimize söz verebilirim.” diyor.