Her insanın Kullandığı Lensa AI, Hanımefendileri Objeleştiriyor

Mühim bir gelişme kaydeden suni zekâ teknolojileri, son zamanlarda ciddi şekilde popülerleşti. DALL-E, Midjourney benzer biçimde sistemlerle oluşturulan eserler, web ortamlarını adeta tutsak almış durumda. Bununla beraber insanların avatarlarını oluşturan uygulamalarda da şu sıralarda bir patlama yaşanıyor ve hangi platformda gezersek gezelim suni zekâ desteğiyle ortaya çıkan bu görselleri görüyoruz.

Prisma Labs tarafınca oluşturulan Lensa AI da bunlardan biri. Belli ücretler karşılığında kullanılabilen bu uygulama, ‘Magic Avatars’ doğrusu **‘**Büyülü Avatarlar’ olarak adlandırılan bir özelliğe haiz. Bu, kullananların hakikaten de büyülü olarak nitelendirilebilecek avatarlarını oluşturmasını sağlıyor. Sadece bu durum, bazı sorunların da ortaya çıkmasına niçin olarak suni zekânın bir problemini de bizlere gösteriyor. Gelin bu mevzuya bir göz atalım.

Ilk olarak nedir bu Lensa AI? Iyi mi çalışıyor?

Lensa AI, bahsettiğimiz benzer biçimde Prisma Labs tarafınca oluşturulan bir uygulama. Son zamanlarda uygulama mağazalarında zirvede yer edinen Lensa, aslına bakarsak 2018’den beri var. Sadece, bu ayın başlarında sunulan ‘Büyülü Avatarlar’ özelliği popüler olmasını sağlamış oldu. Türkiye’de 88 TL’den süregelen fiyatlarla kullanılabilen suni zekâ destekli bu bilhassa beraber eklediğiniz fotoğraflar, değişik temalardan (fütüristik yada anime karakterlerini çağrıştıran görünümler benzer biçimde) eşi olmayan avatarlara dönüştürülebiliyor.

Lensa, internetteki eserlerden oluşan bir veri tabanından yararlanan açık kaynaklı bir suni zekâ derin öğrenme modeli olan Stable Diffusion’ı kullanıyor. Bu veritabanı, LAION-5B olarak adlandırılıyor ve CLIP isminde sinir ağı tarafınca filtrelenen 5,85 milyar metin-görüntü çiftini kullanıyor. 2022 senesinde piyasaya sürülen metinden görsel oluşturan derin öğrenme modeli Stable Diffusion’ın geçtiğimiz ay yeni bir sürümü de yayınlanmıştı.

Lensa AI ile alakalı öteki detaylar hakkında ve iyi mi kullanılabileceği mevzusunda data almak istiyorsanız aşağıdaki içeriğimize göz atabilirsiniz;

Lensa AI’ın hanımefendileri objeleştiren avatarlar oluşturduğu söyleniyor

Suni zekâ sistemleri her ne kadar gelişmiş olsa da hâlen bazı sorunlara haiz. Metinden görsele çeviren suni zekâların elleri ve parmakları oluşturmada problem yaşaması buna en iyi örnek olabilir. Sadece Polygon’un aktardığına Lensa’da durum birazcık daha değişik.

Son zamanlarda gelen bilgiler, Lensa AI’ın hanımefendileri cinselleştirirdiğini ve bazı ırkçı sonuçlar çıkardığını ortaya koydu. Toplumsal medyadaki birçok kullanıcı, uygulamada bayanlara büyük göğüslerin ve dekoltelerin eklendiğini söylerken o şekilde bir talep bulunmamasına karşın çıplak görsellerin bile oluşturulduğunu bildirdi.

Kaliforniya Üniversitesi’nden Olivia Snow da Wired’da yazıya döktüğü bir yazıda, kendi çocukluğundan fotoğraflar eklediğinde bile uygulamanın onu cinsel obje olarak lanse eden görseller ortaya çıkardığını aktardı. Uygulamanın sahiplerine bu mevzu hakkında sual yöneltildiğinde ise ekip, Snow’un kullanım koşullarını kasıtlı olarak ihlal ettiğini açıkladı. Lensa’nın politikaları, çıplak fotoğrafları yasaklarken evlatların görsellerinin kullanılmasını da engelliyor. Bununla beraber kullananların 18 yaşlarının üstünde bulunduğunu da beyan etmesi gerekiyor.

Kullanıcılara bakılırsa ırkçı sonuçlar ve çıplaklık içeren avatarlar bile var

Bunlara ek olarak uygulamanın ırkçı stereotiplere de avatarlarda yer verdiği söyleniyor. Örneğin yukarıda bir kullanıcının kendi fotoğraflarını kullanarak oluşturduğu görüntülerde, yapay zekânın Asyalı insanlar konusunda zorlandığı görülebiliyor.

Bunun dışında Asyalı kadınların fetişize edildiği de bildiriliyor. MIT Technology Review’da yazan Melissa Heikkilä isminde Asyalı bir gazeteci, Lensa uygulamasıyla yaşadıklarını aktardı. Buna bakılırsa kendi fotoğraflarından oluşturulan avatarlarda yüksek oranda çıplaklığa yer verildi. Gazeteci, öteki iş arkadaşlarının ise daha azca bu biçim bir durumla karşılaştığını belirtti.

Ek olarak kısa sürede bu suni zekânın çıplaklık içeren fotoğraflar oluşturmak için kandırılabileceği de ortaya çıktı. TechCrunch’ın paylaşmış olduğu bir rapor, kullananların kolay bir halde uygulamada çıplaklık içeren fotoğrafları oluşturabildiğini, hatta bunların ünlülerin görselleri ile yapılabildiğini gösterdi. 13 Aralık’ta yeni özellikler getiren Prisma Labs, güvenlik endişelerine neden olan avatarların daha azca çoğunlukla görülmesini sağlayacaklarını açıkladı.

“Suni zekâ, toplumumuzun bir yansıması”

Lensa’da yaşananlar, hâlen suni zekânın önünde uzun bir yol bulunduğunu ortaya koyuyor. Bilinmiş olduğu suretiyle daha ilkin de birçok kez bu sistemlerde bazı negatif durumlar oluşmuştu. Microsoft, geçtiğimiz yıllarda Tay isminde suni zekâsını ırkçı ve hanım düşmanı yorumlar sebebiyle kapatmıştı. Kısa sürede Meta da bir dil modelini benzer nedenlerden kapatmıştı.

Haziran ayında meydana getirilen bir araştırma ise Lensa’da gördüğümüz CLIP ağı tarafınca eğitilen sistemlerin cinsiyet ve ırk mevzusunda bazı stereotiplere niçin bulunduğunu ortaya koydu. Buna ek olarak hanımefendileri ve beyaz olmayan insanları tanıma olasılıklarının da düşük olmasına vurgu yapmış oldu.

Lensa da dahil suni zekâ sistemlerinin bu sorunla iyi mi başa çıkacağını ileriki zamanlarda göreceğiz. Uygulamanın sahibi Prisma Labs de yapmış olduğu açıklamalarda, Stable Diffusion’ın internetteki filtrelenmemiş veri üstünde çalıştığını vurgulayarak, ne kendilerinin ne de Stable AI’ın (Stable Diffusion’ın yaratıcısı) bu mevzuda bir şey yapamayacaklarını söylüyor. Ek olarak verilerin insanlığın mevcut önyargılarını modele tanıttığını söyleyerek suni zekânın toplumumuza bir ayna tuttuğunu da ekliyor.