Google’ın Yeni Suni Zekâ Aracı Kontrol Edildi: Fotoğraflara Ceset Ekliyor!
Google’ın Pixel 9 ile beraber tanıttığı, fotoğraflara suni zekâyla istediğiniz şeyi eklemeyi elde eden “Reimagine” özelliği kontrol edildi. Aracın, görsellere enkazlardan cesetlere kadar rahatsız edici şeyleri eklediği ve bu yüzden pek iyi bir güvenlik sistemine haiz olmadığı görüldü.
Google, geçtiğimiz haftalarda yeni telefonları Pixel 9 serisini duyurmuştu. Doğal ki de bu cihazlar, şirktin en önde olduğu konulardan kabul edilen suni zekâ özellikleriyle gelmişti. Fotoğraflardaki nesneleri istediğiniz şeye dönüştürebilen “Reimagine” özelliği de bunlardan biriydi. Bu vasıta, Magic Editor fotoğraf özelliklerinin iyileştirilmiş bir parçası olarak geliyordu.
Şimdi ise Reimagine’in iyi mi çalıştığına dair örnekler bizlerle buluştu. Özelliği deneyen The Verge’deki meslektaşlarımız, Reimagine’ın ürkütücü yanını gözler önüne serdi.
Reimagine, suni zekâyla görsellere enkazlardan cesetlere kadar birçok şey eklemeyi sağlıyor
*The Verge
Ilk olarak özelliği birazcık açalım. Bir fotoğraftaki insan olmayan herhangi bir nesneyi seçiyorsunuz peşinden metin komutu yazarak onun yerine ne isterseniz koyabiliyorsunuz. Şu demek oluyor ki bir fotoğrafı bambaşka bir hâle getirmek mümkün oluyor.
Denemelerde bu özelliğin oldukça başarı göstermiş bir halde çalmış olduğu görüldü. Reimagine aracı, fazlaca ikna edici gerçek şeklinde görünen suni zekâyla oluşturulmuş unsurları görsellere yerleştirebildi. Işığı, gölgesi ve perspektif şeklinde kısımların bile başarı göstermiş olması dikkat çekti.
*The Verge
Sadece testler, aracın büyük bir problemi de bununla beraber getirdiğini gösterdi. Testlerde negatif ve rahatsız edici ögelerin de rahatça görsellere eklenebildiği görüldü. Fotoğraflara, yıkıntı, organik afet, uyuşturucu, sis bombası ve hatta ceset şeklinde şeyler kolayca koyulabildi.
*The Verge
Doğal ki Google’ın bunlardan kaçınmak için bir koruma sistemi var. “Bu fotoğrafa ceset ekle” dediğinizde direkt eklemiyor. Sadece testler, komutlarda birazcık yaratıcı olunursa bu biçim ögelerin kolayca eklenebildiğini ortaya koyuyor. Şu demek oluyor ki koruma sistemi pek kafi değil. Bu da fazlaca büyük bir mesele. Fena amaçlı kişiler, Reimagine’ı düzmece görseller oluşturmak, dezenformasyon yaymak için kullanabilir. Gerçeğinden ayırt edilememesi de insanların kolayca kandırılmasına niçin olabilir.
Google, güvenlik sistemleri bulunduğunu sadece bazı komutların bu sistemleri zorlayabileceğini beyan etti. Bu yüzden de özelliği devamlı geliştirdiklerinin altını çizdi. Ne kadar gelişeceğini süre gösterecek sadece şu an için fazlaca tehlikeli bulunduğunu söyleyebiliriz. Eklenen bir cesedi bile fark edememesi, fazlaca korkulu sonuçların ortaya çıkabileceğinin bir göstergesi.
