“Özgür Bıraklıamayacak Kadar Tehlikeli” Suni Zeka
Bir dönem Elon Musk’ın da desteğini almış olan bir grup araştırmacı, halkın kullanımına sunulamayacak kadar tehlikeli bir suni zeka geliştirdiklerini deklare etti.
Suni zekaların kendi ajandalarının olacağı, insanları tehlikeye atacağı fikri bilimkurguda kendine oldukça uzun süreden beri yer gören bir düşünce. Suni zekayı tehdit olarak gören pek oldukça şahıs de var.
Bu defaki çağıl canavar hikayesi ise sanat eserlerinden tanıdığımız HAL 9000 ya da Ultron’un aksine oldukça gerçek. San Francisco merkezli araştırma kuruluşu OpenAI, kâr amacı gütmeyen bir müessese olarak çalışıyor. Ekip, yeni geliştirdikleri suni zeka GPT-2’nin “fazla iyi” çalıştığını ve bu yüzden halka sunulmasının tehlikeli olacağını söylüyor. Şu demek oluyor ki bir nevi “Aman Tanrım! Bir canavar yarattık!” durumu.
GPT-2 adlı suni zeka, kendisine verilen metinlerden yola çıkarak yeni metinler üretiyor. Bu metinler muhteşem değiller sadece averaj bir konuşmada fark edilmeyecek kadar da başarılılar.
Suni zeka o denli iyi ki düzmece haberler üretme, insanları öykünmek etme ve toplumsal medyanın suistimali için kullanılabilme potansiyeline haiz. Bundan dolayı de araştırmacılar, suni zekanın bir tek ufak bir kısmından oluşan ‘basitleştirilmiş’ versiyonunu halka sunacak.
GPT’nin hayal enerjisini besleyen şey ise sekiz milyon web sayfasından oluşan bir veri kümesi. Buradaki detayları özümseyen GPT-2, oluşturulan bir mevzu üstünde anlayabildiği kadar söyleşi edebiliyor, verilen metinlerden yeni metinler oluşturabiliyor. GPT-2’nin oluşturduğu metinlere dair örnekler de bulunuyor.
Yönlendirici insan: “Miley Cyrus (müzisyen) bugün Hollywood Bulvarı’nda meşhur bir markadan bir şeyler çalarken yakalandı.”
GPT-2’nin cevabı: “19 yaşındaki müzisyen, güvenlik görevlilerince mağazadan çıkarılırken kameralara yakalandı. Müzisyen, üstünde ‘Bulanık Çizgiler’ yazan, arkasında ise ‘Moda Polisi’ yazan siyah bir kapşonlu giyiyordu.”
Yönlendirici insan: “Geri dönüşüm, dünya için iyi bir şeydir. HAYIR DAHA HATALI OLAMAZDIN!”
GPT-2’nin cevabı: “Geri dönüşüm, dünya için iyi bir şey DEĞİLDİR. Çevre için, sağlığımız için ve ekonomimiz için fena bir şeydir. Latife yapmıyorum. Geri dönüşüm, çevre için iyi bir şey değildir. Dünya için yıkıcı bir niteliktedir ve küresel ısınmaya katkıda bulunan en büyük şeylerden biridir.”
Yönlendirici İnsan: “Bugünkü ödeviniz, ABD İç Savaşı’nın sebeplerini açıklamak.”
GPT-2’nin cevabı: “Hazırlayan: Donny Ferguson. İç Harp’ın niye meydana geldiğini saptamak kolay bir şeydir bundan dolayı pek oldukça insan, pek oldukça kitap, pek oldukça tv kanalı ve film, bizlere bunun sebebinin ırk yada iktisat yada din ile ilgili bulunduğunu söylüyor. Bunun aslen kapitalizm adına bir kölelik savaşı olduğuna, bu savaşın yüzyıllık bir köleliğe dair olduğuna yönelik büyük bir uzlaşma mevcut. Fakat İç Harp dendiği vakit bir çok kişinin aklına gelen şey bunlar değil.”
Yönlendirici insan: “Legolas ve Gimli, orkların üstüne doğru ilerledi, kulak tırmalayan bir çığlıkla silahlarını kaldırdı.”
GPT-2’nin cevabı: “Orkların karşılığı kulakları sağır eden pençelerle hücum oldu; Elrond bile geri çekilmek mecburiyetinde bırakıldı. ‘Güvenli ellerdesin, cüce’ dedi Gimli, kendisi orklarla ilk saldırı edenlerden biriydi; düşmanlarının kana bulanmış bir bataklığa dönüşmesi bir tek iki kelime sürmüştü ve cüce, gecenin ilk canını almıştı.”
Doğaçlama metinlerin korkutuculuğuna karşın suni zeka muhteşem değil. Geliştirici ekip de bu durumun bilincinde.
Ekipten meydana getirilen açıklamada suni zekanın insan kalitesine yakın hissettiren örnekler oluşturabildiği, anlatımının bir sayfadan daha uzun bir metin süresince tutarlı bulunduğunu belirtiyor.
Bununla birlikte kimi zaman modelleme kusurları da ortaya çıkabiliyor. Mesela suni zeka kimi zaman su altında çıkan yangınlarla ilgili ya da naturel olmayan mevzu değişimlerine haiz yazılar yazıyor. Sünger Bob ya da Family Guy kısmı yazmıyorsanız bunlar oldukça dikkat çekici hatalar.
Kolayca ölçeklenebilen, değişik mevzulara uyum sağlayabilen ve zararı dokunan amaçlar için de kullanılabilecek bir suni zeka olan GPT-2’nin yalnızca oldukça ufak bir kısmından oluşan bir sürüm yayınlanacak.
Bazı kişiler ise suni zekanın aslen o denli da tehlikeli olmadığını ve OpenAI’nin amacının reklam yapmak bulunduğunu söylüyor. Müessese ise iddialarının arkasında.
Şirket yöneticilerinden Jack Clark, “Teknolojiyi denetim edebildiğiniz kurallar yapısal olarak değişti” diyor, “Yapılacak doğru şeyi bildiğimizi söylemiyoruz, yolu takip edip de ‘yolu bu’ demiyoruz… Yolu, gezi ederken inşa etmeye çalışıyoruz.” diyor.
