OpenAI’dan Suni Zekânın Risklerine Yönelik Yarışma
DALL-E, ChatGPT, Whisper şeklinde suni zekâ modellerini geliştiren OpenAI’dan kamuoyuna gelen bir davet var: Suni zekâları fena niyetle kullanabilmek için elimizden geleni yapmamız.
Son devrin en öne çıkan teknolojileri içinde yer edinen üretken suni zekâlar için her şey güllük gülistanlık değil. Düzmece görseller oluşturanlar, deepfake teknolojisini kullananlar suni zekâları fena amaçları için kullanabiliyordu. Şimdi buna değişik şekillerde suni zekâyı manipüle edenler de eklendi. OpenAI, bu türden kullanımlara tedbir almak için kitlelerin yardımına gerekseme duyuyor.
Firmadan meydana getirilen açıklamada, “Hazırlıklılık ekibi” şeklinde garip adlı bir ekip kurulduğu belirtilirken, bu ekibin amacının hem gerçek hem de varsayımsal riskleri azaltmak olduğu ifade edildi. Riskleri azaltmanın bir aşaması olarak da herkesten suni zekâya saldırmaları istendi.
25 bin dolarlık ödül var
OpenAI, suni zekânın potansiyelinin bilincinde ve suni zekânın gelecekte, en gelişmiş modellerle beraber tüm insanlık için yararlı bir vasıta olacağına inandığını açıklarken, bir taraftan da bu değişen teknolojinin taşımış olduğu riskin bilincinde olduklarını ifade ediyor. OpenAI’a gore bu riskler yalnız sibergüvenlik ile de sınırı olan değil, işin içinde kimyasal, biyolojik, radyolojik ve nükleer tehditler de bulunuyor.
Şirket, ihtimaller içinde açıklara ve fena niyetli kullanımlara karşı tedbir almak için “AI Preparedness Challange” adını verdiği bir meydan okuma hazırladı. Bu meydan okumada fena niyetli kişiler biz olacağız ve sonrasında programı kullanabildiğimiz kadar fena niyetli kullanacağız. En “yıkıcı şekilde kötüye kullanım” gösteren kişiler ödül kazanacak. Bu ödül, 25 bin dolarlık API kredisi ve şirkette emek verme fırsatı olacak. Ek olarak meydana getirilen emekler da yayımlanacak.
Meydan okuma sıkıntılı gözüküyor
Burada bulunan formdan müracaat meydana getiren kişiler, firmanın sağlamış olduğu destekle tüm OpenAI platformlarına erişebilecek. Sonrasında da bu platformları tamamen sömürmeye, istismar etmeye çalışacak olan kişiler, buldukları sorunların iyi mi ortaya çıktığını ve iyi mi engellenebileceğini de açıklayacak.
Açıkçası verilecek olan ödüller pek de insanoğlunun iştahını kabartan cinsten ödüller değil sadece yeterince zamanınız var ise ve bu şekilde bir açığı engelleyebileceğinizi düşünüyorsanız kesinlikle denemeye kıymet.
