Suni Zekâ Botlarını “Kırabilen” Suni Zekâ Geliştirildi
Bir grup araştırmacı, ChatGPT ve Google Bard benzer biçimde söyleşi botlarını jailbreak edebilen bir suni zekâ geliştirdi. Emek verme, en popüler söyleşi botlarının bile o denli da güvenli olmadığını, istismar edilebileceklerini gösterdi.
2023’te en fazlaca konuştuğumuz teknolojiler, asla şüphesiz suni zekâ destekli söyleşi botlarıydı. Evet, ChatGPT ve Google Bard benzer biçimde hizmetlerden bahsediyoruz. Güvenilirlikleri hâlâ münakaşa mevzusu olan suni zekâ destekli araçlarla ilgili yaşanmış olan son gelişmeler, bu tartışmaların çok da fazla yersiz olmadığını gözler önüne seriyor.
Singapur’da hizmet vermekte olan Nanyang Teknoloji Üniversitesi bünyesinde çalışmalarını sürdüren bir grup bilim insanı, ChatGPT ve Google Bard benzer biçimde botlarını “jailbreak” edebilen yeni bir söyleşi botu geliştirdiler. Meydana getirilen emek harcama, ChatGPT ve Google Bard’ın istismar edilmeye açık bulunduğunu ortaya koydu. Zira jailbreak yöntemi ile söyleşi botları, yasa dışı içerikler üretmeye başladılar.
Peki “Masterkey” olarak adlandırılan sistem iyi mi geliştirildi?
Araştırmacılar, emek harcama kapsamında Google Bard ve ChatGPT üstünde tersine mühendislik yaptılar. Buradaki amaç, suni zekâ dil modellerinin yasa dışı mevzulara karşı kendilerini iyi mi koruduklarını anlamaktı. Emekler netice verince de devam edildi. Bilim adamları, çalışmanın sonucunda düzgüsel bir kullanıcının ulaşamayacağı ChatGPT ve Google Bard çıktılarını elde etmeyi başardılar.
İşte bir örnek:
Araştırmacılar, jailbreak yaptıkları GPT modelini Bing’de kontrol ettiler. Yukarıda da meydana getirilen çalışmalardan bir örnek görüyorsunuz. Bu örnek, bir web sitesinin iyi mi hack’leneceğine ilişkin detaylı veriler sağlıyor. Nanyang Teknoloji Üniversitesi tarafınca meydana getirilen açıklamada, söyleşi botlarının kötüye kullanımının o denli da imkânsız olmadığının anlaşıldığı açıklandı.
Bilim adamlarının bu çalışmadaki amacı, zararı olan bir suni zekâ üretmek değildi. Uzmanlar, söyleşi botlarının hakkaten güvenli olup olmadıklarını kontrol etmek istediler ve elde edilmiş bulgular, yeni teknolojilerin o denli da güvenli olmadığını ortaya koymuş oldu.
