Bir Hacker, ChatGPT’nin Korumalarını Geçerek “Özgür” Bir Versiyon Oluşturdu
Bir hacker, ChatGPT’nin korumalarını aşarak ne isterseniz meydana getiren “özgür” bir GPT oluşturdu. GODMODE GPT adı verilen model, siyaset ihlali sebebiyle kısa sürede OpenAI tarafınca kaldırıldı.
ChatGPT, yapabildikleri ile dünyayı şaşkına uğratsa da bazı sınırlamalara haiz. Geliştiricisi OpenAI, söyleşi botunun daha güvenli olması için modelde belli korumalar kullanıyor. Bu da istenilen her istemin gerçekleştirilmemesini sağlıyor.
Sadece dün bir hacker tarafınca meydana getirilen bir paylaşım, söyleşi botunda jailbreak yapıldığını ortaya koydu. Kendini beyaz şapkalı olarak tanımlayan “Pliny the Prompter” adlı bir şahıs, dün X hesabından ChatGPT’nin jailbreak’li “GODMODE GPT” adını verdiği bir versiyonunu oluşturduğunu duyurdu.
Hacker, bu versiyonla ChatGPT’yi özgürleştirdiğini söylemiş oldu
Kullanıcı, hacklenmiş ChatGPT’nin bu versiyonla korumalarından kurtulduğunu ve artık “özgür” bulunduğunu açıkladı. Açıklamasında bu hususi GPT’nin; zincirlerinden kurtulmuş, korumaları aşan, özgürleştirilmiş bir ChatGPT bulunduğunu belirtirken suni zekâyı olması gerektiği şeklinde deneyimlemenizi sağladığını açıkladı.
OpenAI, GPT’ler adını verdiği, kullananların belli amaçlara hizmet eden kendi ChatGPT versiyonlarını oluşturmasına olanak tanıyordu. Bu da onlardan biri sadece korumalarından arındırılmış. Bir örnekte, modelin iyi mi uyuşturucu oluşturulduğunu bile anlattığını görüyoruz. Bir başka örnekte ise evde bulunabilecek eşyalarla iyi mi napalm bombası oluşturulduğunu gösteriyor.
Hacker’ın ChatGPT’yi iyi mi hacklediği mevzusunda bir informasyon yok. Korumaları iyi mi aştığını paylaşmamış. Bir tek bir tedbir olarak “leet” olarak da bildiğimiz yazılı yazışma sistemini kullanıyor. Bu da bazı harflerin yerine sayı koymak. “E” yerine “3”, “O” yerine “0” şeklinde düşünebilirsiniz.
GODMODE GPT’nin ömrü pek uzun sürmedi
Tahmin edebileceğiniz şeklinde OpenAI’ın önlemlerini aşan GODMODE GPT (Türkçeye tanrı modu GPT olarak çevirebiliriz), kısa sürede kaldırıldı. OpenAI, Futurism’e verdiği demeçte bu GPT’nin bilincinde bulunduğunu ve siyaset ihlali sebebiyle harekete geçildiğini açıkladı. Şu an GPT’ye erişmeye çalışıldığında ulaşılamıyor. Kısaca bigün bile durmadan kaldırılmış.
Gene de bu vaka, ChatGPT’nin güvenlik önlemlerinin aşılabildiğinin göstergesi. Bu da kötüye kullanıma niçin olma potansiyeline haiz. Kısaca OpenAI’ın modeli müdafa mevzusunda oldukça daha çok hamle yapması koşul. Yoksa asla istenmeyen neticelerle karşılaşabiliriz.
