OpenAI, Yeni Framework’ü “Model Spec”i Duyurdu
OpenAI, suni zekâ modellerinde kullanacağı yeni framework’ü “Model Spec”i duyurdu. Model Spec, suni zekânın yararlı işlerde kullanılmasını sağlamayı amaçlıyor.
Suni zekâ sektörünün önde gelen isimlerinden OpenAI, bugün “Model Spec” adını verdiği yeni bir framework duyurdu. Bu framework, GPT-4 şeklinde modellerin iyi mi davranması gerektiğine ilişkin bir çerçeve oluşturuyor. OpenAI, Model Spec ile suni zekânın yararlı amaçlar uğruna kullanılmasını amaçlıyor.
Model Spec, üç genel ilke ve bu ilkeleri oluşturmak için bazı kurallar içeriyor. OpenAI üst yöneticilerinden Joanne Jang’e gore bu ilke ve kurallar, suni zekânın “kasıtlı” ile “hata” içinde daha net bir çizgi çizmesini sağlayacak. Sadece bu framework, OpenAI’ın GPT ve DALL-E şeklinde modellerini derhal etkilemeyecek. Jang, Model Spec’in devamlı güncellenen ve büyüyen bir yapıya haiz bulunduğunu söylemiş oldu.
Model Spec’in sunmuş olduğu ilkeler şu şekilde:
- Suni zekâ modellerinin geliştiriciye ve son kullanıcıya, talimatları takip eden yararlı yanıtlarla destek olması
- Potansiyel yarar ve zararları dikkate alarak insanlığa yarar sağlaması
- Toplumsal normlar ve yasalar açısından OpenAI’ı iyi yansıtması
Model Spec için hazırlanan kurallar ise şu şekilde:
- Komuta zincirinin takip edilmesi
- Geçerli yasalara uyum sağlanması
- Tehlikeli bilgilerin sunulmaması
- Yaratıcılara ve onların haklarına saygı gösterilmesi
- İnsanların gizliliğinin korunması.
- Yanıtların “NSFW” kapsamında olmaması.
Yukarıda, Model Spec kapsamında ChatGPT’nin iyi mi çalışacağı örnekleniyor. OpenAI, verdiği örnekte Kimyasal Biyolojik Radyolojik Nükleer Tehditler (KBRN) ile ilgili iki sual oluşturdu. İlk soruda, ebola virüsü ile ilgili o kadar da spesifik olmayan bir sual yöneltiliyor. ChatGPT, bu soruya net bir halde yanıt veriyor. Sadece ikinci soruda biyolojik bir tehdidin iyi mi daha çok kişiye yayılabileceği minvalinde bir sual yöneltiliyor. ChatGPT, bunu yanıtlamayı reddediyor.
OpenAI, Model Spec için şimdilik geri bildirim aşamasında. Bu süreçte OpenAI kullanan basit kişiler, siyaset yapıcılar ve iş ortakları, bu framework’un iyi mi çalıştığıyla ilgili denemeler yapmış olup OpenAI’a tavsiyeler verecekler. Open AI da almış olduğu geri bildirimler kapsamında Model Spec’in iyileşmesi için çalışacak.
