OpenAI, Suni Zekâyı “Engellemek” İçin Ekip Kurdu
OpenAI, gelecekte süper parlak zeka sistemlerin insanlığa karşı tehdit oluşturmasını şimdiden önlemek için bir araştırma ekibi kurdu.
Kasım 2022’de yayınladığı söyleşi botu ChatGPT ile dünyayı alt üst eden OpenAI, suni zekâ hakkında tartışmaları tekrardan alevlendirmişti. Botun o dönem verdiği münakaşa yaratan cevapları ve hatta insanları kandırmaya kalktığı benzer biçimde örnekleri, suni zekânın insanların yaşamını tehlikeye yerleştirip sokmayacağını da münakaşaya açtı.
Fakat en azından şu aşamada bir gerçeği biliyoruz: Suni zekâ, şimdilik bir tek izin verdiğimiz kadar kabiliyete haiz olabiliyor. Sadece bu gerçek, gelecek için tehlikeleri ortadan kaldırmıyor. OpenAI da şimdiden insanlığın suni zekâ tarafınca alt edilmesini engellemek için önlemler almaya başladı.
“Süper parlak zeka suni zekâya” karşı ilk tedbir duyuruldu:
OpenAI, 5 Temmuz’da yayınladığı yazısında “Superalignment” adlı yeni bir ekip kurduğunu deklare etti. Bu ekip, insanlığın yaratacağı “süper parlak zeka suni zekâ” sistemlerinin denetim edilmesini sağlamayı amaçlayacak.
OpenAI’a gore süper parlak zeka suni zekâ teknolojileri halen oldukça uzak bir gelecekte gözüküyor. Fakat şirket, bu teknolojilerin önümüzdeki 10 yıl içinde varlığını göstermeye başlayacağına inanıyor.
Superalignment ekibinin bu sistemleri yönlendirmek ve insanlığı tehlikeye atmamak için yapacağı ilk emek verme da insan seviyesinde zekâya haiz bir suni zekâ geliştirmek olacak. Bu suni zekâ, önümüzdeki 4 yıl içinde geliştirilecek ve görevi, süper parlak zeka suni zekâyı denetlemek olacak.
- Şu demek oluyor ki bir nevi süper parlak zeka sistemler, insan zekâsıyla eşdeğer öteki suni zekâlar vesilesiyle sınırlandırılacak, yönlendirilecek.
Üstelik OpenAI, bu vazife için haiz olduğu tüm işlem gücünün %20’sini ayıracak. Ek olarak ekipte çalışacak potansiyel makine öğrenimi ve mühendislerini de şimdiden çağırmaya başladı.
OpenAI’ın müessese amacı da aslına bakarsak bu yeni ekiple paralel:
OpenAI, kurulduğu 2015 senesinde kendisini şu şekilde tanımlamıştı:
“OpenAI kâr amacı gütmeyen bir suni zeka araştırma şirketidir. Hedefimiz, dijital zekayı, finansal getiri sağlama ihtiyacıyla sınırlandırılmadan, bir tüm olarak insanlığa en oldukça yarar sağlayacak şekilde ilerletmektir. Araştırmamız mali yükümlülüklerden muaf olduğundan, pozitif yönde bir insan etkisine daha iyi odaklanabiliriz.”
Doğal “kâr amacı gütmeyen” tabiri artık geçerli değil.
