OpenAI Yeni Güvenlik Takımını Duyurdu
Geçtiğimiz günlerde güvenlik ekibini dağıttığını açıklayan OpenAI, oldukca kısa sürede yeni bir ekip kurdu.
OpenAI, daha önceki güvenlik ekibinin görevine son vermişti. Sonrasında da şirket, CEO’su Sam Altman’ın da dahil olduğu yeni bir güvenlik ekibi kurduklarını deklare etti. Üç kişilik ekipte Altman’ın haricinde yönetim kurulu üyeleri Adam D’Angelo ve Nicole Seligman oldu. Komite, “tehlikeli sonuç güvenlik ve gizlilik kararlarında OpenAI projelerine ve operasyonlarına tavsiyede” bulunacak.
Komitenin ilk görevi de belli oldu. Ekip, OpenAI’ın süreçlerini ve güvenlik önlemlerini değerlendirerek ve geliştirerek çalışmalarına başlamış olacak. Sonrasında da ekibin bulguları OpenAI Yönetim Kurulu ile paylaşılacak. Ondan sonra yönetim kurulu bu detayları değerlendirerek alınacak aksiyonlara ve izlenecek yöntemlere karar verecek.
Sutskever’in yerine Altman
OpenAI’ın Superalignment adlı eski güvenlik ekibinin başlangıcında Ilya Sutskever yer alıyordu. Sutskever’ın görevden ayrılmasından derhal sonrasında ekibin öteki lideri olan Jan Leike de firmadan ayrıldığını belirtmişti. OpenAI siyaset araştırmacısı Gretchen Krueger de istifasını sunmuştu. Yeni güvenlik kurulu ile beraber OpenAI’nın yeni bir model kontrol etmiş olduğu de belirtilmiş sadece bu modelin GPT-5 olup olmadığı belirtilmedi.
Bu ayın başlarında OpenAI yeni bir ChatGPT ses modeli olan Sky’ı tanıtmıştı. Sky’ın sesinin meşhur oyuncu Scarlett Johansson’a benzerliği büyük münakaşa çıkarmıştı. Bu durum hem suni zekâ fanatiklerinin hem de uzmanların eleştirisini çekmişti. Yeni güvenlik komisyonunun bu tür sorunlara engel olabileceği belirtiliyor. Kurulda yer edinen diğer görev alanlar arasında ise firmanın hazırlık ekibinin başkanı Aleksander Madry, güvenlik ekibinin başı Lilian Weng, eğilim bilimi biriminin başı John Schulman, koruma ekibinin başı Matt Knight ve baş bilim insanı Jakub Pachocki’den oluşuyor.
