1150 Meşhur İsimden Suni Zekâ Emek harcamaları Durdurulsun Mektubu

Son bir yıl içinde teknoloji ve internet sektörü yeni bir çağa giriş yapmış oldu. Bir insanoğlunun da ötesinde istediğiniz her şeye erişebilen söyleşi botları, yazdığınız metni ‘gerçeğinden’ bile gerçekçi halde görselleştiren görsel araçları… Yalnız bir yılda çıkan bu araçlarla birçok sektörde işleyiş değişmeye başladı.

Suni zekâdaki bu süratli ve kontrolsüz görünen gelişme, uzman adları de ikiye böldü. Kimisi bu teknolojilerin gelişimini desteklerken, kimisi ise riskler sebebiyle kaygı duymaya başladı. Bu endişeler, suni zekâ geliştiricilerine karşı hazırlanan bir mektupta dile getirildi. Mektuba Elon Musk ve Steve Wozniak şeklinde adlar de imza attı.

“Suni zekâ sistemlerinin geliştirilmesi durdurulsun”


Endişeleri idrak etmek için mektubun tamamını okumakta yarar var:

Kapsamlı araştırmaların gösterdiği ve üst düzey suni zekâ laboratuvarlarının onayladığı şeklinde, insanla rekabet edecek zekâya haiz suni zeka sistemleri, cemiyet ve insanlık için büyük riskler oluşturabilir. Geniş çapta onaylanan Asilomar Suni Zekâ İlkelerinde belirtildiği şeklinde, Gelişmiş Suni Zekâ, Dünya üstündeki yaşam tarihinde derin bir değişikliği temsil edebilir ve orantılı itina ve kaynaklarla planlanmalı ve yönetilmelidir. Ne yazık ki, son aylarda suni zekâ laboratuvarlarının asla kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği yada güvenilir bir halde denetim edemeyeceği daha kuvvetli dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendiğini görmesine karşın, bu düzeyde bir planlama ve yönetim gerçekleşmiyor.

Modern suni zekâ sistemleri artık genel görevlerde insanlarla rekabet edebilir hale geliyor[3] ve kendimize şu suali sormalıyız: Makinelerin informasyon kanallarımızı propaganda ve gerçek dışı şeylerle doldurmasına izin vermeli miyiz? Tatminkar olanlar da dahil olmak suretiyle tüm işleri otomatikleştirmeli miyiz? Sonunda sayıca üstün olabilecek, akılca üstün gelebilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü yitirme riskine girmeli miyiz? Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir. Kuvvetli suni zekâ sistemleri, yalnızca etkilerinin pozitif yönde olacağından ve risklerinin yönetilebilir olacağından güvenilir olduğumuzda geliştirilmelidir. Bu itimat iyi bir halde gerekçelendirilmeli ve bir sistemin potansiyel etkilerinin büyüklüğü ile artmalıdır. OpenAI’nin suni genel zekâ ile ilgili son açıklaması, “Bir noktada, gelecekteki sistemleri eğitmeye başlamadan ilkin bağımsız araştırma almak mühim olabilir ve en gelişmiş çabalar için, yeni modeller oluşturmak için kullanılan informasyon işlemin gelişme oranını sınırlamayı kabul etmek mühim olabilir.” Katılıyoruz. O nokta bugün.

Bundan dolayı, tüm suni zekâ laboratuvarlarını GPT-4’ten daha kuvvetli suni zekâ sistemlerinin eğitimine minimum 6 ay ara vermeye çağırıyoruz. Bu duraklama her insana açık ve doğrulanabilir olmalı ve tüm kilit oyuncuları içermelidir. Bu şekilde bir duraklama süratli bir halde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.


Suni zekâ laboratuvarları ve bağımsız uzmanlar, bağımsız dış uzmanlar tarafınca titizlikle denetlenen gelişmiş suni zekâ tasarımı ve geliştirmeye yönelik bir takım paylaşılan güvenlik protokolünü ortaklaşa geliştirmek ve uygulamak için bu duraklamayı kullanmalıdır. Bu protokoller, bunlara bağlı sistemlerin makul bir şüphenin ötesinde güvenli olmasını sağlamalıdır. Bu, genel olarak suni zekâ geliştirmede bir duraklama anlamına gelmez, yalnızca tehlikeli yarıştan, ortaya çıkan kabiliyetlere haiz, her zamankinden daha büyük, öngörülemeyen kara kutu modellerine geri adım atmak anlamına gelir.

Suni zekâ araştırma ve geliştirme, günümüzün kuvvetli, son teknoloji sistemlerini daha doğru, güvenli, yorumlanabilir, saydam, sağlam, uyumlu, güvenilir ve sadık hale getirmeye tekrardan odaklanmalıdır.

Buna paralel olarak, suni zekâ geliştiricileri, sağlam suni zekâ yönetişim sistemlerinin gelişimini mühim seviyede hızlandırmak için siyaset yapıcılarla beraber çalışmalıdır. Bunlar en azından şunları içermelidir: Suni zekaya adanmış yeni ve yetenekli düzenleyici makamlar; son aşama yetenekli suni zekâ sistemlerinin ve büyük hesaplama kabiliyeti havuzlarının nezarete ve takip edeni; gerçek ile bileşik olanı ayırt etmeye ve model çıktılarını izlemeye destek olmak için kaynak ve filigran sistemleri; sağlam bir denetim ve belgelendirme ekosistemi; suni zekâ kaynaklı zarar sorumluluğu; teknik suni zekâ güvenlik araştırması için kuvvetli kamu finansmanı; suni zekânın niçin olacağı acıklı ekonomik ve politik kesintilerle (bilhassa demokraside) başa çıkmak için iyi kaynaklara haiz kurumlar.

İnsanlık suni zekâ ile gelişen bir geleceğin tadını çıkarabilir. Kuvvetli suni zekâ sistemleri oluşturmayı başardıktan sonrasında, artık ödülleri topladığımız, bu sistemleri her insanın açık yararı için tasarladığımız ve topluma uyum sağlama şansı verdiğimiz bir “Suni zekâ yazının” tadını çıkarabiliriz. Cemiyet, cemiyet üstünde potansiyel olarak yıkıcı tesirleri olan öteki teknolojilere ara verdi. Bunu burada yapabiliriz. Uzun bir suni zekâ yazının tadını çıkaralım, hazırlıksız bir halde sonbahara koşmayalım.

Mektuba imza atanlar içinde büyük adlar var:

An itibarıyla sektörden 1125 destekçiye kavuşan mektuba imza atan adlar içinde şunlar da yer ediniyor:

• Elon Musk (SpaceX, Tesla ve Twitter CEO’su)
• Steve Wozniak (Apple Kurucu Ortağı)
• Evan Sharp (Pinterest Kurucusu)
• Emad Mostaque (Stability AI CEO’su)
• Zachary Kenton (Google bünyesindeki DeepMind’ın Kıdemli Araştırmacısı)

Mektuba ve tüm destekleyenlere ulaşmak için bu bağlantıya tıklayabilirsiniz.