Apple, Suni Zekânın Mantık Hatalarını Ortaya Çıkardı
Apple’ın suni zekâ araştırma ekibi, büyük dil modellerinin akıl yürütme kabiliyetlerinde büyük eksiklikler keşfetti.
Teknoloji devleri birer ikişer suni zekâ alanına girdiklerini açıklamış, Meta, OpenAI ve Google şeklinde geliştiriciler kendi modellerini ortaya koymuştu. Apple da Apple Intelligence adını verdiği suni zekâ modeli ile karşımıza çıkmıştı. Apple’ın suni zekâ araştırmacıları bu büyük dil modellerinin matematiksel akıl yürütme görevlerinde iyi mi performans gösterdiklerini inceledi.
Emek harcama, büyük dil modellerinin mantık kurma biçimindeki hatayı da ortaya çıkardı. Buna nazaran büyük dil modelleri, gerçek anlamda mantık yürütmek yerine daha evvel eğitimlerde öğrendikleri örüntü eşleştirme tekniklerini kullanıyor. Bu da soruların sorulma şekli değiştirildiğinde suni zekâların cevaplarında değişimler olmasına sebebiyet veriyor. Mesela kivi sayılarının toplanması istenen bir soruda kivilerin ağırlıkları ya da boyu şeklinde bilgiler verildiğinde cevaplar da değişiyor.
Modellerin güvenilirliğini azaltıyor
Araştırma ekibinden meydana getirilen açıklamaya nazaran bu tür değişimler, model davranışını dikkate kıymet bir halde etkiliyor ve modellerin güvenilirliğini azaltıyor. Araştırmacılara nazaran bir tek adlar değişiklik yapmak bile model performansında yüzde 10’luk bir değişime niçin olabiliyor. Bu durumun sebebi olarak ise modellerin biçimsel akıl yürütme yerine karmaşık örüntü tanıma şekilleri kullanımı gösteriliyor.
Araştırmacılara nazaran bu problemi çözmek için geleneksel sembol temelli akıl yürütme ile nöral ağların birleştirildiği nörosimbiyotik suni zekâ yaklaşımları benimsenebilir. Böylece suni zekâ daha doğru kararlar alabilir ve soruları daha doğru bir halde çözebilir.
