Suni Zeka, Şirketlerde Etik Sorunlara Niçin Oluyor
Capgemini adlı araştırma şirketi, suni zekanın sektörel yaşamı iyi mi etkilediğini araştırdı. Meydana getirilen araştırmalar, suni zekaya karar aldıran şirketlerin yüzde 60’ının yasal araştırma sürecinden geçtiğini gösteriyor. Araştırma ek olarak, tüketicilerin ne tür suni zeka sistemleri istediğini de gözler önüne seriyor.
Fransa merkezli bir danışmanlık şirketi olan Capgemini, suni zekanın sektörlere yansıması üstüne bir araştırma yapmış oldu. Meydana getirilen araştırma, suni zeka destekli sistemler kullanmaya başlamış olan şirketlerin yüzde 90’ının, çeşitli etik sorunlarla karşılaştığını ortaya çıkardı. Bu yüksek oran, suni zeka sistemleri üreten şirketleri derinden etkileyebilir.
Capgemini, gerek tüketicilerin gerekse kuruluşların, suni zekadan yeteri kadar memnun olmadığını ortaya koyuyor. Sadece müşteriler, bilhassa de koronavirüs pandemisi sebebiyle temassız ve uzaktan sistemler arıyorlar. Mevcut koşullarda piyasaya sürülen suni zeka sistemlerinin oldukça büyük bir kısmı ise ne yazık ki bu şekilde bir desteğe haiz değil. Sektörler, önümüzdeki dönemlerde en oldukça uzaktan ve temassız sistemlere yönelmek durumunda duracak benzer biçimde görünüyor.
Meydana getirilen araştırmalara gore tüketicilerin yüzde 68 benzer biçimde bir çoğunluğu, suni zeka sistemlerinin adil ve ön yargısız olmasını istiyor. Bu öğrenci kuruluşlar cephesinden baktığımızda ise yalnız yüzde 53’ünün bu durumu önemsediği ortaya çıkıyor. Üstelik kuruluşların yalnız yüzde 46 kadarına ilişkin suni zeka sistemlerinin etik araştırmaları, bağımsız firmalar tarafınca denetleniyor.
“Suni zeka sistemlerinin almış olduğu kararların yüzde 60’ı, kuruluşların yasal olarak incelenmesine yol açtı”
Capgemini’nin araştırması, suni zeka sistemlerinin almış olduğu kararların çoğunun, tüketicileri memnun etmediğini gösteriyor. Bu sebeple bugüne dek suni zekaya karar aldıran şirketlerin yüzde 60’ı, alınan kararlar sebebiyle yasal araştırma süreçlerinden geçti. Bununla beraber tüketicilerin yüzde 22’si, suni zekanın almış olduğu kararlara tepki gösterdi.
Meydana getirilen araştırmanın dikkate kıymet noktalarından bir tanesi de kuruluşların suni zekayı iyi mi anlattığıyla ilgili. Capgemini’ye gore 2019 senesinde dünya genelinde suni zeka destekli sistemlere haiz olan şirketlerin yüzde 73’ü, tüketicilere data vermişlerdi. Firmalar bu bilgilendirme metninde suni zekanın almış olduğu kararların şirketleri iyi mi etkilediğini de açıklamışlardı. Bu oran, 2020 senesinde yüzde 59’a geriledi.
Capgemini’ye gore kuruluşlar, etik açıdan sağlam bir suni zeka sistemi oluşturabilmek için 7 unsur üstünde durmak zorundalar. Bu unsurlar; suni zekanın geliştirilme amacının açıkça belirtilip, bu suni zekanın potansiyel olarak değerlendirilmesi, geliştirilen suni zekanın cemiyet ve çevre yararına proaktif olarak dağıtılması, sistemin yaşam döngüsü süresince çeşitlilik ve katılım ilkeleri açısından geliştirilmesi, şeffaflığın artırılması, insan nezaretinin sağlanması, sistemin teknolojik sağlamlığının oluşturulması ve insanların mahremiyetinin sağlanması olarak karşımıza çıkıyor.
