Yapay Zeka, Şirketlerde Etik Sorunlara Niçin Oluyor
Capgemini isminde araştırma şirketi, yapay zekanın sektörel yaşamı iyi mi etkilediğini araştırdı. Meydana getirilen araştırmalar, yapay zekaya karar aldıran şirketlerin yüzde 60’ının yasal araştırma sürecinden geçtiğini gösteriyor. Araştırma ek olarak, tüketicilerin ne tür yapay zeka sistemleri istediğini de gözler önüne seriyor.
Fransa merkezli bir danışmanlık şirketi olan Capgemini, yapay zekanın sektörlere yansıması üstüne bir araştırma yapmış oldu. Meydana getirilen araştırma, yapay zeka destekli sistemler kullanmaya süregelen şirketlerin yüzde 90’ının, çeşitli etik sorunlarla karşılaştığını ortaya çıkardı. Bu yüksek oran, yapay zeka sistemleri üreten şirketleri derinden etkileyebilir.
Capgemini, gerek tüketicilerin gerekse kuruluşların, yapay zekadan yeteri kadar memnun olmadığını ortaya koyuyor. Sadece müşteriler, bilhassa de koronavirüs pandemisi sebebiyle temassız ve uzaktan sistemler arıyorlar. Mevcut koşullarda piyasaya sürülen yapay zeka sistemlerinin oldukca büyük bir kısmı ise ne yazık ki bu şekilde bir desteğe haiz değil. Sektörler, önümüzdeki dönemlerde en oldukca uzaktan ve temassız sistemlere yönelmek durumunda duracak şeklinde görünüyor.
Meydana getirilen araştırmalara bakılırsa tüketicilerin yüzde 68 şeklinde bir çoğunluğu, yapay zeka sistemlerinin adil ve ön yargısız olmasını istiyor. Bu öğrenci kuruluşlar cephesinden baktığımızda ise yalnız yüzde 53’ünün bu durumu önemsediği ortaya çıkıyor. Üstelik kuruluşların yalnız yüzde 46 kadarına ilişkin yapay zeka sistemlerinin etik araştırmaları, bağımsız firmalar tarafınca denetleniyor.
“Yapay zeka sistemlerinin almış olduğu kararların yüzde 60’ı, kuruluşların yasal olarak incelenmesine yol açtı”
Capgemini’nin araştırması, yapay zeka sistemlerinin almış olduğu kararların çoğunun, tüketicileri memnun etmediğini gösteriyor. Bu sebeple bugüne dek yapay zekaya karar aldıran şirketlerin yüzde 60’ı, alınan kararlar sebebiyle yasal araştırma süreçlerinden geçti. Bununla beraber tüketicilerin yüzde 22’si, yapay zekanın almış olduğu kararlara tepki gösterdi.
Meydana getirilen araştırmanın dikkate kıymet noktalarından bir tanesi de kuruluşların yapay zekayı iyi mi anlattığıyla ilgili. Capgemini’ye bakılırsa 2019 senesinde dünya genelinde yapay zeka destekli sistemlere haiz olan şirketlerin yüzde 73’ü, tüketicilere data vermişlerdi. Firmalar bu bilgilendirme metninde yapay zekanın almış olduğu kararların şirketleri iyi mi etkilediğini de açıklamışlardı. Bu oran, 2020 senesinde yüzde 59’a geriledi.
Capgemini’ye bakılırsa kuruluşlar, etik açıdan sağlam bir yapay zeka sistemi oluşturabilmek için 7 unsur üstünde durmak zorundalar. Bu unsurlar; yapay zekanın geliştirilme amacının açıkça belirtilip, bu yapay zekanın potansiyel olarak değerlendirilmesi, geliştirilen yapay zekanın cemiyet ve çevre yararına proaktif olarak dağıtılması, sistemin yaşam döngüsü süresince çeşitlilik ve katılım ilkeleri açısından geliştirilmesi, şeffaflığın artırılması, insan nezaretinin sağlanması, sistemin teknolojik sağlamlığının oluşturulması ve insanların mahremiyetinin sağlanması olarak karşımıza çıkıyor.
