Warwick Üniversitesi, Londra Imperial College, EPFL (Lozan) ve Sciteb Ltd’den araştırmacılar, düzenleyici kurumlara ve iş dünyasına yapay zeka sistemlerinin etik olmayan ve potansiyel olarak çok maliyetli ve zarar verici ticari seçimler yapma yönündeki önyargılarını yönetmede yardımcı olmak için matematiksel bir yol buldular. yapay zekaya etik bir bakış.
Yapay zeka (AI) ticari durumlarda giderek daha fazla kullanılmaktadır. Örneğin, belirli bir müşteriye satılacak sigorta ürünlerinin fiyatlarını belirlemek için yapay zekayı kullanmayı düşünün. Farklı insanlar için farklı fiyatlar belirlemenin meşru nedenleri vardır, ancak psikolojilerini veya alışveriş yapma istekliliğini ‘oynamak‘ da karlı olabilir.
YZ’nin çok sayıda potansiyel stratejisi vardır, ancak bazıları etik değildir ve sadece ahlaki maliyete değil, paydaşların böyle bir stratejinin kullanıldığını tespit ederse bir miktar ceza uygulayacağından önemli bir potansiyel ekonomik cezaya neden olacaktır düzenleyiciler Milyarlarca Dolar, Pound veya Euro gibi önemli para cezaları ödeyebilirler.
Dolayısıyla, kararların insan müdahalesi olmadan giderek daha fazla verildiği bir ortamda, AI sistemlerinin etik olmayan bir stratejiyi hangi koşullar altında benimseyebileceğini ve bu riski azaltabileceğini veya mümkünse tamamen ortadan kaldırabileceğini bilmek için çok güçlü bir teşvik vardır.
Warwick Üniversitesi, Imperial, EPFL ve Sciteb Ltd’den matematikçiler ve istatistikçiler, iş ve düzenleyicilere yeni bir “Etik Olmayan Optimizasyon İlkesi” oluşturmalarına yardımcı olmak ve etkisini tahmin etmek için basit bir formül sağlamak için bir araya geldi. 1 Temmuz 2020 Çarşamba günü Royal Society Open Science’da yayınlanan “Etik dışı bir optimizasyon ilkesi” isimli bir makalede tüm ayrıntıları ortaya koymuşlardır.
Makalenin dört yazarı Sciteb Ltd’den Nicholas Beale; Imperial College London Matematik Bölümü’nden Heather Battey; Matematik Enstitüsü’nden Anthony C. Davison, Ecole Polytechnique Fédérale de Lausanne; ve Warwick Üniversitesi Matematik Enstitüsü’nden Profesör Robert MacKay.
Warwick Üniversitesi Matematik Enstitüsü’nden Profesör Robert MacKay şunları söyledi:
“Önerdiğimiz” Etik Dışı Optimizasyon Prensibimiz “, düzenleyicilerin, uyum personelinin ve diğerlerinin geniş bir strateji alanında gizlenebilecek sorunlu stratejileri bulmalarına yardımcı olmak için kullanılabilir. Optimizasyonun, denetimin nerede olduğunu göstermesi gereken birçok etik olmayan stratejiyi sorunların ortaya çıkması muhtemeldir ve bu nedenle AI arama algoritmasının gelecekte bunları önlemek için nasıl değiştirilmesi gerektiğini önermektedir.
“İlke aynı zamanda yapay zekanın çok geniş strateji alanlarında çalışma şeklini yeniden düşünmenin gerekli olabileceğini, böylece etik dışı sonuçların optimizasyon öğrenme sürecinde açıkça reddedilmesi gerektiğini de gösteriyor.”
