Google’ın AI Şefi, süper akıllı katil robotlar hakkında endişelenmiyor. Bunun yerine, dakikada milyonlarca karar vermek için kullanılan makine öğrenme algoritmalarında gizlenen tehlikelerden endişe duyuyor. Giannandrea, “İnsanlara ve yapay zeka sistemleri arasındaki ilişkiye dair asıl güvenlik sorusu, bu sistemlere önyargılı bir veri verirsek, önyargılı olacaklardır." diye bir açıklama yaptı.Makine öğrenmesinde yanlılık sorunu, teknoloji, tıp ve hukuk gibi kritik alanlara yayıldıkça ve derin teknik bilgiye sahip olmayan insanların görevlendirilmesiyle daha da önemli hale geliyor. Bazı uzmanlar, algoritmik önyargının birçok endüstride zaten yaygın olduğunu ve neredeyse hiç kimsenin onu tanımlamak ya da düzeltmek için çaba sarf etmediği konusunda uyarmakta.Giannandrea, “Kullandığımız eğitim verileri konusunda şeffaf olmamız ve içinde gizli önyargılar aramamız önemlidir, aksi takdirde önyargılı sistemler üretiyoruz” diye ekledi. “Birisi size tıbbi karar desteği için bir kara kutu sistemi satmaya çalışıyorsa ve bunun nasıl çalıştığını ya da onu eğitmek için hangi verileri kullandığını bilmiyorsanız, ona güvenmeyin.”
