Reuters’ta yer alan habere göre Amazon, şirket bünyesindeki işe alımları otomatik hale getirmenin bir yolunu bulmak için 2014 yılında bir mühendislik ekibi oluşturdu. Ekibin bu iş için geliştirdiği yapay zeka destekli bilgisayar programının kadınlara karşı önyargılı davrandığı ortaya çıktı. Bunun üzerine Amazon, bu girişimini 2017 yılında iptal etti. Geliştirilen program, şirketin mevcut ve eski çalışanları ile geçmişte iş başvurusu yapmış olan adayların özgeçmişlerini inceleyip, 50 bin anahtar kelimeyi tarayan, 500 farklı işe alım modeli sunuyordu.

Bir arama motoru gibi çalışan bu sistem, en iyi adayların özgeçmişlerini (CV) insan kaynakları birimindeki yöneticilere sunuyordu.  Ancak bir yıl sonra ekipteki mühendisler, bir şeylerin yanlış olduğunu fark etti: Bu sistem, kadın adayları görmezden geliyordu.Erkeklerin daha çok tercih edildiği sonucuna varan yapay zeka, işe alım için geliştirilen arama motorunda “kadın” kelimesini filtreleyerek, adayların CV’lerini sunuyordu. Sorunu fark eden Amazon’daki mühendis ekibi, buna benzer önyargı biçimlerini düzeltmek için yapay zeka programını elden geçirdi.

Fakat yapay zekanın adaylara karşı haksız bir şekilde ayrımcılık yapmak için yeni yollar bulabileceğinden endişe duyan şirket, bu programdan vazgeçti.