Kullanıcıların yaptığı araştırmalar sonucunda uygulamanın siyah yüzler yerine beyaz yüzleri tercih ettiğinin öne sürülmesinin ardından Twitter geçtiğimiz yıl Mart ayında otomatik fotoğraf kırpma özelliğini devre dışı bırakmıştı. Ardından da sorunu daha yakından incelemek adına ödüllü algoritmik hata yarışmasını başlattı.

Yarışmada elde edilen bulgular ise iddiaları doğruladı. Kazanan yarışmacı algoritmanın ince, genç, açık tenli ya da sıcak tenli kişilerin yüzlerini tercih ettiğini saptadı. İkinci ve üçüncü sıradaki yarışmacılar ise sistemin beyaz veya gri saçlı kişilere karşı önyargılı olduğunu, yaş ayrımcılığının tespit edildiğini ve görüntülerdeki Arapça yazılar yerine İngilizcenin tercih edildiğini vurguladı.

DEF CON 29 konferansında açıklanan sonuçların sunumu sırasında Twitter’ın META ekibinin yöneticisi Rumman Chowdhury, katılımcıları algoritmik önyargının gerçek hayattaki etkilerini tespit edip açığa çıkardıkları için tebrik etti. Chowdhury, “Modellerimizdeki önyargılar hakkında düşündüğümüzde, sadece akademik ya da deneysel ifadesini kullanıyorum. Bu filtreyi oluşturuyoruz çünkü güzel olanın bu olduğunu düşünüyoruz ve bu da modellerimizi eğitmek ve çekici olmanın ne anlama geldiğine dair gerçekçi olmayan fikirleri yönlendirmekle sonuçlanıyor” açıklamasında bulundu.

Twitter’ın yarışmasının sonuçları algoritmik sistemlerde toplumsal önyargıların nasıl çalıştığını gözler önüne seriyor. Aynı zamanda teknoloji şirketlerinin bu sorunlarla nasıl mücadele edebileceğini de gösteriyor. Şirketin yarışmasında jüri olarak görev yapan Patrick Hall ise, tüm sistemlerde bu tür önyargıların bulunduğunu ve şirketlerin bunları bulmak için proaktif olarak çalışması gerektiğini vurguladı.