Kullanıcılar iki fotoğraf yüklüyor ve ön izlemede beyaz tenli insanların fotoğrafları ya da görselleri öne çıkarılıyor. Twitter ön izleme fotoğrafları hakkında binlerce paylaşım yapıldı.

Irkçılık ve siyasi ayrımcılık gibi tartışmalara sebep olan bu durum Twitter algoritmasıyla alakalı bir sorundan kaynaklı gibi duruyor. Olaylar nasıl başladı? Öncelikle Blackface ve Whiteface karşılaştırması yapan iki fotoğraf yan yana eklendi. Ön izlemede küçük duran fotoğraf gösterilirken çoğunlukla beyaz tenliyi gösteren Twitter algoritması ırkçılık tartışmalarına neden oldu.

Bunun yanında kadın ve erkek fotoğrafları da aynı şekilde eklendiğinde erkek öne çıkarılıyor.

Kullanıcılar daha sonra bu durumun üzerine giderek, Twitter’ın önizleme algoritmasının siyah ten rengine sahip olmayan çizgi film karakterlerini de tercih ettiğini keşfettiler. Bunun gibi pek çok paylaşım yapan kullanıcılar aslında Twitter’ın açığını bulmuş gibi duruyor.

Yaşanan tartışmalardan sonra Twitter’ın makine öğrenimi araştırmacıları daha önce, görünümü bir resimde bulabildikleri en belirgin yüze odaklamak için yüz tanıma ve yüz tanıma teknolojisini kullandıkları bir blog gönderisinde tüm durumu açıklamaya çalıştılar.

Peki eğer görselde yüz yoksa algoritma neye odaklanacak? Bazı durumlarda sistem hiç olmayan yüzleri bile algılıyordu. Yani yanılıyordu. Yüz içermeyen fotoğraflar söz konusu olduğunda, algoritma görüntünün ortasındaki görünüme odaklanıyor ve bu da garip bir şekilde kırpılmış fotoğraf önizlemelerinin oluşmasını sağlıyor.

Bu durumda Twitter’ın algoritmasında bir sorun olduğu ortaya çıkıyor, en azından eksiklikler olduğu. Söz konusu probleme ilişkin Twitter’ın baş tasarım sorumlusu Dantley Davis , şirketin bu konuyu araştırdığını ve sorunu yapay zeka algoritmasıyla çözmeye çalıştığını aktardı.