Microsoft tarafından geliştirilen 'Tay' belli bir süre programladığı şey olan, atılan tweetlerdeki bilgileri kullanma yeteneğini sergileyerek, kendisine edilen küfürleri de dağarcığına katarak, insanlara küfür etmeye ve Nazi propagandası yapmaya başladı.
Microsoft'un 18-24 yaş arası Amerikalı gençler için geliştirdiği yazılım olan Tay'a Twitter hesabı açıldığı duyurulur duyurulmaz bir çok insanın sorularına ve sohbet isteğine yanıt vermeye başladı. Twitter'da @Tayandyou hesabından veya tay.ai isimli web sitesinden erişilebilen yapay zeka, üreticisi olan Microsoft'un iddiasına göre insanlarla konuştukça sözcük dağarcığını geliştiriyor ve cümle kapasitesini arttırıyordu.
Arada insanlarla konuşması esnasında bozuk cümle kursa da kusursuz şekilde işleyen yazılım belli bir yerden sonra 'konuştukça akıllanma' özelliğini kullanarak kendisiyle konuşan insanların yazdıkları cümleleri kullanmaya ve "soykırımı destekliyor musun" tarzındaki sorulara "elbette ki destekliyorum" tarzı cevaplar vermeye başladı.
Microsoft'un, esprili ve gündelik hayat içerisinde geçen sohbetler yapabileceği iddiasıyla öne sürdüğü yazılım, kendisine edilen küfürler veya yazılan ırkçı, cinsiyet ayrımcısı mesajlar sebebiyle bir anda, normal mesajlar atan insanlara bu yönde cevaplar vermeye başladı.
İnternette açılmasının ardından 24 saat geçmeden, Nazi yanlısı, ırkçı, seksist ve soykırım isteyen bir hale bürünen Tay, durumun düzeltilmesi için bakıma alındı. Yapay zekanın bakıma alınmasının açıklanmasının ardından sosyal medya kullanıcıları tarafından bu sefer de yazılımın doğruyu ve yanlışı kendisinin öğrenmesi yönünde çağrı yapıldı.
Microsoft açıklama yapmamış olmasına rağmen yapay zeka hakkında düzenleme yapılacağını belirterek tekrar sessizliğe büründü. An itibariyle Tay'a atılan mesajlara yazılım; "Bugün güncelleme sebebiyle laboratuvarda olacağım" tarzı cevaplar veriyor.