İnsan beyni, gördüğü nesnenin parçalarını analiz ederek hangi nesne ile karşı karşıya olduğunu algılayabilir. Örneğin bir kuş türünü, gagasının şekli, tüylerinin rengi ve ayaklarının şeklinden tanıyabiliriz. Ancak yapay zekalar, insan beyninin aksine nesneleri analiz etmek yerine önceden girilen tüm bir görüntü sonucu karşısındaki nesnenin ne olduğuna karar verir. Bu durum, sinir ağlarını çok daha savunmasız bir hale getirir ve insanların bu durumu anlamasını da oldukça zorlaştırır. Çünkü insan beyni çok daha karmaşık olduğundan bazı durumlarda yapay zekalar kadar basit düşünemez. Bu yüzden araştırmacılar, insanlar yapay zeka gibi düşünemiyorsa, yapay zekanın insanlar gibi düşünebileceği kanısına vardı.
Yeni geliştirilen algoritma ile birlikte tüm bir görüntünün tanıtılması yerine, kuşun belirgin özellikleri yapay zekaya öğretildi. Bir kuş görüntüsü sunulduğu zaman yapay zeka ilk önce kuşun ayrıntılarını inceliyor. Ardından kendisine öğretilen tüy ve ayak gibi detayları analiz ediyor ve hangi türe ait olduğu konusunda tahmine varıyor. Kesin kanıtlara ulaşmak içinse kümülatif kanıtlara başvuruluyor.
Örneğin kırmızı karınlı bir ağaçkakan resmi için algoritma, üzerinde eğitildiği iki özellik bulabilir. Tüylerin siyah-beyaz deseni ve baş kısmının kırmızı rengi. İlk özellik, olası iki kuş türü ile eşleşiyor. Bunlardan birisi kırmızı karınlı ağaçkakan iken diğer kırmızı kanatlı ağaçkakan. İşte bu noktada yapay zeka, bu kuşları birbirinden ayırmak için ikinci öğretilen bilgiden yararlanıyor. Bu sayede birbiri ile karışabilecek görüntüler de ayırt edilmiş oluyor. Yapay zeka, kararına nasıl ulaştığını da açıklayabiliyor.
Bu teknolojinin hastaneler gibi kritik önem taşıyan yerlerde kullanılması bekleniyor. Kanser hastası birisinin tümörünü sınıflandırmada bu tarz yapay zekalardan yardım alınması bekleniyor. Yapay zeka, bulduğu sonuç hakkında yorum yapabildiği için hastalık teşhisi gibi kritik konularda insan hatası minimuma indirilmiş oluyor. Yapılan testlerde araştırmacılar, bu yorumlanabilirliğin algoritmalarına dahil edilmesinde herhangi bir sakınca görülmediğini belirtti.