L’un des algorithmes de Facebook a supprimé une publication du média The Vindicator, qui contenait plusieurs passages de la déclaration américaine d’indépendance.
Pourquoi ? Pour discours haineux. L’un des passages fait en effet référence aux « Indiens sauvages sans pitié », dont la seule règle de guerre serait une destruction aveugle. Ni une ni deux, les systèmes de Facebook n’ont pas apprécié ce qui était clairement une violente attaque contre une ethnie.
The Vindicator, s’apercevant du retrait, fait un signalement à Facebook… qui se rend compte de l’erreur, restaure la publication et présente ses excuses.
Le cas est symptomatique et rappelle la censure du tableau l’Origine du monde de Gustave Courbet (entre autres problèmes). Les algorithmes sont peut être bien taillés pour la détection des contenus à surveiller, mais la déclaration d’indépendance est un texte historique et fondateur, témoignant du contexte et des mentalités d’alors.
L’affaire relancera une fois de plus les réflexions sur les capacités réelles des algorithmes à gérer le quotidien, et du problème inhérent au classement systématique des intentions. L’être humain ne se résume après tout à un arbre décisionnel.