Hier, Facebook activait son Safety Check pour Bangkok. Il semblait alors qu’une bombe y avait explosé, mais le réseau social était en fait victime de ses propres algorithmes d’alertes.
Si vous avez des amis ou des collègues de travail à Bangkok actuellement, vous avez peut-être reçu une alerte Facebook indiquant qu’ils étaient en sécurité. Inquiet, vous vous renseignez et apprenez qu’une explosion a eu lieu dans le centre-ville. Il ne s’est pourtant rien passé.
Peu de temps après, un journaliste thaïlandais, en poste à Bangkok, indique qu’en dépit du Safety Check de Facebook, rien ne semble s’être produit. Aucune source n’est capable de confirmer l’information, personne n’a rien vu, rien entendu. Un contact sur place nous indique également que tout est « normal » en centre-ville. Environ une heure plus tard, Facebook supprime ce Safety Check.
Confusion et algorithmes
Que s’est-il passé ? Facebook a tout simplement été « abusé » par ses algorithmes de déclenchement des alertes. Ces derniers sont basés sur la circulation des informations, et quand le réseau social estime que l’amplitude est assez importante, le Safety Check est activé. Or, une information sur une explosion de bombe est tout à coup apparue sur le site Bangkok Informer. Seulement, elle concernait un incident survenu un an plus tôt, durant une procession religieuse.
Il y a donc eu contrôle humain chez Facebook, mais seulement a posteriori, pour désactiver l’alerte. Mais elle a eu le temps, pendant environ une heure, de provoquer une certaine angoisse chez ceux qui avaient des proches sur place. Le réseau social tente en tout cas de se défendre : « Comme toujours avec les activations du Safety Check, Facebook s’appuie sur un tiers de confiance pour confirmer en premier lieu l’incident, puis sur la communauté pour utiliser l’outil et partager avec les amis et la famille ».
Une simple histoire de feux d'artifice ?
Mais si un tiers de confiance a pu confirmer qu’un évènement s’est produit, de quoi parlait-il ? Selon la BBC, il semble qu’il y ait eu confusion avec une manifestation devant le Parlement, hier matin. De gros feux d’artifice auraient été utilisés et auraient pu être confondus avec des bombes. Pourquoi et comment ces évènements ont pu déclencher le retour d’actualités sur une bombe en 2015 reste pour l’instant un mystère.
On signalera tout de même que ce n’est pas la première fois que Facebook se trompe de cette manière. En mars dernier, un souci similaire s’était manifesté au Pakistan, toujours pour une explosion de bombe.
Commentaires (9)
#1
L’arroseur arrosé
#2
En fait à mon avis l’information a été balancée volontairement pour prouver que le système était faillible. Tout ça en faisant correspondre avec les feux d’artifice.
" />
#3
Mieux vaut que ça se déclenche trop que pas assez.
#4
C’est beau l’IA chez Facebook
" />
#5
Un super article comment fonctionne le Safety Check et pourquoi il fonctionne comme cela.
http://www.lemonde.fr/pixels/article/2016/11/13/un-an-apres-les-attentats-du-13-…
#6
(╯°□°)╯︵ ʞooqǝɔɐɟ
#7
et après on dira que le fact-checking by Facebook est la solution aux utilisations abusives de la viralité des rézo socio
" /> 
" />
#8
Ptain avec le nombre de pélos qui bossent pour Facebook il peuvent pas demander à l’un d’entre eux de checker à la main avant d’activer le truc? C’est pas comme si c’était activé toutes les 5mn non plus…
Bon après c’est pas dramatique, ça fait de mal à personne à part inquiéter inutilement des gens jusqu’à ce que ça rentre dans l’ordre. D’ailleurs je pense que le premier réflexe d’une personne qui s’inquiéterait serait d’aller se renseigner et constaterait donc qu’il n’y a rien à voir.
Si il y a bien une seule fonctionnalité que je trouve intéressante sur FB c’est celle là, mais avoir une confiance aveugle dans un algo on sait que ça marche jamais. L’exception finira par arriver, FB n’est tout de même pas composé de bleus…
#9
Merci Janus24, l’article est très intéressant !