Vous n'avez pas encore de notification

Page d'accueil

Options d'affichage

Abonné

Actualités

Abonné

Des thèmes sont disponibles :

Thème de baseThème de baseThème sombreThème sombreThème yinyang clairThème yinyang clairThème yinyang sombreThème yinyang sombreThème orange mécanique clairThème orange mécanique clairThème orange mécanique sombreThème orange mécanique sombreThème rose clairThème rose clairThème rose sombreThème rose sombre

Vous n'êtes pas encore INpactien ?

Inscrivez-vous !
Reconnaissance faciale : un afro-américain arrêté à tortCrédits : Scharfsinn86/iStock

C'est la première erreur de ce type documentée aux États-Unis, rapporte l'AFP. Un afro-américain a été arrêté à tort à cause de l'usage par la police de la technologie de reconnaissance faciale. Début janvier, Robert Williams a passé trente heures en détention parce qu'un logiciel avait jugé identique la photo de son permis de conduire à l'image d'un voleur de montres capturée par des caméras de surveillance.

Après une nuit en cellule, des agents lui ont demandé s'il était déjà allé dans une bijouterie de Detroit, et lui ont montré deux photos floues d'un homme noir, écrit-il dans une tribune publiée par le Washington Post. « J'ai pris le papier et je l'ai mis près de mon visage en disant : J'espère que vous ne pensez pas que tous les hommes noirs se ressemblent. Les policiers se sont regardés et l'un d'eux a dit : l'ordinateur a dû se tromper », raconte-t-il.

Selon une étude du Massachusetts Institute of Technology, le taux d’erreur est de 35 % pour les femmes noires. Si ce biais ethnique lié à des bases de données comprenant plus de modèles blancs que noirs est connu, aucun cas précis d’erreur n’avait jusque-là été documenté.

Mercredi, le conseil municipal de Boston, sur la côte atlantique, a voté l’interdiction pour les agents municipaux d’utiliser la reconnaissance faciale, devenant la deuxième plus grosse ville au monde, après San Francisco à prendre cette décision. Dans la plainte administrative déposée à Détroit, l'association de défense des droits civiques ACLU demande à la ville de renoncer à son tour à cette technologie, mais aussi que le casier judiciaire de Robert Williams soit purgé de toute référence à cet incident.

39 commentaires
Avatar de Winderly Abonné
Avatar de WinderlyWinderly- 26/06/20 à 10:17:04

J'aimerais lire l'avis des adorateurs de la vidéoprotection.

Le mien étant : il vaut mieux des coupables en liberté plutôt que des innocents punis.

Avatar de Raito Yagami INpactien
Avatar de Raito YagamiRaito Yagami- 26/06/20 à 10:18:07

La réalité rejoint peu à peu les pires fictions dystopiques ...

Avatar de haelty Abonné
Avatar de haeltyhaelty- 26/06/20 à 10:28:11

C'est marrant comme quoi ce biais était archi connu mais ils se sont dit  "ça se tente". Le mouvement BLM a commencé récemment, mais ils savaient très bien que c'est un sujet touchy.

"Ha mince, mais y a vraiment un biais en fait, arrêtons ça" :bravo:

Avatar de js2082 INpactien
Avatar de js2082js2082- 26/06/20 à 10:29:09

Quand le racisme touche aussi la technologie...

Ou comment le "l'ordinateur a dû se tromper "est le nouveau crédo de policiers racistes.

Bientôt, je sens qu'on va avoir droit à du "C'est la faute à l'ordinateur si ma matraque au bout de mon bras a tabassé et défiguré ce jeune/noir/immigré/gauchiste/femme..."

Édité par js2082 le 26/06/2020 à 10:33
Avatar de chness INpactien
Avatar de chnesschness- 26/06/20 à 11:36:20

Ouh là. Tout de suite sur les policiers (bon, c'est aux US). C'est surtout un manque d'alimentation de l'IA (là, ça peut être dû à un biais raciste) et qu'on a tendance à trop se fier aux technologies.
https://www.letemps.ch/sciences/cerveau-confond-visages-dautres-ethnies
une autre
C'est pas une nouveauté qu'on a tendance à moins différencier les personnes d'une autre "ethnie" que la sienne.
C'est valable dans tous les sens (pas seulement les blancs).
Justement, une IA bien alimentée corrigerait ces biais de perception humaine et ensuite, c'est surtout de prévoir dans la procédure de vérifier ce que sort le logiciel.

Avatar de Bill2 INpactien
Avatar de Bill2Bill2- 26/06/20 à 11:36:54

Et il leur a fallu 30h pour penser à vérifier si l'image vidéo correspondait bien à la personne qu'ils arrêtaient ?

Avatar de alex.d. Abonné
Avatar de alex.d.alex.d.- 26/06/20 à 11:50:41

chness a écrit :

Ouh là. Tout de suite sur les policiers (bon, c'est aux US).

Bah les policiers ont bien merdé : ils lui ont fait passer la nuit en cellule avant de vérifier manuellement si c'était bien lui...
 

Avatar de Patch INpactien
Avatar de PatchPatch- 26/06/20 à 11:54:05

js2082 a écrit :

Quand le racisme touche aussi la technologie...

La technologie n'est pas raciste. C'est ici un manque d'alimentation de l'IA couplé au fait que sur la reconnaissance d'images, elle a plus de mal quand le sujet a une couleur sombre que si le même a une couleur claire.

Avatar de js2082 INpactien
Avatar de js2082js2082- 26/06/20 à 12:25:58

Tu n'as pas compris le post apparemment.

 

alex.d. a écrit :

Bah les policiers ont bien merdé ...
 

Et pas qu'un peu...
Il est clair qu'en présence d'un blanc, la police aurait vérifié la correspondance de la photo, au moins lorsque le gars prétendait que ce n'était pas lui.

Ça me rappelle la vidéo du gars arrêté et menotté parce que le policier "pensait" que c'était une personne recherchée sans même demander ses papiers, et lui qui leur tendait la perche en ne cessant de répéter que ce n'était pas lui.
Totalement surréaliste de la mentalité raciste  des policiers américains.
 
 
Bon après, on peut pas vraiment leur faire la morale vu que, chez nous, la majorité des flics sont fachos et qu'ils se focalisent sur les personnes en apparence issue de l'immigration (en clair, tous les noirs et les arabes sont des délinquants pour eux). Et c'est clairement pas leurs derniers mouvements qui va redorer leur blason.
 

Avatar de tpeg5stan Abonné
Avatar de tpeg5stantpeg5stan- 26/06/20 à 12:49:10

Bill2 a écrit :

Et il leur a fallu 30h pour penser à vérifier si l'image vidéo correspondait bien à la personne qu'ils arrêtaient ?

L'image était floue apparemment, mais c'est vrai que des deux côtés de l'Atlantique ça arrive d'« oublier » de vérifier qu'on parle de la bonne personne.
Exemple : en France,arrestation d'un homonyme avec la même date de naissance

Il n'est plus possible de commenter cette actualité.
Page 1 / 4