Vous n'avez pas encore de notification

Page d'accueil

Options d'affichage

Abonné

Actualités

Abonné

Des thèmes sont disponibles :

Thème de baseThème de baseThème sombreThème sombreThème yinyang clairThème yinyang clairThème yinyang sombreThème yinyang sombreThème orange mécanique clairThème orange mécanique clairThème orange mécanique sombreThème orange mécanique sombreThème rose clairThème rose clairThème rose sombreThème rose sombre

Vous n'êtes pas encore INpactien ?

Inscrivez-vous !
Le fiasco du système de police prédictive de Chicago

Expérimenté depuis 2012 avec l’aide de la RAND Corporation et l’Institut de technologie de l’Illinois, le système de police prédictive de Chicago vient d’être abandonné, à mesure qu’il encourageait les discriminations, sans réduire la criminalité, explique Boing Boing.

Intitulé TRAP (Targeted Repeat-Offender Apprehension Program, qui signifie aussi piège, ou traquenard en anglais), le programme favorisait le profiling racial, la présomption de culpabilité, ne surveillait pas correctement qui y avait accès ni pourquoi, au point que des personnes extérieures à la police pouvaient même y accéder.

12 commentaires
Avatar de hellmut Abonné
Avatar de hellmuthellmut- 27/01/20 à 09:42:15

pendant ce temps à londres...

Avatar de Ler van keeg INpactien
Avatar de Ler van keegLer van keeg- 27/01/20 à 09:44:35

Oui, enfin ce n'est pas le programme qui est de lui-même discriminant, ce sont les critères entrés dans l'algorithme...

Avatar de Spidard INpactien
Avatar de SpidardSpidard- 27/01/20 à 09:59:52

Ou bien si c'est du data learning, il a appris avec les mêmes biais que les policiers qui font les contrôles :roll:

Avatar de spidy Abonné
Avatar de spidyspidy- 27/01/20 à 10:42:15

Spielberg avait aussi essayé, mais lui non plus n'a pas réussi :troll:

Avatar de misterB Abonné
Avatar de misterBmisterB- 27/01/20 à 11:05:16

Targeted Repeat-Offender Apprehension Program

Le problème est quand on regarde les stat US, c'est que les minorités ont plus de chances de subir un control "aléatoire" que les autres. Du coup le système n'étant qu'un reflet de la société qui l'a conçu il va faire pareil.

Avatar de ErGo_404 Abonné
Avatar de ErGo_404ErGo_404- 27/01/20 à 11:45:16

Peut être mais ça montre le problème sous-jacent de ces systèmes, sans un paramétrage optimal (et impossible) ils ne peuvent pas bien fonctionner.

Avatar de Norde Abonné
Avatar de NordeNorde- 27/01/20 à 11:52:23

C'est exactement ça, il est basé sur les même biais qui nous aveugle, soit grossièrement :

  • Couleur de peau ≈ pauvreté ≈ criminalité

    Du coup couleur de peau ≈ criminalité, mais sans réfléchir au problème de fond, yeah :mad2:

Avatar de grsbdl INpactien
Avatar de grsbdlgrsbdl- 27/01/20 à 12:49:38

misterB a écrit :

Targeted Repeat-Offender Apprehension Program

Le problème est quand on regarde les stat US, c'est que les minorités ont plus de chances de subir un control "aléatoire" que les autres. Du coup le système n'étant qu'un reflet de la société qui l'a conçu il va faire pareil.

Exactement. Il y avait eu des reportages sympas sur le sujet. Ils démontraient que, grosso modo, si tu separes ta ville en quatre (riches, pauvres, blacks, latinos par ex) alors, d'après les stats classiques, le crime est équitablement réparti. Mais, si tu renforces les forces de police dans un quartier précis, alors tu y competeras davantage de crimes (y en a pas plus qui sont perpétrés, mais juste davantage qui sont relevés). L'IA en question favorisant les rondes dans les quartiers noirs, bah ils se contentaient fièrement de montrer leurs beaux chiffres.

Et dire qu'il leur aura fallut tout ce temps pour réaliser, ou du moins admettre cet énorme biais... :-(

Avatar de wanou Abonné
Avatar de wanouwanou- 27/01/20 à 17:04:54

Je ne suis pas certain que le biais sera attribué à la police ni que cela servira de leçon aux forces de police.
Tout est question d'électeurs

Avatar de Ricard INpactien
Avatar de RicardRicard- 27/01/20 à 17:54:27

misterB a écrit :

Targeted Repeat-Offender Apprehension Program

Le problème est quand on regarde les stat US, c'est que les minorités ont plus de chances de subir un control "aléatoire" que les autres. Du coup le système n'étant qu'un reflet de la société qui l'a conçu il va faire pareil.

Quand tu regardes les stats en France, c'est pareil. Je me souviens d'un reportage ou un flic répondait au "délit de sale gueule" (typiquement les noirs et les arabes) et qui répondait tranquillou: "bah, c'est les statistiques".
Donc effectivement, si les origines, par ex. rentrent dans les stats, ça ne peut que foirer.:chinois:

Il n'est plus possible de commenter cette actualité.
Page 1 / 2