pendant ce temps à londres...

Oui, enfin ce n'est pas le programme qui est de lui-même discriminant, ce sont les critères entrés dans l'algorithme...

Ou bien si c'est du data learning, il a appris avec les mêmes biais que les policiers qui font les contrôles

Spielberg avait aussi essayé, mais lui non plus n'a pas réussi

Targeted Repeat-Offender Apprehension Program

Le problème est quand on regarde les stat US, c'est que les minorités ont plus de chances de subir un control "aléatoire" que les autres. Du coup le système n'étant qu'un reflet de la société qui l'a conçu il va faire pareil.

Peut être mais ça montre le problème sous-jacent de ces systèmes, sans un paramétrage optimal (et impossible) ils ne peuvent pas bien fonctionner.

C'est exactement ça, il est basé sur les même biais qui nous aveugle, soit grossièrement :

• Couleur de peau ≈ pauvreté ≈ criminalité

  Du coup couleur de peau ≈ criminalité, mais sans réfléchir au problème de fond, yeah

misterB a écrit :

Targeted Repeat-Offender Apprehension Program

Le problème est quand on regarde les stat US, c'est que les minorités ont plus de chances de subir un control "aléatoire" que les autres. Du coup le système n'étant qu'un reflet de la société qui l'a conçu il va faire pareil.

Exactement. Il y avait eu des reportages sympas sur le sujet. Ils démontraient que, grosso modo, si tu separes ta ville en quatre (riches, pauvres, blacks, latinos par ex) alors, d'après les stats classiques, le crime est équitablement réparti. Mais, si tu renforces les forces de police dans un quartier précis, alors tu y competeras davantage de crimes (y en a pas plus qui sont perpétrés, mais juste davantage qui sont relevés). L'IA en question favorisant les rondes dans les quartiers noirs, bah ils se contentaient fièrement de montrer leurs beaux chiffres.

Et dire qu'il leur aura fallut tout ce temps pour réaliser, ou du moins admettre cet énorme biais... :-(

Je ne suis pas certain que le biais sera attribué à la police ni que cela servira de leçon aux forces de police.
Tout est question d'électeurs

misterB a écrit :

Targeted Repeat-Offender Apprehension Program

Le problème est quand on regarde les stat US, c'est que les minorités ont plus de chances de subir un control "aléatoire" que les autres. Du coup le système n'étant qu'un reflet de la société qui l'a conçu il va faire pareil.

Quand tu regardes les stats en France, c'est pareil. Je me souviens d'un reportage ou un flic répondait au "délit de sale gueule" (typiquement les noirs et les arabes) et qui répondait tranquillou: "bah, c'est les statistiques".
Donc effectivement, si les origines, par ex. rentrent dans les stats, ça ne peut que foirer.