Vous n'avez pas encore de notification

Page d'accueil

Options d'affichage

Abonné

Actualités

Abonné

Des thèmes sont disponibles :

Thème de baseThème de baseThème sombreThème sombreThème yinyang clairThème yinyang clairThème yinyang sombreThème yinyang sombreThème orange mécanique clairThème orange mécanique clairThème orange mécanique sombreThème orange mécanique sombreThème rose clairThème rose clairThème rose sombreThème rose sombre

Vous n'êtes pas encore INpactien ?

Inscrivez-vous !
Twitter : l'algorithme de recadrage d'images critiqué pour ses biais

Dans un tweet mélangeant une photo de Barack Obama et de Mitch McConnell, un utilisateur a montré que l'outil du service de micro-blogging devant choisir quelle partie de l'image mettre en avant avait une préférence pour le visage du second, qui est blanc.

De quoi inciter certains à penser qu'un biais raciste est présent. Tout le week-end, les essais ont été multipliés pour vérifier cette théorie, certains évoquant le niveau de sourire ou le contraste, comme autres éléments ayant pu jouer.

De son côté, Twitter réfute tout choix lié au genre ou à la couleur de peau dans son algorithme, précisant que des tests avaient déjà été effectués pour s'en assurer… mais que d'autres sont « à l'évidence » nécessaires.  Le travail qui sera mené se fera en open source. Une manière pour l'équipe d'assurer qu'elle est transparente en la matière. 

22 commentaires
Avatar de momal INpactien
Avatar de momalmomal- 21/09/20 à 09:29:57

Mouais, et ca aurait ete le visage noir mis en avant, on aurait dit pareil...
L'ideal serait que ca soit aleatoire face a un choix de mise en avant sur des elements d'image avec le meme rank, mais la encore on peut se retrouver avec des resultats qui seront interpretés negativement par defaut

Avatar de misterB Abonné
Avatar de misterBmisterB- 21/09/20 à 10:20:44

La photo et les peau sombre ont toujours était un problème, les pellicule couleurs ont du attendre 1995 pour savoir gérer les peaux noirs, les premiers appareil numériques n'étaient pas mieux lotis, et encore aujourd'hui les appareil bas de gammes sont calibré sur les peux claires, plus facile a gérer…

Dans la cas de twitter je pense que l'algorithme est calibré pour aller au plus simple

Avatar de Vaark INpactien
Avatar de VaarkVaark- 21/09/20 à 10:36:15
misterB

Le même problème se pose avec la reconnaissance faciale, les algos existant actuellement ont beaucoup plus de faux positifs avec des gens à la peau noire que les autres.

Avatar de wpayen Abonné
Avatar de wpayenwpayen- 21/09/20 à 10:47:32
misterB

Faut pas mettre sur le même plan limite physique (Pellicule) et technologie développée par des peaux clairs (caucasien ou asiatique).
Les biais algorithmique liés à l'ethnie du dévelopeur sont très connus, la reconnaissance faciale est un exemple.

Avatar de Guillaume_LG Abonné
Avatar de Guillaume_LGGuillaume_LG- 21/09/20 à 10:51:49

Mmmh, pas de problème sur Nitter, ça affiche simplement toute l'image ;)

Avatar de whilefork Abonné
Avatar de whileforkwhilefork- 21/09/20 à 10:56:37

Moi je propose que l'algorithme choisisse en fonction des habitudes de celui qui regarde... :mad2:

Avatar de DanLo Abonné
Avatar de DanLoDanLo- 21/09/20 à 11:15:47

Je n'ai jamais compris pourquoi ils se sont fait chier à faire un algorithme pour ça plutôt que de laisser à l'utilisateur choisir quelle partir de l'image sera vue... C'est d'une débilité sans nom !

Avatar de Drepanocytose Abonné
Avatar de DrepanocytoseDrepanocytose- 21/09/20 à 11:28:41

Ce serait marrant de comparer entre une femme blanche et un homme noir.
Ou un homme roux et une femme blonde.
Ou un homme gros et blanc et une femme noire et super athletique.
Ou un homme blanc gros vieux et roux et un homme noir jeune athletique et bien membré.
Ou....
Ou....

En fait on s'en fout, non ?

Avatar de Mihashi Abonné
Avatar de MihashiMihashi- 21/09/20 à 12:16:15

wpayen a écrit :

Faut pas mettre sur le même plan limite physique (Pellicule) et technologie développée par des peaux clairs (caucasien ou asiatique). Les biais algorithmique liés à l'ethnie du dévelopeur sont très connus, la reconnaissance faciale est un exemple.

Mais c'est pas forcément un problème d'algorithme, ça peut être un problème de manque de contraste sur les peaux sombres par exemple, qui les rends plus difficiles à détecter quelque soit l'algo.

Avatar de DanLo Abonné
Avatar de DanLoDanLo- 21/09/20 à 12:24:30
Mihashi

Je suis pas sûr que tu dirais ça en toute bonne foi quand tu vois le cas d'exemple avec le visage d'Obama....

Favoriser le visage le plus contrasté* éventuellement (ce qui est discutable en soit), mais de là à parler de difficulté à détecter...

* l'un des tests a montré qu'en montant le contraste sur le visage d'Obama, ça changeait le résultat !

Édité par DanLo le 21/09/2020 à 12:28
Il n'est plus possible de commenter cette actualité.
Page 1 / 3