Les algorithmes, entre intelligence et injustice artificielles

Bienvenue dans le monde réel
Tech 2 min
Les algorithmes, entre intelligence et injustice artificielles
Crédits : DNY59/iStock

Les algorithmes et les intelligences artificielles peuvent être de formidables outils… à condition qu’ils soient bien conçus et entrainés. Ils sont néanmoins très fortement dépendants des données mises à leur disposition et peuvent donc enfermer les utilisateurs, perpétuer et amplifier les biais des humains.

L’intelligence artificielle est omniprésente dans la vie de tous les jours : on la retrouve à différentes sauces dans tous les domaines (ou presque) de la vie numérique. Problème, il s’agit parfois (souvent ?) d’une boîte noire dont le fonctionnement n’est pas bien vraiment connu du grand public… quand il a conscience de son existence.

Le yin et yang de l’intelligence artificielle

Nous avons déjà eu l’occasion de l’expliquer à de nombreuses reprises : les intelligences artificielles peuvent avoir des biais parfois importants qui ne sont pas toujours faciles à appréhender, y compris pour les chercheurs. En fonction du jeu de données utilisées pour son apprentissage, une IA peut donner des résultats « étonnants », voire discriminatoires, alors que ce n’était pas le but ni la volonté de départ. 

Tout le monde n’est pas égal devant les algorithmes et les IA : « Si vous êtes une femme d’origine africaine et jeune, je ne pense pas que la médecine personnalisée vous concerne », expliquait Philippe Besse, professeur de mathématiques et de statistique à l’Université de Toulouse, dans un rapport de la CNIL. 

Mis entre de mauvaises mains, l’intelligence artificielle peut aussi avoir des effets pervers et dangereux. Un autre rapport dressait une liste non exhaustive des risques : malware avec une incroyable capacité d'adaptation, robot détourné de sa fonction première pour identifier et détruire une cible, système prédictif de perturbation civile et autres fake news. 

Toutes ces préoccupations avaient également été soulevées par Cédric Villani dans son épais rapport sur l’intelligence artificielle, ainsi que dans celui de Bruce Schneier qui s'inquiétait du temps où, « après avoir piraté l'humanité, les systèmes d'IA pirateront ensuite d'autres systèmes d'IA, et les humains ne seront guère plus que des dommages collatéraux ».

Dans le Journal du CNRS, Sihem Amer-Yahia, directrice de recherche au Laboratoire d'informatique de Grenoble, revient sur les « formes de discrimination » qui découlent des algorithmes et qui transpirent dans les intelligences artificielles. 

Des algorithmes à l’intelligence artificielle

Vous n'avez pas encore de notification

Page d'accueil
Options d'affichage
Abonné
Actualités
Abonné
Des thèmes sont disponibles :
Thème de baseThème de baseThème sombreThème sombreThème yinyang clairThème yinyang clairThème yinyang sombreThème yinyang sombreThème orange mécanique clairThème orange mécanique clairThème orange mécanique sombreThème orange mécanique sombreThème rose clairThème rose clairThème rose sombreThème rose sombre

Vous n'êtes pas encore INpactien ?

Inscrivez-vous !