Mozilla a publié son rapport sur l’état de santé d’Internet. Et le constat n’est pas bon : désinformation, biais en tous genres, voire éclatement du réseau des réseaux. Pour la fondation, les progrès sont non seulement possibles, mais nécessaires.
C’est la quatrième fois que Mozilla publie un bilan annuel de ses observations sur les développements d’Internet. Les angles d’analyse sont multiples, mais l’ensemble constitue ce que la fondation nomme elle-même un « état de santé », selon ses propres critères.
Pour Mozilla, cet état ne dépend pas du déploiement de la fibre ou d’IPv6, mais de la manière dont l’information est servie, par qui et avec quel accès. Et l’année 2020, si particulière à bien des égards, n’est pas brillante. Avec une nouveauté : la santé d’Internet s’est retrouvée profondément liée à celle des personnes, la crise sanitaire ayant fait exploser les usages numériques.
Deux thématiques tiennent à cœur à Mozilla : la diversité et les biais. Et parmi ces derniers, le « biais racial » est le plus grave selon la fondation, car il s’insinue de manière insidieuse partout. Et lorsque l’on parle de biais, on ne parle pas de comportement volontaire, mais d’un parti pris qui imprègnera jusqu’aux décisions les plus techniques avec, dans le collimateur de la fondation, les processus d’intelligence artificielle.
Une année 2020 bien spéciale
« Ce fut une année plein de pertes et chargée de changements très rapides, à mesure que la pandémie globale et la crise climatique frappaient tout le monde collectivement, tout en approfondissant les inégalités ». Un préambule bien sombre, mais Mozilla étaye son propos.
La fondation revient sur les nombreux confinements et couvre-feux qui ont émaillé les décisions des gouvernements un peu partout sur la planète. « Alors que de nombreux pays mettaient en place des confinements et des fermetures d’écoles, nous avons vu un changement d’une ampleur que nous aurions jugée impossible avant. Le rythme déjà rapide de l’expansion numérique a encore pris de la vitesse tandis que les gouvernements, services officiels de santé publique, entreprises et investisseurs de startups (presque tout le monde) cherchaient des solutions rapides à des problèmes urgents ».
Méfiance donc devant une explosion de nouvelles applications et l’arrivée soudaine de l’intelligence artificielle dans un plus grand nombre de services, pour aider à la prise de décisions, suivre l’évolution de la crise sanitaire, etc. De nouvelles pratiques ou d’anciennes intensifiées dans le sillage du coronavirus, entrainant une ribambelle de développements à surveiller, de l’absence de stratégie à long terme sur la vie privée « au vaste tracking des citoyens, employés et étudiants ».
Sept grands vainqueurs
Sur les dix plus grandes capitalisations boursières au monde, sept sont des géants du numérique : Apple, Microsoft, Amazon, Alphabet, Facebook, Tencent et Alibaba.
Mozilla pointe des profits qui ont explosé dans un contexte qui a largement renforcé leur puissance. Parmi les solutions rapides adoptées par de nombreux acteurs (privés comme publics), on retrouve l’utilisation de produits prêts à l’emploi qui n’attendaient plus que de nouveaux clients. Mozilla trace un parallèle entre l’augmentation de cette puissance et le nombre en augmentation de procédures en cours ayant trait à la vie privée.
Mozilla évoque également un nombre croissant d’employés critiquant leur entreprise sur divers sujets, notamment le manque de diversité, l’éthique ou encore le type de contrats passés. Les exemples donnés par Mozilla pour tous ces points concernent Google. Seule exception, un groupe d’employés d’Amazon appelant l’entreprise à prendre ses responsabilités sur le plan environnemental.
Les grands médias sociaux sont vertement critiqués pour « leur tracking rampant, leur modération perfectible des contenus, leur transparence limitée des publicités politiques, leurs recommandations nocives, leurs biais algorithmiques, leur évasion fiscale » et autres. N’en jetez plus. « À travers le monde, la désinformation et les discours de haine ont été accélérés aussi bien par les actions humaines que les recommandations algorithmiques, de manières qui bénéficient à des groupes aux intentions cachées : déstabiliser et polariser les sociétés ».
Une inaction qui a pris un tour inattendu durant les dernières semaines du mandat de Donald Trump. Suite aux évènements du Capitole, Twitter, Facebook et d’autres ont finalement décidé d’agir contre l’ancien président, récemment remplacé par Joe Biden.
Depuis, les débats sont nombreux sur la place qu’occupent ces plateformes privées touchant des milliards de personnes à travers le monde. D’un côté, les tenants du rappel : ce sont des sociétés privées, qui font appliquer le règlement qu’elles souhaitent. De l’autre, ceux du débat démocratique, qui insistent sur la nécessité de neutralité de ces plateformes.
Apple, Microsoft, Amazon, Alphabet, Facebook, Tencent et Alibaba, par leur prévalence, ont une responsabilité accrue de lutte contre la désinformation. Et attention : « Les problèmes ne sont pas résolus en se contentant de supprimer le contenu », prévient Mozilla. « Retirer simplement le contenu n’améliore pas les systèmes qui déterminent ce qui est amplifié et ce qui est effacé par les algorithmes de la plateforme ». Ce d’autant qu’aucune des grandes plateformes n’est transparente sur le développement de ses algorithmes.
On se souvient notamment comment Mozilla avait copieusement documenté les problèmes relevés sur YouTube, dont 70 % des vidéos regardées viennent des recommandations.
De sérieux problèmes de biais
L’une des plus grandes inquiétudes de Mozilla concerne les biais. Selon la fondation, ils sont omniprésents et ont un impact aussi durable que concret sur la représentation de l’information dans une société qui en est saturée.
Parmi toutes ces distorsions, Mozilla se penche tout particulièrement sur le « biais racial », aux multiples ramifications contre les minorités ethniques et les noirs. Un biais qu’une majorité ne voit pas, car elle n’en soupçonne pas l’existence. Si l’on tape par exemple « robot intelligence artificielle », toutes les représentations ou presque sont blanches. Et dans les cas (nombreux) où le robot a un visage, il est le plus souvent masculin.
Mozilla pointe qu’il ne s’agit pas d’une volonté propre aux créateurs des algorithmes, mais de biais – donc de distorsions plus ou moins inconscientes – induits par leur propre représentation du monde. Ils influent sur le développement, et une certaine forme de racisme se retrouvée codée au sein de mécanismes chargés de présenter une information. La fameuse dualité amplification/suppression qu’évoquait Mozilla, avec le risque très réel d’invisibilisation des minorités.
Mozilla rappelle également comment les algorithmes ont pu mener à d’autres sérieux problèmes. En 2009, une recherche sur les mots « black girls » dans Google menait essentiellement à des scènes pornographiques mettant en scène des femmes de couleur, comme révélées alors par Safiya Umoja Noble. La situation fut corrigée, mais sans que Google s’engage dans des initiatives plus ouvertes sur le sujet. En juin 2020, les clients de publicités en ligne utilisant les termes « black girls », « latina girls » et « asian girls » se voyaient encore proposer essentiellement des mots-clés à caractère pornographique, selon The Markup.
Pour la fondation, une bonne partie de ces biais sont issus de l’entourage immédiat des personnes, aussi bien celui qu’elles se composent elles-mêmes que celui de leur travail. Ici, les entreprises ont un rôle à jouer. Mais pour Mozilla, la partie est loin d’être gagnée. Elle prend pour exemple la seule présence des femmes en entreprise. La situation s’est légèrement améliorée au cours des quelques dernières années, mais elle est comprise entre 17 et 23 % chez les géants du numérique, une part jugée très insuffisante. Les vidéos de présentation des produits, notamment chez Apple, sont donc trompeuses, les entreprises faisant attention à respecter une stricte parité chez les intervenants.
Pour les mêmes raisons, l’autre grand biais est que de nombreux résultats sont centrés sur les États-Unis. « C’est parce que cela reflète un corpus particulier de contenus web et le contexte des développeurs logiciels, responsables, et dirigeants de compagnies technologiques qui sont rarement diversifiées en matière de race, ethnicité ou genre », pointe Mozilla.
En somme, une conclusion évidente : « Alors que la représentation courante d’un utilisateur "par défaut" est omniprésente, ce concept monolithique d’un utilisateur généralisé est souvent basé sur des spécificités invisibles qui sont considérées à tort comme universelles : blanc, homme cisgenre, Américain ». Considérant le manque de diversité dans les grandes entreprises, la fondation n’est donc pas étonnée que les biais algorithmiques soient si présents.
Et si de simples résultats de recherche sont déjà un sérieux problème, les biais peuvent avoir des conséquences dans la vie de tous les jours, allant de distributeurs de savon ne reconnaissant pas les mains de personnes de couleur, aux systèmes de reconnaissance faciale identifiant mal les femmes de couleur. « Bien sûr que les algorithmes sont racistes. Ils sont créés par des gens », titrait ainsi le journaliste Stephen Bush dans l’un de ses articles.
Mozilla va plus loin et intègre de nombreux exemples. Elle rappelle que 2020 a été marquée par un début de réveil des consciences avec le mouvement BlackLivesMatter, dans le sillage de la mort de George Floyd, un afro-américain tué (asphyxie posturale) par un officier de police blanc en plein jour. Dans les mois qui avaient suivi, IBM avait annoncé l’arrêt définitif des ventes de solutions de reconnaissance faciale. Quelques jours plus tard, Amazon annonçait un moratoire d’un an. Microsoft avait enchainé, indiquant que plus aucune technologie de ce type ne serait vendue aux forces de police tant qu’un cadre législatif fédéral ne serait pas défini.
Mais Mozilla craint que le réveil soit tardif, particulièrement en regard de l’invasion de la surveillance dans le quotidien, aussi bien celle dans les rues que celle achetée par les particuliers, qu’il s’agisse d’équipements de protection ou simplement… de réseaux sociaux.
Le splintering, ou l’éclatement d’Internet
C’est une autre des grandes préoccupations de Mozilla. « La pandémie est devenue un nouveau prétexte pour la censure du journalisme indépendant et une surveillance accrue. Lorsqu’elles ont rencontré une opposition ou un conflit, des autorités un peu partout dans le monde ont fréquemment coupé ou étranglé les connexions internet afin de censurer et réduire au silence ».
Le Cameroun, l’Inde, le Soudan, l’Indonésie et le Zimbabwe sont cités comme exemples dans lesquels la situation a pu s’améliorer. Les ordres de coupure y ont été combattus par des militants des droits numériques, avec succès. Mais souvent, ces coupures sont brèves et localisées, les rendant difficiles à combattre.
Pour Mozilla, le « splinternet » est « déjà une réalité ». Le terme désigne un Internet fragmenté, tiraillé de toutes parts par les intérêts divergents des États et grandes entreprises, ce que Quartz nomme le « techno-nationalisme ».
Dans un nombre croissant de pays, de larges pans d’Internet deviendraient ainsi inaccessibles ou strictement contrôlés. Ce constat, ajouté à la prise de contrôle par certaines entreprises, participe à une fragmentation qui menace les fondements de ce que devait être le réseau des réseaux, à savoir une place pour échanger librement.
« Dans cette nouvelle réalité, conserver la capacité centrale du web à valoriser les voix pour qu’elles atteignent des audiences globales et brisent les barrières d’accès à l’information sera critique pour préserver son ouverture », note la fondation.
Elle pointe en outre la complexité du sujet, quand les mêmes technologies utilisées pour diffuser la parole dans certains pays peuvent aussi servir à cacher des crimes.
Depuis ses promesses initiales, le web a vécu
Pour Mozilla, un ensemble particulier de fonctions techniques et architecturales ouvertes donnaient sa spécificité à Internet : une structure décentralisée, un modèle logiciel en couches, des réseaux de bout en bout, des standards ouverts et de l’open source.
L’accès, l’opportunité et la valorisation étaient des notions clés, d’autant plus présentes que les technologies retenues permettaient une diffusion sans frontière de l’information. La fondation ajoute que cette ouverture ne s’est pas faite sans restrictions, à mesure que des normes sociales puis des lois sont venues encadrer l’ensemble.
« Aujourd’hui, beaucoup de ces systèmes ouverts originaux sont profondément encapsulés et contrôlés par des systèmes informatiques propriétaires. Il y a plus de logiciels open source que jamais et l’open source continue d’ajouter une valeur positive à l’écosystème global. Et pourtant, l’expérience de bien des utilisateurs internet a migré vers des systèmes fermés, plus particulièrement les plateformes sociales populaires d’aujourd’hui », regrette Mozilla.
La fondation pointe en particulier plusieurs problèmes. Tout d’abord les « API ouvertes » qui ont remplacé en partie les standards ouverts. Ces interfaces ne sont que des sous-ensembles limités des standards et participent à la formation des fameux « jardins murés ». Ensuite, l’open source est très largement utilisé par des sociétés comme Amazon, Facebook et Google, mais il participe à la création de produits qui, eux, ne sont pas ouverts. Les données des utilisateurs s’y retrouvent piégées.
Le sens de « communauté » a également changé sous l’influence de ces entreprises. On ne parle ainsi plus d’un groupe autogouverné cherchant à produire une technologie utilisable par tous, mais d’une notion plus proche de « clients utilisant nos produits ». Et dans un tel groupe, la moindre décision d’une entreprise détermine ce qui est possible, sans parler de la surveillance de leurs habitudes pour en revendre les informations à des tiers.
Aucun mécanisme actuel de responsabilité ne semble taillé pour empêcher le modèle commercial « corrosif » de ces entreprises, que Mozilla décrit comme un « capitalisme de surveillance ».
Le bilan de Mozilla est ce qu’il annonce être : une collection de constats faits par la fondation, selon son propre prisme de lecture bien sûr. La fondation ne propose pas forcément une longue liste de solutions, car elles relèvent pour elle de l’évidence. Elle appelle ainsi chacun à se souvenir des idées et missions premières du web et plus globalement d’internet.
Face aux grandes entreprises, le choix des utilisateurs est primordial. Les produits proposés devraient toujours faire l’objet d’un choix éclairé, même si de nombreuses personnes n’ont que peu d’intérêt pour ce domaine. Les récents déboires de WhatsApp et la vague de nouveaux arrivants sur Signal ont montré que certaines situations pouvaient évoluer. Par leurs choix, les utilisateurs façonnent ainsi le marché. « Pour bâtir la vie en ligne que nous voulons, la communauté Internet elle-même doit être la voix de ces valeurs », conclut ainsi la fondation.
