Désinformation, violence : les licenciements chez les Big Tech affectent-ils les discours en ligne ?

Désinformation, violence : les licenciements chez les Big Tech affectent-ils les discours en ligne ?

affaire à suivre

Avatar de l'auteur
Mathilde Saliou

Publié dans

Société numérique

08/06/2023 8 minutes
7

Désinformation, violence : les licenciements chez les Big Tech affectent-ils les discours en ligne ?

Dans les derniers mois, plusieurs dizaines de milliers d’employés de la tech ont été licenciés. Les équipes en charge de la modération des contenus, de l'éthique de l'IA et, plus globalement, de la protection des utilisateurs ont été particulièrement touchées.

Vers la fin 2022, des ingénieurs de Meta étaient prêts à lancer un produit de fact-checking qu’ils avaient mis six mois à construire. L’idée était d’offrir à des experts reconnus et à des acteurs tiers, comme les agences the Associated Press et Reuters, la possibilité de mettre des commentaires sur des articles publiés sur Facebook pour lutter contre la désinformation.

Problème : Mark Zuckerberg a déclaré vouloir faire de 2023 l’« année de l’efficacité » et l’outil, lui, a été complètement abandonné. La raison ? Parmi les 21 000 postes supprimées chez Meta au fil des derniers mois, les équipes « Trust and Safety », qui travaillent sur la protection des utilisateurs, ont particulièrement été touchées, de même que celles dédiées à la modération

Ce qui pose une question : dans quelle mesure est-ce que ces mouvements affectent les usages numériques des internautes ? 

Licenciements généralisés

Car le mouvement n’a rien de propre à l’entreprise de Zuckerberg. Face au contexte économique et après avoir embauché à tour de bras pendant la bulle Internet provoquée par la pandémie de Covid-19, la plupart des géants numériques opèrent de grands plans de licenciements.

Mais force est de constater que les équipes en charge de la protection des utilisateurs sont particulièrement touchées. Chez Twitter – qui gère en plus un changement de propriétaire –, toute l’équipe dédiée à l’éthique de l’IA et au moins 15 % de l’équipe « trust and safety » a été licenciée dès le mois de novembre 2022. 

Chez Google, l’équipe Jigsaw, en charge de la création d’outils destinés à protéger les internautes de la désinformation, des discours de haine et de la surveillance, ont été réduites à une portion « squelettique », rapportait Forbes en février. Pareil chez Microsoft, qui s’est séparée de son équipe « éthique et société » en mars.

Sur Twitter, explosion nette du climato-dénialisme et de la désinformation

Résultat, le directeur de recherche au CNRS David Chavalarias et son équipe notent des évolutions très claires des discours, notamment sur la question climatique, depuis l’arrivée d’Elon Musk à la tête de Twitter et ses coupes claires dans les effectifs. 

Habituellement, « l’été concentre les débats sur la question climatique, puis le sujet se tasse », décrit le mathématicien :

« Or, cette année, le paysage a complètement changé. Quand on compare les chiffres de participation sur ces questions trois mois avant et trois mois après le changement de direction, on constate une fuite très nette de comptes de militants pro-climats contre une baisse relativement faible de la participation de ceux qui nient le climat ». 

Pour résumer, les pro-climats postent 33 % moins de tweets orignaux et sont 25 % moins nombreux qu’auparavant, tandis que l’activité de ceux qui remettent en question la réalité du changement climatique n’a baissé que de 10 %. « Ça a changé l'état du discours, puisqu’on se retrouve avec 50 % de climatosceptiques face à 50 % de défenseurs du climat, là où autrefois, la proportion était plus de 30 % contre 70 % ».

Pour le scientifique, la situation reflète une augmentation plus large des discours de désinformation sur la plateforme, tendance tirée par le nouveau directeur lui-même « puisqu’il a décidé, au nom de la liberté d’expression, de remettre en ligne des comptes violents et/ou complotistes » en même temps qu’il réduisait les équipes en charge de contenir ce type de contenus. En mars 2023, l’Institute for Strategic Dialogue constatait effectivement une explosion des discours antisémites sur le réseau.

« Et puis il partage lui-même des contenus complotistes », ce qui, certes, ne facilite pas l’assainissement des discussions, mais participe, aussi, à la spécificité du cas de Twitter. Spécialiste des opérations de désinformation, autrice d’Agora Toxica, la société incivile à l’ère d’internet, Stéphanie Lamy agrée : « c’est le plus gros compte de la plateforme », pointe-t-elle : en matière d’amplification, cela donne à ses publications un avantage particulier.

Gestion de contenu versus design d’interface 

Pour la spécialiste, cela dit, le détournement progressif des entreprises de la tech du front de la lutte contre la désinformation remonte à avant les vagues récentes de licenciements. « Certaines, comme Meta, s’étaient beaucoup préparées à la campagne présidentielle américaine de 2020, elles avaient mis en place des dispositifs et des outils. Et malgré ces travaux, il y a eu la campagne #StopTheSteal, il y a eu l’attaque du Capitole. » 

À partir de là, estime l’experte, certains acteurs ont commencé à baisser les bras, ce qui peut venir se traduire jusque dans les réductions ou dissolutions récentes des équipes en charge de la protection des internautes.

Data scientist et ancien chef de projet chez Facebook, Ravi Iyer pointe un autre type de problématique : celui des licenciements parmi les équipes dédiées aux questions de politique et de design des plateformes. Plusieurs des collègues qu’il a vus licenciés, explique-t-il à CNBC, avaient pour tâche de réfléchir à des modifications fondamentales de fonctionnalités dont le temps avait fini par démontrer les dangers. La suspension de ce type de travail lui paraît plus inquiétante, sur le long terme, que celui des équipes directement dédiées à la gestion « à chaud » des problèmes de désinformation.

Stéphanie Lamy tient un discours assez proche : « le problème, à mon sens, ce n’est pas tant la prévalence de contenu faux ou violents que l’amplification de ces messages que le design des plateformes permet ». Sur Facebook, rappelle-t-elle, l’épisode des Gilets Jaunes a permis d’illustrer très directement la primeur que les algorithmes de sélection et de hiérarchisation de l’information donnaient aux contenus les plus virulents.

« Avec Twitter Blue, c’est de nouveau très net : la plateforme privilégie la constitution de groupes d’intérêt toujours plus vastes » et permet, grâce à cela, aux discours les plus clivants de se diffuser d’autant plus loin, d’autant plus rapidement. 

L'éthique de l'IA elle aussi touchée

Or, quand le design des plateformes numériques recoupe les questions algorithmiques, on peut s’étonner que les équipes en charge de créer des principes et des outils d’éthiques applicables au domaine de l’intelligence artificielle soient, elles aussi, brusquement réduites.

Alors que des chatbots comme ChatGPT rencontrent un succès fort et rapide et que des acteurs comme Microsoft et Google se sont ouvertement lancés dans une course à l’adoption des grands modèles de langage, des chercheurs ont effectivement déjà calculé que le développement de ce type d’outil pouvait aboutir à une multiplication par six du degré de toxicité des échanges selon l’usage qui en est fait (assistant virtuel, service client, etc). 

Problème, explique à CNBC la data scientist et ancienne directrice de l’équipe d’éthique de l’IA chez Twitter Rumman Chowdhury, chez Alphabet comme chez Twitter ou Meta, il est difficile pour ces équipes « de démontrer [leur] valeur quand [leur] valeur consiste à ne pas être poursuivi en justice ou à ce que personne ne subisse de dommage ».

Les équipes d’éthiques de l’IA et de protection des utilisateurs n’ont aucun « objet brillant » à fournir à la fin d’un projet pour démontrer qu’elles ont travaillé. Et si leur activité « représente un bénéfice financier à long-terme, il est plus dur de mesurer leur efficacité d’un trimestre à l’autre ».

Aux États-Unis, pourtant, la campagne en vue des élections présidentielles 2024 se profile. Avec elle, les effets des interfaces sur les discours en ligne et la gestion des contenus incivils risque de se poser de manière encore accrue jusque sur la terre natale de la plupart de ces géants numériques.

7

Écrit par Mathilde Saliou

Tiens, en parlant de ça :

Sommaire de l'article

Introduction

Licenciements généralisés

Sur Twitter, explosion nette du climato-dénialisme et de la désinformation

Gestion de contenu versus design d’interface 

L'éthique de l'IA elle aussi touchée

Le brief de ce matin n'est pas encore là

Partez acheter vos croissants
Et faites chauffer votre bouilloire,
Le brief arrive dans un instant,
Tout frais du matin, gardez espoir.

Commentaires (7)


Tout ce qui coûte est supprimé. Or, comme tout ce qui tient lieu de la protection de l’utilisateur et de l’éthique coûte (très) cher, c’est donc ceci que les capitalistes en quête perpétuelle de rentabilité maximale vont supprimer en premier chef.



Résultat explosion des discours haineux, de désinformation, …


L’éthique, ça ne rapporte pas (si les utilisateurs de Twitter s’en préoccupaient, ça se saurait), et ça coûte. Logique que ça saute.


Le journalisme et l’information hiérarchisée et sélectionnée coûtera toujours plus cher que le rédacteur de publicité et le créateur d’infotainment (infodivertissement) + le créateur d’infox et de rumeurs.



Le fait que la plupart des emplois supprimés en 2022 dans les Big Tech concerne la protection des utilisateurs rappelle ce sur quoi reposent les revenus des médias sociaux.


D’ailleurs, quand je lis des journalistes et des blogueurs (influenceurs dit-on aujourd’hui) défendre l’utilisation de Twitter qui permettrait de lutter plus efficacement que les autres médias sociaux contre la désinformation du fait de l’horizontalité des échanges, ça me ferait presque déprimer : Twitter met au même niveau une information vérifiée et une rumeur, comme toutes les autres plateformes, l’agressivité et l’instantanéité décuplée.


TLDR;
les trolls ne sont pas encore venus sur cette news, l’appeau de Teuf les a canalisés.

Très bon article sinon, qui montre la problématique du rendement au trimestre imposé par la bourse. mais qui ne parle pas des effets autres comme NVIDIA qui a explosé par exemple.
:chinois:



Gilbert_Gosseyn a dit:


Tout ce qui coûte est supprimé




Je comprends et j’adhère à l’idée, mais je reformulerai cependant en :




Tout ce qui est perçu comme coûtant est supprimé




Les TICs au global sont perçues comme un grand centre de coûts.
La logique étriquée du notre monde économique, poussée à l’extrême, renvoie la responsabilité des actes aux extrémités, ce qui tend par exemples à faire sauter le dernier maillon d’une chaîne de “responsabilité”, ou encore revient à rendre les commerciaux vendeurs seuls responsables des revenus, expliquant ainsi leurs délirants revenus, rapportés aux salaires insuffisants dans les TICs.
Avec cette grille de lecture, on comprend tout de suite mieux comment le monde actuel fonctionne.



Ainsi, s’il n’y avait que les vendeurs mais plus les services informatiques, il n’y aurait que des revenus sans coûts, n’est-il pas ? Sauf si l’on considère qu’il n’y aurait plus grand chose à vendre. :D



Ici, les fonctions citées renvoient à l’éthique, la morale, ou encore le bien commun : on ne parle plus de production à vendre, car la valeur marchande des valeurs est considérée comme nulle.



Les travailleurs des TICs, à l’aune d’une époque où ces outils sont chaque jour encore plus omniprésents, ont une responsabilité croissante dans le bon usage réservé à ces outils.
Or ils sont privés de pouvoir exercer ce rôle, car on ne leur permet pas de pouvoir vivre (en étant rémunérés) en l’exerçant.
Pour ainsi dire, je suis même étonné, dans nos économies capitalistes, que leurs postes aient jamais été créés !



De même que sur les raisons d’existence des TICs, les décideurs Picsou aimeraient que l’on vienne leur expliquer pourquoi/comment l’état social d’une population a des conséquences très directes sur leurs revenus et/ou leurs coûts, et alors peut-être s’y intéresseraient-ils… mais c’est ainsi rentrer dans leur jeu et légitimer le prisme de l’économie pour piloter les valeurs, la morale, les décisions sociales, les règles de vie commune, etc.
On pourrait aussi considérer que c’est le prisme qui déconne, et qu’à défaut de renverser les priorités, pousser l’économie avant le social ne peut que produire des sociétés déshumanisées.



La seule solution pour avoir des personnes s’intéressant à l’humain tout en pouvant en vivre est de découpler la perception d’un revenu d’une productivité marchande.
Cette phrase est malheureusement parfaitement, majoritairement, inaudible dans notre économie, en conséquence de la manière dont elle a façonné notre logiciel de pensée depuis quelques dizaines d’années. Il suffit d’observer les réactions de la populace vis-à-vis du travail dont on ne perçoit pas la production marchande.


Il(Elle) a dit la vérité, il(Elle) sera licencié(e) :D