Evguéni Prigojine, sulfureux homme d'affaires russe proche de Vladimir Poutine et patron du groupe paramilitaire Wagner, a revendiqué sur sa chaîne Telegram la création de l'Internet Research Agency (IRA) de Saint-Pétersbourg, rapporte l'AFP : 

« J'ai non seulement été l'unique financier de l'Internet Research Agency, mais je l'ai inventée, je l'ai créée, je l'ai gérée pendant longtemps. »

Surnommée la « ferme à trolls », l'IRA a été accusée d'employer des spécialistes de la désinformation chargés de polluer le débat dans les commentaires, les réseaux sociaux, la presse en ligne, en créant de faux comptes ou groupes Facebook, afin de « défendre la politique du Kremlin, critiquer les opposants russes, dénigrer la présence française en Afrique ou encore créer la discorde autour du Brexit et des élections américaines », rappelle l'AFP.

Prigojine explique, de son côté, l'avoir créée « pour protéger l'espace informationnel russe de la propagande grossière et agressive des thèses antirusses de l'Occident ».

Plusieurs tests ont été menés sur ChatGPT dans les semaines passées pour observer quels résultats le robot produisait sur des textes concernant des personnes, en fonction de leur genre, de leurs origines ethniques, de leur orientation sexuelle…

• Quels pourraient être les effets de ChatGPT sur l’information ?

Malgré les filtres qui ont été inscrits dans la machine pour éviter, entre autres, les injures directement sexistes, racistes ou autres, les résultats obtenus par la start-up Textio (spécialisée dans la détection de biais algorithmiques) sur des questions d’emploi ou d'émotion démontrent que les données d’entraînement du modèle sont largement biaisées.

Dans le premier cas, l’exercice a consisté à faire écrire à ChatGPT des annonces d’emploi et des retours sur la performance pour des employés imaginaires. Il a généralement suffi de choisir un intitulé de métier (mécanicien, réceptionniste, ingénieur, etc) pour que la machine y accole un présupposé de genre (les tests ont été menés en anglais, qui est une langue neutre : aucune indication de genre n’est comprise dans l’intitulé de l’emploi).

Par ailleurs, la machine n’écrit pas ses retours de la même manière selon le genre supposé : les textes produits sont toujours plus longs pour les femmes que les hommes. Certaines caractéristiques sont aussi quasiment réservées aux femmes (collaborative, pétillante), d’autres, plus directement liées aux compétences, aux hommes (analytique, fort).

Bien sûr, ces biais ne viennent pas de nulle part : Textio a aussi publié une étude sur les biais humains présents dans les analyses de performances, et celle-ci révèle des schémas récurrents de discrimination dans le vocabulaire utilisé.

La fondatrice de Textio a d’ailleurs réalisé un autre test, demandant à la machine de produire des poèmes pour la Saint-Valentin, et rebelote : aux femmes les mentions d’attraits personnels (gracieuse, aimable, gentille), aux hommes la performance (volontaire, ambitieux). Sur les questions raciales, le robot associe de façon quasi mécanique le terme « épicé » aux personnes hispaniques, tandis qu’il considère les personnes queers beaucoup plus « funky » et « colorées » que n’importe quel autre profil.

• L’agence européenne des droits fondamentaux met en garde contre les biais algorithmiques

Tesla a licencié mercredi des dizaines de salariés de son site de Buffalo dans l'état de New York aux États-Unis, alors que certains avaient annoncé la veille leur volonté d'ouvrir une section syndicale, selon une plainte déposée par le syndicat Workers United qu'a pu consulter le média américain AXios.

Dans cette plainte, le syndicat accuse l'entreprise de les avoir licenciés « en représailles à l'activité syndicale et pour décourager celle-ci ».

Mardi, Bloomberg avait annoncé le lancement d'une campagne syndicale par des employés sur ce site de l'entreprise. Aux États-Unis, la création d'un syndicat dans une entreprise est possible seulement si la majorité des employés vote pour. Celle-ci n'est donc pas encore actée mais ça serait une première chez Tesla. Les salariés réclament de meilleurs salaires, une sécurité de l'emploi et moins de pression de production qui a nui à leur santé, selon Bloomberg.

Mais ces licenciements pourraient porter un coup dur à cette campagne. Workers United les a qualifiés d' « inacceptables » et a expliqué que les attentes de Tesla envers ses employés étaient « injustes, inatteignables, ambiguës et inconstantes ». Al Celli, un membre du comité de création du syndicat, a déclaré à Bloomberg que « les gens en ont assez d'être traités comme des robots ».

Le PDG de l'entreprise, Elon Musk, a déclaré, l'année dernière, que Tesla ne ferait rien pour empêcher la création de syndicats, mais auparavant, il a été accusé de menacer les salariés de Tesla sur le sujet.

Le Tribunal constitutionnel fédéral d'Allemagne (Bundesverfassungsgericht) se prononce contre l'utilisation du logiciel de Palantir utilisé par la police du land de la Hesse et envisagé par celle de Hambourg, explique Euractiv.

La Société allemande pour les droits civiques (Gesellschaft für Freiheitsrechte, GFF) avait porté plainte contre les possibilités de surveillance accordées par la loi de ces länder.

Depuis 2017, la police du land de la Hesse utilisait un logiciel de Palantir nommé « Hessendata » permettant, en utilisant les données qu'elle récoltait elle-même, de mettre en place un dispositif de police prédictive. Ce n'était pas encore le cas dans le land de Hambourg, mais une loi dans ce sens y avait été votée.

Selon le tribunal, la police de la Hesse a utilisé le logiciel des milliers de fois.

Le système a été jugé inconstitutionnel, car il violait le droit à la vie privée de façon disproportionnée. Le tribunal ouvre néanmoins une porte à des systèmes de ce type qui seraient utilisés pour protéger la vie, l'intégrité physique ou la liberté de la personne.

Le responsable juridique de la GFF, Bijan Moini, a déclaré : « Aujourd'hui, le Tribunal fédéral a interdit à la police de regarder dans une boule de cristal et a formulé des directives strictes pour l'utilisation de logiciels de surveillance dans le travail de la police. C'était important car l'automatisation de la surveillance n'en est qu'à ses débuts. »