Microsoft contraint de désactiver les sondages générés par IA qu’il ajoutait aux articles écrits par des humains

Microsoft est pointée du doigt pour avoir rajouté des sondages automatisés aux articles republiés sur son portail MSN, posant des questions problématiques à ses lecteurs. La PDG du  Guardian Anna Bateson, dont il republie certains articles, s'est émue de ce problème éditorial dans une lettre au président de Microsoft, Brad Smith.

Microsoft a dû désactiver les sondages générés par IA que l'entreprise associait jusque-là aux articles de presse sur son portail MSN, relève Axios.

Elle a lancé une enquête après que le Guardian Media Group a dénoncé un sondage particulièrement douteux accolé à la republication par Microsoft d’un article sur une femme retrouvée morte dans une école en Australie.

Le sondage, qui s'affichait sur la plateforme d'agrégation d'actualités Microsoft Start, demandait en effet aux lecteurs : « quelle est d'après vous la cause de la mort de cette femme ? », proposant de choisir entre « meurtre », « accident » et « suicide ».

Réaction virulente du Guardian

« Il s'agit clairement d'une utilisation inappropriée de genAI par Microsoft sur un sujet d'intérêt public potentiellement pénible, écrit et publié à l'origine par des journalistes du Guardian », a écrit Anna Bateson, PDG du Guardian, au président de Microsoft, Brad Smith.

Nombre de lecteurs avaient estimé que le sondage émanait de la rédaction du Guardian, que son auteur devait en avoir honte et en porter la responsabilité.

« Cette application de genAI par Microsoft est exactement le genre d'exemple contre lequel nous avons mis en garde pour ce qui est du rapport aux informations », indique la lettre de Bateson, « et c'est l'une des principales raisons pour lesquelles nous avons précédemment demandé à vos équipes de ne pas appliquer ce type de technologies expérimentales ».

Elle demande à Microsoft de ne plus rien associer aux articles du Guardian « sans son approbation explicite ». Elle accuse en outre l'entreprise de ne pas avoir « répondu de manière substantielle » à la demande du Guardian de discuter de la façon dont Microsoft entend rémunérer les éditeurs de presse pour l'utilisation de leur propriété intellectuelle « dans la formation et le déploiement en direct des technologies d'IA au sein de vos entreprises commerciales plus larges ».

« Un sondage n'aurait pas dû apparaître à côté d'un article de cette nature, et nous prenons des mesures pour éviter que ce type d'erreur ne se reproduise à l'avenir », explique Microsoft à Axios.

L'entreprise ajoute avoir « désactivé les sondages générés par Microsoft pour tous les articles d'actualité », et que l'entreprise « enquête sur la cause du contenu inapproprié ».

D'autres problèmes d'édition dus à une éditorialisation automatisée

CNN relève que ce n’est pas la première fois que le portail de Microsoft publie des contenus problématiques à cause de son automatisation. En octobre, la nécrologie du joueur de basket Brandon Hunter sur MSN a été publiée sous le titre «  Brandon Hunter useless at 42 » (en français, « Brandon Hunter inutile à 42 ans »).

Le média américain cite aussi plusieurs fausses affirmations publiées sur MSN comme l'endormissement de Joe Biden pendant un hommage aux victimes des incendies à Hawaï ou une théorie complotiste accusant le Parti Démocrate d'avoir orchestré une augmentation de cas de Covid-19.

MSN a aussi relayé récemment la fausse information de la démission de Dean Preston du Conseil des superviseurs de San Francisco.

En 2018, le portail employait 800 rédacteurs à travers le monde, rappelle CNN, mais Microsoft en a licencié une bonne partie ces dernières années, remplacée par une certaine « automatisation » de l'éditorialisation. « L'investissement précoce de Microsoft dans OpenAI – les créateurs de l'application ChatGPT – l'a placé à l'avant-garde de la révolution prometteuse et potentiellement périlleuse de l'IA », fait aussi remarquer le média américain.