Dans la longue série des licenciements de la tech, cette annonce-ci prend une couleur particulière : l’équipe dédiée à l’éthique de l’intelligence artificielle fait partie des 10 000 personnes licenciées par Microsoft, selon les informations de Platformer. Une décision qui a lieu au moment même où la société accélère dans sa volonté de rendre des outils d’IA accessibles au grand public.
Microsoft gardera un Bureau de l’IA responsable actif, en charge de créer les règles et les principes à suivre dans les projets impliquant des technologies d’intelligence artificielle. L’entreprise déclare par ailleurs que ses investissements généraux dans la responsabilité de l’IA continuent de croître malgré tout. Auprès de Platformer, des employés de la société soulignent néanmoins que les équipes licenciées avaient un rôle crucial dans le suivi de l’application réelle des principes éthiques dans le design des produits fabriqués.
L’équipe en charge de l’éthique de l’IA a compté jusqu’à 30 personnes en 2020. En octobre, elle avait déjà été réduite à sept. Parmi ses travaux les plus récents, elle était en charge d’ausculter les potentiels risques posés par les technologies d’OpenAI potentiellement intégrées à la suite d’outils Microsoft.
Plusieurs employés témoignent de la très forte pression effectuée par la direction de la société pour sortir le plus rapidement possible les outils en question.
- Microsoft lance Azure OpenAI, de vastes ambitions pour l'intelligence artificielle
- Microsoft investit plusieurs milliards de dollars dans OpenAI et devient son partenaire exclusif
Ailleurs en ligne, cette « urgence » est critiquée, notamment par la linguiste Emily Bender. Sur Twitter, celle-ci appelle à se demander ce qui provoque une telle urgence (à part le strict business), vers quel progrès l’IA est réellement censée emmener les utilisateurs… et quelles régulations imaginer.
L’affaire rappelle aussi le licenciement de Timnit Gebru puis Margaret Mitchell, alors à la tête de la cellule en charge de l’éthique de l’intelligence artificielle chez Google, en 2020, puisque celui-ci avait eu lieu juste après qu’elles proposent un papier de recherche critiquant les effets sociaux et environnementaux de certaines de ces technologies.