La startup Mozilla.ai va développer des IA open source et « dignes de confiance »

Visiblement lassée de ne pas voir l’IA évoluer dans le sens qu’elle souhaiterait, la fondation Mozilla vient de créer une startup, dédiée à une intelligence artificielle ouverte et « digne de confiance ». Dotée de 30 millions de dollars, elle compte recruter 25 ingénieurs pour commencer.

Une nouvelle ruée vers l’or. C’est ainsi que l’on peut résumer la situation autour de l’intelligence artificielle. Si les dernières années ont vu une intensification des annonces, ce n’est rien en comparaison des derniers mois. La grande bataille s’est ouverte dès le premier investissement de Microsoft dans OpenAI.

Depuis, c’est un festival. Il est rare qu’une journée se passe sans qu’une annonce en lien avec l’intelligence artificielle ne soit faite par un acteur ou un autre. Ce matin, par exemple, nous évoquions dans le #Brief l’arrivée de fonctions liées dans Opera et Nextcloud Hub 4, toujours avec cette optique de faire gagner du temps, avec des capacités comme le résumé d’un texte, la génération d’un contenu en suivant quelques instructions, etc.

Microsoft s’est rapidement taillée une place importante dans la communication, tout autant que les démonstrations. Et même si son nouveau Bing a rencontré de réels couacs (voir notre actualité), la technologie sous-jacente reste impressionnante. Google bouge aussi rapidement et permet à un petit nombre de personnes triées sur le volet de tester une préversion de Bard. Même chose pour l’ensemble des grandes entreprises de la tech.

Pour les acteurs plus petits, pas question de se laisser distancer, même si cela signifie passer par les services d’un autre, comme c’est le cas pour Opera et Nextcloud. Et tant pis si ces technologies sont relativement neuves et pas nécessairement bien maitrisées encore. Il y a risque de ringardise pour les entreprises qui ne seraient pas à la page. Qu’importe s’il s’agit d’un autre de ces soufflés que le monde de la tech affectionne, comme ce fut le cas avec le métavers : il faut agir.

Pourtant, les problématiques et technologies ne sont pas nouvelles. Comme l’indique Mozilla, cela fait déjà cinq ans que la fondation travaille sur ces questions, en appelant les acteurs impliqués à faire d’une manière respectueuse pour tous. Puisque manifestement le message n’est pas passé, la fondation passe à l’étape supérieure.

Une startup dédiée à l’intelligence artificielle

Mozilla.ai est donc une startup dotée d’un budget de 30 millions de dollars, fourni par la fondation Mozilla. L’entreprise en est ainsi une émanation commerciale, comme Mozilla Corp, qui édite Firefox, et le fonds d’investissement Mozilla Ventures (voir notre actualité). Elle est donc une filiale.

Sa mission est de concevoir des solutions IA, mais pas n’importe comment : les systèmes devront être open source et « dignes de confiance ».

C’est Moez Draief qui a été choisi pour diriger la structure. Il a notamment été scientifique en chef du laboraire Noah’s Ark AI de Huawei et de Capgemini. Il sera épaulé par Karim Lakhani, principal chercheur du Crowd Innovation Lab de l'Institut Harvard pour les sciences sociales quantitatives, et Navrina Singh, fondatrice et PDG de la société Credo AI. Lakhani, Singh et Mark Surman, un ancien de Mozilla, sont les premiers membres du conseil d’administration de Mozilla.ai.

L’entreprise va devoir développer une « stack » complète pour l’intelligence artificielle. Pour y parvenir, elle embauchera environ 25 personnes, comprenant des ingénieurs, scientifiques et responsables produit. Cette équipe travaillera sur des systèmes de recommandation ainsi que de grands modèles, dans la lignée de GPT-4, qui fait actuellement ses premiers pas et sera bientôt intégré dans la fonction Copilot pour Office.

• Que dit la documentation de GPT-4 ?

Un marché pour l’IA de confiance

Le fonctionnement de l’entreprise sera hybride. Une partie de l’activité sera consacrée à l’open source et aux principes gouvernant habituellement la fondation et ses filiales. Mozilla.ai est ainsi alignée sur le manifeste Mozilla. Ce travail intègrera notamment une réflexion permanente sur l’état de l’intelligence artificielle et les dangers qui l’accompagnent.

• Quels pourraient être les effets de ChatGPT sur l’information ?
• ChatGPT ravive les débats autour des compétences de l'intelligence artificielle
• ChatGPT, Bard et les autres, agents de désinformation massive ?

C’est d’ailleurs parce que ces dangers ne semblaient pas suffisamment pris en compte à Mark Surman que l’idée de la filiale est venue. Aujourd’hui, ChatGPT peut être utilisé pour écrire des malwares, créer des sites frauduleux, ou encore chercher des failles potentielles à exploiter dans un code, comme le pointait TechCrunch le 24 février.

L’autre partie sera tout simplement commerciale. Mozilla.ai est bien une entreprise à but lucratif. En cela, son fonctionnement ne sera pas tellement différent d’autres entreprises travaillant avec de l’open source et commercialisant des produits et services, à l’instar de Red Hat.

L’un des objectifs de Mozilla.ai est de créer un réseau d’entreprises et de groupes de recherche partageant sa vision pour coopérer. Ce qui inclut d’ailleurs Mozilla Ventures et les startups et instituts académiques qu’elle a financés.

Selon Surman, il y a une bonne nouvelle : « Nous avons rencontré littéralement des milliers de fondateurs, ingénieurs, scientifiques, artistes et activistes prenant cette approche de l’IA ». Il y en a également une mauvaise : ça ne se produit pas vraiment dans les grandes entreprises de la tech, du moins pas suffisamment. « Et pendant ce temps, ces structures continuent de consolider leur contrôle sur le marché ».

Selon Mark Surman, il existe un marché pour les SIA (systèmes d’IA) de confiance et de nombreux acteurs – notamment des gouvernements – pourraient être intéressés par des technologies qu’ils pourraient utiliser librement, même avec des services fournis par Mozilla.ai, sans devenir dépendants d’un gros acteur en particulier.

Une question de confiance

Le sujet de la confiance dans l’intelligence artificielle n’est pas nouveau. On se rappelle notamment, en septembre dernier, d’un vaste rapport du Conseil d’État sur les critères nécessaires à cette confiance. L’institution établissait sept principes fondateurs : la primauté humaine, la performance, l’équité et la non/discrimination, la transparence, la sûreté (cybersécurité), la soutenabilité environnementale et l’autonomie stratégique.

La vision de Mozilla.ai semble alignée sur plusieurs de ces points. Les prochains mois seront surtout dédiés à la création d’outils qui permettront aux utilisateurs d’interroger les sources se cachant derrière les réponses des chatbot. D’autres outils sont prévus, comme certains permettant d’agir sur les systèmes de recommandation de contenus.

Comme l’indique The Verge, l’intelligence artificielle pourrait être également un moyen pour Firefox de regagner des parts de marché. C’était l’avis de Mitchell Baker, présidente de la fondation Mozilla, sur le podcast The Verge’s Decoder. Auquel cas, ces recherches et développement pourraient créer un cercle vertueux pour la fondation, qui y puiserait des armes contre ses concurrents, en plus de fournir des services commercialisables. On ne sait pas en revanche comment cette IA pourrait se traduire dans le navigateur.