Mounir Mahjoubi, secrétaire d'État chargé du Numérique, était hier au Sénat pour répondre aux questions (certaines, pas toutes) des parlementaires sur l'intelligence artificielle. Un vaste sujet d'actualité sur lequel la France est en retard puisqu'elle en est toujours à publier des rapports, des recommandations et à commander des missions.
Hier, se tenait au Palais du Luxembourg un débat public sur les enjeux économiques et cadres légaux de l'intelligence artificielle. Initié à la demande du groupe Les Indépendants – République et Territoires, il a débuté par un discours alarmiste de Claude Malhuret (président du groupe parlementaire) à propos de la troisième révolution industrielle, celle des NBIC (nano, bio, informatique et sciences cognitives).
Sur l'intelligence artificielle, Claude Malhuret rhabille la France pour l'hiver
« Pour la première fois depuis deux siècles, la France et l'Europe non seulement ne sont pas à l'origine de cette révolution, mais sont tellement distancées que leur retard peut désormais paraître irrattrapable. Les États-Unis avec les GAFAM – Google, Amazon, Facebook, Apple, Microsoft – et la Chine avec les BATX– Baidu, Alibaba, Tencent et Xiaomi – sont désormais en situation de duopole au niveau mondial ». Rappelons que les talents ne manquent pas en France (et en Europe), aussi bien du côté des start-ups que des chercheurs, mais ils sont bien souvent aspirés par de grands groupes étrangers.
Sur le plan social, il revient sur le risque de destruction massif d'emplois avec la création d'un marché du travail à deux vitesses : une minorité d'emplois pour des personnes très qualifiées et des « travailleurs précaires dont les compétences ne rapporteront pas assez pour vivre ».
Il évoque ensuite le « troisième défi, qui est sans doute le plus redoutable, celui de l'éducation » qui présenterait d'importantes carences. Il revient également sur le volet juridique avec « mille questions différentes, inédites et, la plupart du temps, contradictoires ». Dans le lot, il y a évidemment le statut des robots, la responsabilité en cas d'accident d'une voiture autonome, etc. Enfin, il termine sur les problématiques éthiques et morales.
Bref, un discours déjà bien rôdé sur des sujets qui n'ont absolument rien de nouveau. Ils sont effectivement soulevés au fil des rapports, des discours et des recommandations sur l'intelligence artificielle. L'élu souhaite maintenant savoir quelles mesures concrètes le gouvernement envisage de mettre en place.
Ne pas « subir » les transformations... s'il n'est pas trop tard
Mounir Mahjoubi, secrétaire d'État chargé du numérique, était présent pour apporter des éléments de réponses.
Dans son discours d'introduction, il a tout d'abord rappelé que le gouvernement avait confié une mission au député Cédric Villani, quelques mois seulement après FranceIA. Ce dernier a servi de point de départ affirme le secrétaire d'État : « nous ne repartons pas de zéro ».
Le but de cette mission est de définir, « en fonction de nos valeurs », le chemin que nous souhaitons prendre. « Nous n'avons rien à subir de ces transformations, qu'elles soient économiques, technologiques ou scientifiques. Nous avons tout à apporter et nous pouvons diriger ces évolutions » ajoute-t-il.
Un énième rapport en préparation ? Non, des « orientations pratiques »
La sénatrice Catherine Morin-Desailly pose la question de l'utilité d'un énième rapport sur l'intelligence artificielle après ceux FranceIA (notre compte rendu) et celui de l'office parlementaire d'évaluation des choix scientifiques et technologiques (notre compte rendu). Ajoutons que début juin c'était au tour du Comité économique et social européen d'épingler les risques de l'intelligence artificielle (notre compte rendu). Bref, le tour de la question a déjà été fait à maintes reprises au cours des derniers mois et il existe déjà pléthore de littérature sur le sujet.
Mounir Mahjoubi répond qu'il ne s'agit pas d'un rapport en plus des autres, mais d'une mission confiée à Cédric Villani et dont le but est de « présenter des orientations pratiques sur les débats qu'il est urgent de mener, mais aussi sur les enjeux d'investissements industriels qu'il aura considérés, à la suite de ses auditions, comme étant majeurs »...
Si la frontière semble assez mince avec les recommandations et autres orientations mises en avant par les rapports précédemment cités, Mahjoubi réplique que la mise en œuvre de l'ensemble de ces propositions serait trop coûteuse. Il faut donc procéder à des « décisions stratégiques à hauteur de nos capacités stratégiques et d'investissement ».
Interrogé sur le devenir des quinze recommandations de l'OPECST, le gouvernement indique que l'un des buts de la mission de Cédric Villani est justement d'y répondre. Cette dernière se terminera au mois de décembre. Le gouvernement se laisse ensuite jusque janvier ou février pour définir sa stratégie et la présenter officiellement.
Le choix du député Cédric Villani est-il « déontologiquement discutable » ?
Pierre Ouzoulias rappelle que le mathématicien est, depuis cet été, président de l'office parlementaire d'évaluation des choix scientifiques et technologiques, celui-là même qui a déjà rendu un épais rapport en mai dernier. Il « s'interroge sur le bien-fondé de ce cumul, qui nous semble déontologiquement discutable ».
Alors que nous attendions une réponse de Mounir Mahjoubi sur le sujet, il n'en sera rien. Le secrétaire d'État s'est plutôt attelé à répondre aux autres questions sur l'apprentissage scolaire, la culture mathématique et scientifique et la place des femmes dans ce domaine.
Les robots, le rapport d'autorité et la responsabilité...
Suite à une question d'Arnaud de Belenet sur le volet social de l'intelligence artificielle, Mounir Mahjoubi nous gratifie d'une envolée philosophique sur le rapport à l'autorité face aux robots dotés d'IA : « Si je crache sur un robot [policier], est-ce que j'ai la même responsabilité que face à un policier ? Si j'insulte un robot, est-ce que je peux être poursuivi de la même manière ? On en rit, mais ces robots sont déjà à Dubai ».
Il enchaine avec la question de la responsabilité du robot policier : est-ce qu'elle incombe au(x) développeur(s) ou à l'État ? Le secrétaire explique que « de très nombreuses questions ouvertes vont se poser à nous dans les années à venir »... alors qu'elles sont finalement déjà là depuis au moins des mois. Ce n'est pas tout, car il faut aussi anticiper « des situations que nous n'imaginons pas encore » ajoute-t-il.
Une réflexion arrive sur les voitures autonomes
Le cas des véhicules autonomes a d'ailleurs été abordé à plusieurs reprises dans la session des questions/réponses. Pour le secrétaire d'État, les contours ne sont pas encore suffisamment précis et il reste trop de scénarios possibles : seront-ils massivement présents en 2020 ou en 2030 ? Est-ce qu'ils seront la propriété des consommateurs ou seront-ils loués ? Appartiendront-ils aux villes ?
La question est encore plus large puisqu'elle concerne aussi les transports en commun. Le secrétaire n'a pas de réponse précise sur le sujet pour l'instant, même s'il reconnait que la voiture autonome peut être (et sera certainement) une solution, mais sans s'avancer à préciser sous quelle forme pour le moment.
En collaboration avec la ministre des Transports Élisabeth Borne, il annonce qu'il va « nommer une personne en charge de mener une réflexion au cours des prochains mois ». Comme pour la question de l'intelligence artificielle, il est urgent de s'y intéresser puisque ces véhicules sont à nos portes (pas encore de niveau 4 ou 5, mais on s'en rapproche rapidement).
Une mission sur l'éthique des technologies de la CNIL arrive
Plus qu'une réflexion, il serait en effet temps d'agir concrètement, car la France est en retard et pas seulement face aux États-Unis et aux Chinois. Sur la question de l'éthique des voitures autonomes par exemple, l'Allemagne a présenté fin août les « premières lignes directrices au monde » (voir notre analyse). Pendant ce temps, la France est toujours dans l'attente d'un décret simplifiant les expérimentations de voitures autonomes...
De manière plus large, Mounir Mahjoubi rappelle que dans la loi république numérique portée par Axelle Lemaire « une mission a été confiée à la CNIL d'avancer sur un sujet global d'éthique dans les technologies ». Un rapport intermédiaire doit être rendu dans les prochaines semaines, suivi d'une version définitive dans quelques mois. Là encore, n'est-il pas déjà trop tard ?
En plus de l'éthique, il faudra se pencher la question des données servant à entrainer une intelligence artificielle : « un algorithme serait parfois un peu plus juste qu'une commission ou qu'une décision décisionnaire ? Encore faut-il savoir sur quelles valeurs elle sera fondée ». Avec des jeux de données différents, une même IA peut adopter deux comportements complètement opposés.
En filigrane se pose la question de la justice. Le secrétaire d'État explique que l'intelligence artificielle pourrait apporter son soutient sur des enquêtes financières et de l'Autorité de la concurrence, mais il n'est question que d'une aide, pas d'une prise de décision pour le moment. Il prône « une justice avec des hommes qui jugent des hommes », même dans le cas où une IA forte verrait le jour d'ici plusieurs décennies.
La question du financement
La question du financement a été évoquée à plusieurs reprises par les parlementaires, mais il faudra attendre la prise de parole d'Emmanuel Capus (7e question) pour que Mounir Mahjoubi donne quelques informations. « Dans la lettre de mission que nous avons faite à M Villani, il y a la volonté d'identifier les secteurs dans lesquels nous pensons qu'il faut mobiliser des moyens publics, ceux dans lesquels il faut faciliter la mobilisation des moyens privés, et à quelle hauteur ».
Le premier fond est celui pour l'industrie et l'innovation, « les fameux 10 milliards d'euros [...] qui vont nous permettre de mobiliser plusieurs centaines de millions d'euros par an sur ses fameuses technologies de ruptures », qui comprennent notamment l'intelligence artificielle.
Une autre source de financement est le troisième volet du programme d’investissements d’avenir (PIA3), lui aussi de 10 milliards d'euros. Il faudra également regarder du côté du cofinancement européen.
Un débat ouvert, mais pas (encore) d'avancées significatives
En guise de conclusion, nous pouvons citer Mounir Mahjoubi : « Tous les scénarios sont possibles » et « nous devons nous mobiliser massivement »... ce que l'on sait déjà depuis bien longtemps. Le secrétaire d'État donne certes quelques pistes, mais pour le reste il renvoie vers la mission confiée au député Cédric Villani.
Pendant ce temps la France continue d'accumuler du retard. Espérons que les choses bougeront rapidement car les GAFAM et autre BATX n'attendent pas, eux. Pour reprendre une phrase du directeur de l'INRIA, cité par Catherine Morin-Desailly durant le débat d'hier après-midi : « pendant que la France fait des rapports, les autres pays investissent ».
Durant son discours, Mounir Mahjoubi lâchera tout de même une information sur une orientation plausible au sujet de l'intelligence artificielle et la cybersécurité : « nous n'avons pas encore de pilotage national, de regard ni d'observatoire européen [...] Aujourd'hui, nous manquons d'un regard stratégique. Je ne veux pas déflorer notre recommandation finale, mais il faudra que nous nous dotions de cette capacité ».
Après la multiplication des rapports sur l'intelligence artificielle soulevant tous les mêmes problématiques ou presque, nous pouvions nous attendre à des avancées plus significatives. Ce n'était pas le cas hier et il faudra attendre janvier/février 2018 pour que l'État présente « une stratégie nationale autour de l'intelligence artificielle ».
