Obligation d’explicitation des algorithmes publics : un an pour rien ?

Il y a un an, l’une des mesures-clés de la loi Numérique entrait en vigueur : l’obligation pour les administrations d’expliquer, sur demande, comment fonctionnent leurs algorithmes. Difficile pourtant de trouver un acteur public se pliant à l'exercice...

Attribution d’allocations familiales ou de bourses scolaires, montant des impôts sur le revenu... Depuis le 1er septembre 2017, toutes les décisions individuelles prises « sur le fondement d'un traitement algorithmique » doivent théoriquement être accompagnées d’une « mention explicite » informant le citoyen qu’un programme informatique est venu s’immiscer dans le calcul de ses APL, de sa taxe d’habitation, etc.

Mieux encore : avec ces quelques lignes, rendues obligatoires par la loi Numérique, chaque administration est tenue d’expliquer à l’usager qu’il a le droit d'obtenir la communication des « règles » et « principales caractéristiques » de mise en œuvre de l’algorithme utilisé : degré de contribution à la prise de décision, données traitées (et leurs sources), paramètres de traitement appliqués à la situation du demandeur...

L’intérêt de ces dispositions ? Permettre au citoyen d’avoir des explications intelligibles sur le fonctionnement du (ou des) algorithme(s) ayant été utilisé(s) afin de traiter son dossier. En effet, pour les personnes compétentes en informatique, il reste possible de solliciter – à titre complémentaire – l’algorithme lui-même.

Toujours pas la moindre « mention explicite »

Problème : près d’un an après l’entrée en vigueur de cette réforme, force est de constater que celle-ci est largement ignorée des administrations.

Impossible en effet de trouver la moindre « mention explicite » dans les notifications adressées par exemple par le fisc ou les Allocations familiales. À croire qu’il est trop difficile d’intégrer une petite phrase dans des courriers types – et ce pour simplement avertir les usagers qu’ils peuvent demander à se faire expliquer comment l’administration en est arrivée à prendre telle décision à leur égard, à l’aide d’un algorithme...

Quant à l’explicitation des algorithmes en elle-même, le bât blesse là aussi... Les allocations familiales, sollicitées par nos soins, ont essayé de se plier à l’exercice. Sauf qu’il s’agissait davantage d’explications portant sur les calculs relatifs à l’aide en question (la prime d’activité) qu’un véritable décryptage du fonctionnement de l’algorithme.

L’administration fiscale n’a de son côté jamais répondu à notre demande d’explicitation. Fin 2017, nous avions saisi la Commission d’accès aux documents administratifs (Cada), qui a invité Bercy à détailler le fonctionnement de l’algorithme destiné au calcul de la taxe d’habitation – toujours en vain à ce jour.

« Ce n’est pas de la mauvaise volonté, ça relève plutôt de la méconnaissance », nous assurait il y a quelques mois un haut fonctionnaire familier du dossier. « Ce n'est vraiment pas jugé comme une action prioritaire puisqu’il n'y a pas de sanction à la clé, en dehors d'un éventuel déficit d'image. »

L’attitude de l’administration pose néanmoins question. En septembre 2017, nous avions envoyé des demandes d’interviews auprès de Pôle emploi, de l’administration fiscale et de la Caisse nationale des allocations familiales, afin de voir comment ces institutions, visées au premier rang par la loi Numérique, se préparaient à faire face à leurs nouvelles obligations. Toutes se sont pourtant continuellement murées dans le silence, en dépit de nos relances.

Quand le Sénat tente de taper du poing sur la table

Au printemps, les sénateurs se sont eux aussi agacés de cette situation. « À quoi cela sert-il de créer ou de déclarer des droits si le citoyen n'en est pas informé et si, finalement, ces droits restent lettre morte ? » avait ainsi déploré la rapporteure du projet de loi RGPD, Sophie Joissains.

Afin « d’inciter l’administration à se conformer à la loi », la Haute Assemblée avait même voté un amendement prévoyant qu’en l’absence de « mention explicite », les décisions administratives soient systématiquement considérées comme nulles.

Le gouvernement, qui s’inquiétait visiblement des conséquences de ces dispositions sur des millions d’avis d’impôts (notamment), a réussi à faire rectifier le tir à l’Assemblée nationale. Les députés ont en effet voté plusieurs amendements de l’exécutif, afin que la nullité systématique ne prévale qu’à partir du 1er juillet 2020 – et ce uniquement pour les décisions prises sur le seul fondement d’un algorithme (ce qui n’était théoriquement pas autorisé avant l’entrée en vigueur de la loi adaptant le droit français au RGPD).

L’apparente inertie des administrations se révèle d’autant plus surprenante sur ce dossier qu’Emmanuel Macron s’était engagé, lors de son discours du 29 mars, à ce que l’État rende public tous les algorithmes qu’il utilise. Ce qui n’a néanmoins pas empêché la majorité de voter, quelques semaines plus tôt, un amendement gouvernemental annihilant les obligations d’explicitation des algorithmes dans le cadre de Parcoursup.

Etalab va décortiquer cinq algorithmes publics au fil des prochains mois

« Pour mettre en œuvre ces nouvelles obligations, il faut s'appuyer sur des cas d'usages », nous explique Laure Lucchesi, directrice de la mission Etalab. Dans le cadre de son dernier plan d’action pour l’Open Governement Partnership, la France s’est ainsi engagée à « réaliser cinq monographies d’algorithmes publics ».

Avec ces travaux, les pouvoirs publics entendent « identifier les enjeux en termes techniques, juridiques et organisationnels ». En pratique, ces « décorticages » d’algorithmes publics permettront de mieux en restituer le fonctionnement, première étape avant de proposer une explicitation aux usagers.

#FridayLab @etalab Atelier de « cuisine algorithmique » animé par @schignard et @CellardLoup : Reconstituer la recette des algos des impôts locaux pour les rendre compréhensibles pic.twitter.com/sIzC4RuHtz

— Etalab (@Etalab) 22 juin 2018

La mission Etalab travaille par exemple avec la Direction générale des finances publiques sur la taxe d’habitation. Parcoursup pourrait également être passé au crible, de même que les algorithmes utilisés dans le cadre des projets du « Pass Culture » et de « Signaux faibles » – deux « starts-up d’État » gérées par la Direction interministérielle au numérique (dont fait partie Etalab.)

« Nous allons ainsi regarder comment, sur des algorithmes que nous développons, on peut embarquer by design ces principes de transparence et de redevabilité », explique Laure Lucchesi. « Ces cas d'usages nous permettront également de définir des bonnes pratiques. »

L’intéressée souligne néanmoins qu’il « n'est pas simple » pour Etalab « d’accompagner toutes les administrations sur ce nouveau volet », dans la mesure où il s’agit d’une « extension » de ses missions initiales, tournées vers l’ouverture des données publiques.