Alors que la loi Numérique impose désormais aux administrations de faire la transparence sur les algorithmes qu’elles utilisent pour prendre des décisions individuelles, aucune ne semble pour l’heure s’être conformée à ses nouvelles obligations légales.
Montant des impôts, attribution d’allocations familiales ou de bourses scolaires,... Depuis le 1er septembre, toutes ces décisions individuelles prises « sur le fondement d'un traitement algorithmique » doivent être accompagnées d’une « mention explicite » informant l’usager qu’un programme informatique est donc venu s’immiscer dans le calcul de ses APL, de sa taxe d’habitation, etc.
Avec cette petite ligne, rendue obligatoire par le nouvel article L311-3-1 du Code des relations entre le public et l’administration, chaque acteur public est tenu de rappeler au citoyen qu’il a le droit d'obtenir la communication des « règles » et « principales caractéristiques » de mise en œuvre du traitement algorithmique utilisé.
L’objectif, à terme, est de permettre au public de mieux comprendre comment fonctionnent ces traitements automatisés. Les codes sources étaient en effet d’ores et déjà considérés comme des documents administratifs « communicables » au citoyen, sur demande. Il s’agit donc ici de venir mettre des mots sur des lignes de code...
De nouvelles obligations en vigueur depuis le 1er septembre
Dorénavant, l’administration est ainsi tenue de fournir (sur demande), « sous une forme intelligible et sous réserve de ne pas porter atteinte à des secrets protégés par la loi », les informations suivantes :
- Le degré et le mode de contribution du traitement algorithmique à la prise de décision
- Les données traitées et leurs sources
- Les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de l'intéressé
- Les opérations effectuées par le traitement
Dans l’étude d’impact annexée au projet de loi Numérique, le gouvernement de Manuel Valls expliquait que cette réforme permettrait par exemple d’y voir plus clair sur le fonctionnement d’Admission Post-Bac (finalement appelé à disparaître). « Le recours à ce logiciel, reposant sur des traitements algorithmiques, peut susciter des interrogations sur les mécaniques et les règles de fonctionnement qui conduisent à un résultat décisif pour l’avenir des étudiants : comment ce système est-il paramétré ? Quelle est la part de tirage au sort dans la procédure d’affectation pour les filières les plus demandées ? Comment s’assurer qu’il n’est pas possible de « tricher » avec le système ? »
Aucune « mention explicite » pour la taxe d'habitation, les aides de la CAF, etc.
Pour résumer, toute décision individuelle prise sur le fondement d’un traitement algorithmique fait désormais naître deux obligations pour les administrations :
- Intégrer une mention informant l’usager d’une part que la décision qui le concerne a été prise sur le fondement d’un traitement algorithmique, et d’autre part qu’il a donc le droit de savoir quelles sont les règles régissant ce programme (les modalités d'exercice de ce droit doivent également être précisées).
- Expliciter, sur demande, comment fonctionne l’algorithme utilisé.
Problème : plus de deux mois après l’entrée en vigueur de ces dispositions, nous n’avons trouvé aucune administration respectant la première de ces obligations (de loin la plus simple). Les récents avis de taxe d’habitation ne contenaient par exemple aucune mention évoquant l’utilisation d’algorithmes de calcul...
Assez curieusement, nos demandes auprès de la Direction générale des finances publiques (DGFiP), de Pôle emploi et des CAF, qui rendent un nombre astronomique de décisions individuelles relevant a priori de traitements algorithmiques, sont restées lettre morte...
« Ce n’est pas simple », argue-t-on à Bercy
Nous avons néanmoins pu en toucher quelques mots à Lionel Ploquin, « l’administrateur des données » de l’administration fiscale, lors d’une interview réalisée au mois de septembre. « Ce n'est pas simple », expliquait l’intéressé, très en pointe sur la loi Numérique :
« On voit très bien comment ça peut se concrétiser dans le cadre d'Admission Post-Bac. Sauf que le droit fiscal, c'est autre chose. Il colle à la loi. Et à chaque fois qu'il y a un espace où la loi n'est pas suffisamment précise, il y a immédiatement une instruction qui est prise (et qui est publiée au Bulletin officiel des finances publiques, qui est opposable). Les cas sont très différents. »
D’après ce relais de l’Administrateur général des données au sein de la DGFiP, Bercy est « en train de réfléchir » à la manière de mettre en oeuvre ses nouvelles obligations. « Il y aura un rattrapage, nous a promis Lionel Ploquin. Nous savons que nous devons le faire, mais l'administration doit aussi gérer des contraintes, notamment budgétaires. »
Une collaboration avec la mission Etalab, l’institution chargée d’accompagner les administrations dans leur marche vers l’Open Data, est ainsi prévue. Laure Lucchesi, sa directrice, nous confie qu’une « équipe pluridisciplinaire » réfléchit actuellement « aux moyens de recenser ou cartographier ces algorithmes de l’administration » : « Il s’agit avant tout d’aider les administrations à identifier les algorithmes potentiellement concernés, ainsi que la meilleure manière de rendre accessible aux usagers les informations pertinentes concernant le traitement, afin qu’elles soient réellement utiles à l’usager. »
La tâche s’annonce toutefois fastidieuse, dans la mesure où « cette information sera probablement particulière à chaque algorithme », prévient la directrice d'Etalab.
Des acteurs publics qui attendent encore avant de se mettre en conformité
« C'est un travail pharaonique », nous confirme un agent de Pôle emploi chargé des questions d’Open Data. « Tout va se jouer dans le niveau de détails qu'on va donner : soit on donne le code et ça ne s'adresse qu’à des techniciens, soit on fournit un premier niveau d'informations, qui pourra satisfaire 80 % des gens. »
L’institution prévoit de se lancer véritablement dans ce chantier « d'ici la fin de l'année », parce qu'il y a « énormément d'algorithmes, parfois très complexes ». La première étape, hautement symbolique, consistera à « expliciter l'algorithme sur le calcul des droits à l'allocation chômage ». Un travail qui mobilisera des techniciens, mais aussi des juristes.
A saisir ! Peu de gens le savent, mais la #transparence des algorithmes des administrations est un droit https://t.co/VjQ2b8i3Hl
— Axelle Lemaire (@axellelemaire) 28 septembre 2017
Force est néanmoins de constater que, comme pour les premières obligations dites d’Open Data « par défaut » (où les administrations d’au moins 50 agents sont obligées de mettre en ligne certains documents), nombre d’acteurs publics ne respectent toujours pas leurs obligations légales, plus d’un an après la promulgation de la loi Numérique – et deux ans après la présentation officielle du texte...
« On est dans la première étape d'un long combat », commente l'un des architectes de la loi Numérique. Rappelons à cet égard qu’à compter du 7 octobre 2018, les administrations d’au moins 50 agents seront tenues de mettre directement en ligne les « règles définissant les principaux traitements algorithmiques » servant à prendre des décisions individuelles...
Commentaires (17)
#1
Une pensée émue envers tous ceux qui vont devoir se coltiner la rétro documentation nécessaire. 
" />
#2
Je veux bien que ce ne soit pas simple, mais quelqus moyens se donnent-ils ?
J’ai l’impression qu’ils sont en mode Hulot, “pfiou la bière est trop loin, plutôt que me lever je vais plutôt attendre qu’elle apprenne à marcher !”
#3
On a regardé comment ça marchait, et en fait, ça ne colle pas aux specs…
Oups ?
#4
Sans pour autant donner tous les détails, ils pourraient pas déjà afficher l’avertissement ?
“Note : une partie de la décision a été prise à l’aide d’un traitement automatisé…”
#5
#6
#7
Un grand classique n’est-ce pas ^^
#8
Moi aussi je vais attendre avant d’appliquer la loi, histoire de voir ce que ça fait.
" />
#9
#10
Déjà que la CAF, c’est un bordel sans nom (expérience personnelle), ça ne va pas aider pour sûr.
#11
#12
#13
Je constate la même chose, pas de doc associée au code, on a juste les spécifications fonctionnelles qui restent, mais rien de vraiment technique comme documentation, c’est juste la cata quand tous les gens qui connaissent le projet partent.
Alors, c’est pas prévu dans les contrats qu’on ait une doc technique servant à prendre en main le projet, par contre, on a des clauses de réversibilité en fin de contrat si l’on ne renouvelle pas le contrat avec nous.
J’en déduis que js2082 bosse dans l’aéronautique ou dans un autre environnement qui a des contraintes sérieuses sur la documentation.
#14
j’imagine les gens qui fouillent dans leurs dossiers pour trouver la version papier du code qu’ils vont scanner avec une résolution pourrie 
" />
#15
#16
L’état devrait être prudent avant d’édicter des contraintes qu’il ne peut assumer. On ne compte plus les domaines dans lequel la puissance publique ne respecte pas les lois qui s’imposent pourtant impitoyablement aux acteurs privés.
#17
Ce n’est peut-être pas simple mais c’est un principe élémentaire que de connaître les éléments qui fondent une décision, que celle-ci soit administrative comme ici, mais encore en matière de Justice où le Juge doit également indiquer cela.
Il serait bon que le texte soit étendu aux Compagnies d’assurance, qui pour certaines utilisent des algos (parfois “prédictifs”) pour accepter ou non d’indemniser un assuré (ou encore le virer)