Transparence des algorithmes publics : après les coups tordus, aux citoyens de prendre l’initiative

CADAclysme 38
Accès libre
image dediée
Crédits : seb_ra/iStock/Thinkstock
Loi EDITO
Xavier Berne

En permettant à l’administration d'ignorer les demandes d’explicitation des algorithmes utilisés pour Parcoursup, la majorité ouvre une boîte de Pandore. Ce dispositif, prévu par la loi Numérique, peinait déjà à s’appliquer par ailleurs. Il risque de ne tout simplement jamais être mis en œuvre. À moins peut-être que les citoyens ne s'en emparent.

Mais que fait donc le gouvernement ? Même Mounir Mahjoubi, le secrétaire d’État au Numérique, ne semble pas avoir conscience que l’une des réformes clés introduites par la « loi Lemaire » de 2016 est entrée en vigueur depuis plusieurs mois.

Attribution d’allocations familiales ou de bourses scolaires, montant des impôts... Depuis le 1er septembre 2017, toutes les décisions individuelles prises « sur le fondement d'un traitement algorithmique » doivent être accompagnées d’une « mention explicite » informant l’usager qu’un programme informatique est venu s’immiscer dans le calcul de ses APL, de sa taxe d’habitation, etc.

Avec cette petite ligne, chaque administration est surtout tenue d’expliquer au citoyen qu’il a le droit d'obtenir la communication des « règles » et « principales caractéristiques » de mise en œuvre du traitement algorithmique utilisé. Dans le détail, il est ainsi prévu que le citoyen obtienne, « sous une forme intelligible » :

  1. Le degré et le mode de contribution du traitement algorithmique à la prise de décision.
  2. Les données traitées et leurs sources.
  3. Les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de l'intéressé.
  4. Les opérations effectuées par le traitement.

Autrement dit, chaque administré devrait pouvoir se faire expliquer le calcul de son impôt sur le revenu, de ses différentes prestations sociales, etc. Le tout au regard de sa situation individuelle. Qui ne s’est d’ailleurs jamais demandé comment l’administration pouvait arriver à un tel résultat, au milieu de la myriade d’informations potentiellement prises en compte dans le cadre des aides au logement ou de la taxe d’habitation par exemple ?

En complément à ce dispositif, le code source du logiciel utilisé pour ces calculs est en principe « communicable », lui aussi, sur demande. Mais ce type de fichier s’adresse quasi exclusivement aux informaticiens chevronnés, qui sauront interpréter ce document administratif (au sens de la loi).

Un droit qui reste lettre morte

Problème : plus de six mois après l’entrée en vigueur de cette réforme au service de la transparence, rien ne semble avoir changé. Aucune administration n’a (à notre connaissance) intégré la moindre « mention explicite » qui permettrait pourtant aux citoyens d’être avertis de l’existence de ce droit... Insérer une simple petite ligne en bas des avis de taxe d’habitation, d’attribution d’allocations familiales, etc. relève-t-il d’une tâche insurmontable, en 2018, pour un pays comme la France ?

Mercredi 7 février, à l’Assemblée nationale, le secrétaire d’État au Numérique a montré qu’il ne maîtrisait guère ce dossier, puisqu’il s’est lancé dans de longues explications à son sujet, au futur, comme s’il n’était pas au courant que ce dispositif était déjà applicable (voir notre compte rendu). Depuis, silence radio. Pas même un tweet pour évoquer un éventuel emmêlage de pinceaux entre les nombreuses mesures prévues, il est vrai, par la loi Numérique.

Mounir Mahjoubi a continué de s’embourber en affirmant qu’il était « non nécessaire » qu’un décret vienne préciser ces dispositions, avant d’ajouter, quelques secondes plus tard : « Nous travaillons sur ce décret »... Qu’on le rassure : ce décret a bien été pris par la précédente majorité. Tout doit donc s’appliquer depuis le mois de septembre.

Le gouvernement enfume les parlementaires et ouvre la boîte de Pandore

Le même jour, au Sénat, le gouvernement défendait par la voix de Frédérique Vidal, ministre de l’Enseignement supérieur, un amendement qui risque de rendre cet outil inopérant dans le cadre de Parcoursup, la plateforme qui succède à Admission Post-Bac.

Dès lors que les candidats se verront « informés » de la possibilité d’obtenir, s’ils en font la demande, « la communication des informations relatives aux critères et modalités d’examen de leurs candidatures ainsi que des motifs pédagogiques qui justifient la décision prise », les obligations d’explicitation des algorithmes introduites par la loi Numérique seront « réputées satisfaites » (voir nos explications détaillées).

Autant dire qu’il s’agit là d’un sacré coup de canif porté à la loi Lemaire. Le gouvernement ouvre la boîte de Pandore en gravant dans le marbre une première « exception » qui, comble de l’histoire, s’appliquera à la situation pour laquelle ces dispositions ont vu le jour. À l’époque, le gouvernement de Manuel Valls avait en effet conçu ce dispositif en écho aux difficultés rencontrées par les utilisateurs d’APB.

Quelle sera maintenant la prochaine administration à vouloir bénéficier d’une telle dérogation ?

apb étude impact loi numérique
Crédits : Étude d’impact de la loi Numérique

Tout cela est problématique pour deux raisons.

D’une part, la méthode utilisée par le gouvernement a de quoi choquer, l’exécutif ayant comme par hasard attendu la toute fin de la navette parlementaire pour faire passer cette réforme. Frédérique Vidal a de surcroit assuré aux sénateurs qu’il s’agirait « simplement » de « permettre à un candidat d'obtenir communication, dans le cadre d'une démarche individuelle, des raisons de la décision le concernant » – alors que le dispositif proposé était en réalité bien différent.

Pendant ce temps, la majorité se drape dans l’amendement introduit sous l’impulsion de Cédric Villani, et en vertu duquel la communication de plein droit du code source, de l’algorithme et du cahier des charges de Parcoursup sera gravée dans la loi. Or la législation existante était très probablement suffisante. En 2016, la Commission d’accès aux documents administratifs (CADA) avait d’ailleurs enjoint le ministère de l’Enseignement supérieur à révéler ces documents à une association de lycéens.

Cette manœuvre laisse en fin de compte à penser que l’exécutif a voulu faire un pari : celui que personne ne s’apercevrait de ce petit tour de passe-passe.

Des administrations qui ne semblent avoir de comptes à rendre à personne

D’autre part, et c’est là le fond du problème, il y a un vrai manque de volonté politique et administrative sur ce dossier. Ce dispositif devrait être appliqué depuis septembre. Or rien ne bouge pour le citoyen. Nous avons écrit plusieurs articles (et même saisi la CADA) afin d’interpeler les responsables publics. Mais la récente « sortie » de Mounir Mahjoubi, qui n'a suscité aucune vague, montre que la majorité a visiblement d’autres chats à fouetter.

Peut-être que ces dispositions sont difficiles à appliquer. Peut-être que les administrations auraient eu besoin de davantage de temps pour s’y préparer. Sauf que l’absence totale de prise de position sur ce dossier participe à un certain flottement, et donne l’impression que les administrations n’ont de comptes à rendre à personne.

Et si la société civile s’emparait du dispositif ?

La solution pourrait toutefois venir des citoyens eux-mêmes. Si les administrations n’intègrent pas la fameuse « mention explicite » qui devrait théoriquement leur permettre de savoir qu’ils peuvent demander une explicitation des traitements algorithmiques ayant servi à prendre une décision individuelle à leur égard, rien ne leur empêche de faire leur demande auprès de l’administration !

Peut-être que lorsque les impôts, les allocations familiales ou Pôle emploi auront reçu des centaines (voire des milliers) de demandes d’explications, certains responsables s’intéresseront davantage à ce dispositif.

Pour cela, rien de bien compliqué. Il vous suffit d’écrire à l’administration concernée, pourquoi pas par voie électronique. Pour trouver le bon interlocuteur, référez-vous au contact indiqué en principe sur la décision qui vous a été transmise. Vous pouvez aussi envoyer un message via votre espace personnel (pour les impôts ou la CAF par exemple), écrire à votre conseiller Pôle Emploi, etc.

Voici d’ailleurs un modèle de demande :

« Bonjour,

Comme le prévoit l'article L311-3-1 du Code des relations entre le public et l'administration, je voudrais s'il vous plaît obtenir communication des règles définissant le traitement algorithmique que vous utilisez [pour le calcul de ma taxe d’habitation, pour mon affectation à tel endroit, etc.], de même que les principales caractéristiques de mise en œuvre de ce même traitement.

À titre indicatif, l'article R311-3-1-2 du même code dispose que "L'administration communique à la personne faisant l'objet d'une décision individuelle prise sur le fondement d'un traitement algorithmique, à la demande de celle-ci, sous une forme intelligible et sous réserve de ne pas porter atteinte à des secrets protégés par la loi, les informations suivantes :

1° Le degré et le mode de contribution du traitement algorithmique à la prise de décision ;

2° Les données traitées et leurs sources ;

3° Les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de l'intéressé ;

4° Les opérations effectuées par le traitement."

En vous remerciant par avance.

Bien cordialement, »

Si vous n’obtenez aucune réponse dans un délai d’un mois, vous pouvez saisir la Commission d’accès aux documents administratifs (voir notre guide). Il s’agit là aussi d’une démarche totalement gratuite – et pouvant être réalisée par mail. L’autorité administrative indépendante statuera alors sur le refus tacite vous ayant été opposé, et pourra éventuellement inviter l’administration en cause à vous répondre.

L'association Droit des lycéens, qui avait obtenu le code source d'APB, a d'ores et déjà fait savoir qu'elle tenterait tous les recours possibles pour obtenir la transparence sur Parcoursup.


chargement
Chargement des commentaires...