Vous n'avez pas encore de notification

Page d'accueil

Options d'affichage

Abonné

Actualités

Abonné

Des thèmes sont disponibles :

Thème de baseThème de baseThème sombreThème sombreThème yinyang clairThème yinyang clairThème yinyang sombreThème yinyang sombreThème orange mécanique clairThème orange mécanique clairThème orange mécanique sombreThème orange mécanique sombreThème rose clairThème rose clairThème rose sombreThème rose sombre

Vous n'êtes pas encore INpactien ?

Inscrivez-vous !

Obligation d’explicitation des algorithmes publics : un an pour rien ?

Bon an, mal an
Droit 5 min
Obligation d’explicitation des algorithmes publics : un an pour rien ?
Crédits : monsitj/iStock

Il y a un an, l’une des mesures-clés de la loi Numérique entrait en vigueur : l’obligation pour les administrations d’expliquer, sur demande, comment fonctionnent leurs algorithmes. Difficile pourtant de trouver un acteur public se pliant à l'exercice...

Attribution d’allocations familiales ou de bourses scolaires, montant des impôts sur le revenu... Depuis le 1er septembre 2017, toutes les décisions individuelles prises « sur le fondement d'un traitement algorithmique » doivent théoriquement être accompagnées d’une « mention explicite » informant le citoyen qu’un programme informatique est venu s’immiscer dans le calcul de ses APL, de sa taxe d’habitation, etc.

Mieux encore : avec ces quelques lignes, rendues obligatoires par la loi Numérique, chaque administration est tenue d’expliquer à l’usager qu’il a le droit d'obtenir la communication des « règles » et « principales caractéristiques » de mise en œuvre de l’algorithme utilisé : degré de contribution à la prise de décision, données traitées (et leurs sources), paramètres de traitement appliqués à la situation du demandeur...

L’intérêt de ces dispositions ? Permettre au citoyen d’avoir des explications intelligibles sur le fonctionnement du (ou des) algorithme(s) ayant été utilisé(s) afin de traiter son dossier. En effet, pour les personnes compétentes en informatique, il reste possible de solliciter – à titre complémentaire – l’algorithme lui-même.

Toujours pas la moindre « mention explicite »

Problème : près d’un an après l’entrée en vigueur de cette réforme, force est de constater que celle-ci est largement ignorée des administrations.

Impossible en effet de trouver la moindre « mention explicite » dans les notifications adressées par exemple par le fisc ou les Allocations familiales. À croire qu’il est trop difficile d’intégrer une petite phrase dans des courriers types – et ce pour simplement avertir les usagers qu’ils peuvent demander à se faire expliquer comment l’administration en est arrivée à prendre telle décision à leur égard, à l’aide d’un algorithme...

Quant à l’explicitation des algorithmes en elle-même, le bât blesse là aussi... Les allocations familiales, sollicitées par nos soins, ont essayé de se plier à l’exercice. Sauf qu’il s’agissait davantage d’explications portant sur les calculs relatifs à l’aide en question (la prime d’activité) qu’un véritable décryptage du fonctionnement de l’algorithme.

L’administration fiscale n’a de son côté jamais répondu à notre demande d’explicitation. Fin 2017, nous avions saisi la Commission d’accès aux documents administratifs (Cada), qui a invité Bercy à détailler le fonctionnement de l’algorithme destiné au calcul de la taxe d’habitation – toujours en vain à ce jour.

« Ce n’est pas de la mauvaise volonté, ça relève plutôt de la méconnaissance », nous assurait il y a quelques mois un haut fonctionnaire familier du dossier. « Ce n'est vraiment pas jugé comme une action prioritaire puisqu’il n'y a pas de sanction à la clé, en dehors d'un éventuel déficit d'image. »

L’attitude de l’administration pose néanmoins question. En septembre 2017, nous avions envoyé des demandes d’interviews auprès de Pôle emploi, de l’administration fiscale et de la Caisse nationale des allocations familiales, afin de voir comment ces institutions, visées au premier rang par la loi Numérique, se préparaient à faire face à leurs nouvelles obligations. Toutes se sont pourtant continuellement murées dans le silence, en dépit de nos relances.

Quand le Sénat tente de taper du poing sur la table

Au printemps, les sénateurs se sont eux aussi agacés de cette situation. « À quoi cela sert-il de créer ou de déclarer des droits si le citoyen n'en est pas informé et si, finalement, ces droits restent lettre morte ? » avait ainsi déploré la rapporteure du projet de loi RGPD, Sophie Joissains.

Afin « d’inciter l’administration à se conformer à la loi », la Haute Assemblée avait même voté un amendement prévoyant qu’en l’absence de « mention explicite », les décisions administratives soient systématiquement considérées comme nulles.

Le gouvernement, qui s’inquiétait visiblement des conséquences de ces dispositions sur des millions d’avis d’impôts (notamment), a réussi à faire rectifier le tir à l’Assemblée nationale. Les députés ont en effet voté plusieurs amendements de l’exécutif, afin que la nullité systématique ne prévale qu’à partir du 1er juillet 2020 – et ce uniquement pour les décisions prises sur le seul fondement d’un algorithme (ce qui n’était théoriquement pas autorisé avant l’entrée en vigueur de la loi adaptant le droit français au RGPD).

L’apparente inertie des administrations se révèle d’autant plus surprenante sur ce dossier qu’Emmanuel Macron s’était engagé, lors de son discours du 29 mars, à ce que l’État rende public tous les algorithmes qu’il utilise. Ce qui n’a néanmoins pas empêché la majorité de voter, quelques semaines plus tôt, un amendement gouvernemental annihilant les obligations d’explicitation des algorithmes dans le cadre de Parcoursup.

Etalab va décortiquer cinq algorithmes publics au fil des prochains mois

« Pour mettre en œuvre ces nouvelles obligations, il faut s'appuyer sur des cas d'usages », nous explique Laure Lucchesi, directrice de la mission Etalab. Dans le cadre de son dernier plan d’action pour l’Open Governement Partnership, la France s’est ainsi engagée à « réaliser cinq monographies d’algorithmes publics ».

Avec ces travaux, les pouvoirs publics entendent « identifier les enjeux en termes techniques, juridiques et organisationnels ». En pratique, ces « décorticages » d’algorithmes publics permettront de mieux en restituer le fonctionnement, première étape avant de proposer une explicitation aux usagers.

La mission Etalab travaille par exemple avec la Direction générale des finances publiques sur la taxe d’habitation. Parcoursup pourrait également être passé au crible, de même que les algorithmes utilisés dans le cadre des projets du « Pass Culture » et de « Signaux faibles » – deux « starts-up d’État » gérées par la Direction interministérielle au numérique (dont fait partie Etalab.)

« Nous allons ainsi regarder comment, sur des algorithmes que nous développons, on peut embarquer by design ces principes de transparence et de redevabilité », explique Laure Lucchesi. « Ces cas d'usages nous permettront également de définir des bonnes pratiques. »

L’intéressée souligne néanmoins qu’il « n'est pas simple » pour Etalab « d’accompagner toutes les administrations sur ce nouveau volet », dans la mesure où il s’agit d’une « extension » de ses missions initiales, tournées vers l’ouverture des données publiques.

10 commentaires
Avatar de crocodudule INpactien
Avatar de crocodudulecrocodudule- 03/09/18 à 09:56:04

C'est consternant, car si l'on peut légitimement se dire que des outils d'aide à la prise de décision sont une bonne chose, en revanche s'en remettre corps et âmes à l'outil sans en connaître le fonctionnement et ses dérives éventuelles est un risque bien réel.

C'est ce que tous les acteurs un peu mobilisés sur le sujet craignent et dénoncent, sans refuser par principe l'intégration de ces outils.

Et la réponse de "l'administration" est d'ailleurs particulièrement préoccupante; pour les quelques administrations qui ont tenté de jouer le jeu (merci à vous de faire le boulot de sollicitation des administrations au passage), elles sont infoutues d'expliquer les principes de fonctionnement des algos qu'elles utilisent.

Potentiellement, elles refusent des prestations/aides (ou les minorent) à certaines personnes (ou inversement en accordent ou les majorent à des personnes qui ne devraient pas en bénéficier), sans que cela les préoccupent.

La crainte en ce domaine est de confondre la rapidité pour ne pas dire l'abatage du traitement des demandes, avec l'efficacité de l'administration.

Avatar de JD Abonné
Avatar de JDJD- 03/09/18 à 10:31:56

« Ce n’est pas de la mauvaise volonté, ça relève plutôt de la méconnaissance », nous assurait il y a quelques mois un haut fonctionnaire familier du dossier. « Ce n'est vraiment pas jugé comme une action prioritaire puisqu’il n'y a pas de sanction à la clé, en dehors d'un éventuel déficit d'image. »

Il ne faut pas chercher plus loin...

Je recopie mon commentaire posté dans l'article : Loi Numérique : les obligations de publication de documents administratifs précisées par la Cada

JD a écrit :

Ces précisions de la CADA sont intéressantes!

Cependant, les administrations réfractaires à la transparence se moqueront de les respecter puisqu'ils n'y a pas (à ma connaissance) de sanctions prévues dans les textes de loi... La seule solution est de saisir un juge d'un tribunal administratif qui se contentera d'imposer la transmission du document demandé plusieurs mois après mais sans aucunes sanctions particulières à l'encontre de l'administration en question!

En effet, il suffit de se rappeler le parcours du combattant pour obtenir la publication du code source d'APB... En fin de compte, l'EN avait publié une partie du code source d'APB au format papier! :mad2:

Avatar de JoePike INpactien
Avatar de JoePikeJoePike- 03/09/18 à 10:52:40

J'ai pas pu voir les algorithmes de la taxe d'habitation , mais si je simplifie :
L'augmentation de la taxe d'habitation aussi bien à Nantes qu'à Paris est égale à l'augmentation de la CSG
( constaté ce matin !)
:D

Avatar de trash54 Abonné
Avatar de trash54trash54- 03/09/18 à 11:59:29

Le gros et principal problème c'est que personne ne sait expliqué comment ça fonctionne souvent.

Avatar de AltreX Abonné
Avatar de AltreXAltreX- 03/09/18 à 12:53:35

justement si ils se pliaient a l'exercice ça améliorerais peu-être la compréhension général (incluant les dites administrations) ouvrant ainsi des possibilités d'amélioration soit en terme d'orientation des usager soit en termes d'algo.

La politique de l'autruche c'est bien tant que ça "marche", mais ça n'a jamais mené bien loin ...

Avatar de Furanku Abonné
Avatar de FurankuFuranku- 03/09/18 à 12:53:43

La dette technologique doit tellement être importante, le turn-over aussi (avec les rabots successifs et le nombre de contractuels/prestataires qui augmente), que plus personne ne doit savoir comment fonctionnent certaines parties...

Pas étonnant ensuite d'avoir une administration numérique bancale. J'en ai encore fait les frais récemment avec la CAF, pour une déclaration de naissance, avec des "Un incident technique est survenu" qui s'enchaînent... Et on ne parlera pas des cartes grises, etc.

Quand on voit l'avance de certains pays comme l'Estonie sur le sujet, on a largement de quoi rougir.
Mais l'administration française est ce qu'elle est : une usine à gaz. L'inertie y est tellement grande qu'y appliquer tout changement, aussi positif soit-il, relève un parcours du combattant.
La seule chose que l'on sait faire c'est y réduire les effectifs... Pour ça, aucun problème !

Avatar de WereWindle INpactien
Avatar de WereWindleWereWindle- 03/09/18 à 13:05:14

Furanku a écrit :

Quand on voit l'avance de certains pays comme l'Estonie sur le sujet, on a largement de quoi rougir.

la population totale de l'Estonie, c'est 50% de la population de Paris :transpi:
De même, il n'y a pas autant d'historique à trainer (dette technologique, comme tu le soulignes)

Rien à redire sur le reste, en revanche :chinois:

Avatar de Citan666 Abonné
Avatar de Citan666Citan666- 03/09/18 à 14:37:57

Voilà enfin un commentaire sensé.

Évidemment, le fait qu'il n'y ait pas de sanction pécuniaire joue aussi, mais à minima.
Il y a des dossiers largement plus urgents à traiter dans toutes les administrations, et spécialement au MINEFI.

Ces nouvelles obligations font ou feront l'effet d'un coup de pied dans la fourmilière. C'est juste que contrairement à d'autres environnements, dans le public, l'effet commence à se ressentir une fois l'inertie passée. :D
Compter plusieurs années.
 
Perso je me branle total qu'ils respectent l'obligation là tout de suite maintenant. En revanche, qu'ils prévoient de la respecter dès la conception de tout nouveau projet informatique, ça je le souhaite vivement en tant que citoyen, et pour le coup je ne serais pas contre une épée de Damoclès pécuniaire histoire d'être sûr que ce sera pris en compte.
 
Parce qu'autant "rattraper un coup" c'est l'enfer, spécialement en informatique, autant quand une contrainte est réfléchie dès l'origine non seulement ça se passe généralement bien, mais au final il y a des chances qu'on gagne en qualité (bizarrement, pour la plupart des humains, quand ils savent que leur taff risque d'être exposé à la critique publique, ils sont plus hésitants à prendre des raccourcis boueux).

Avatar de ajangot Abonné
Avatar de ajangotajangot- 03/09/18 à 17:53:26

Le problème pour les impots locaux c'est qu'ils sont basé sur des "coefficients" locaux et c'est la misère pour avoir des info.
Après 2 ans de procédure, je n'ai toujours pas eu accès à l'intégralité des coeff pour mes taxes habitation et foncière (j'ai compté 28 coefficients "magique" réparti entre mairie, centre des impôts, département et même basé en % sur ceux des années précédente et donc il faut faire un calcul sur les 7 dernières années pour trouver le bon coeff)
Tout cela sans jamais savoir s'il faut appliquer les arrondi ou pas.

Bref c'est pas demain que l'on aura une carte clair (façon FTTH) ou l'on peut cliquer et voir si construire sa maison/appartement sans que cela coute un bras en taxes :'(

Je n'ose même pas demande pour la CAF...

Avatar de linkin623 Abonné
Avatar de linkin623linkin623- 04/09/18 à 01:11:30

Ah la taxe d'habitation... Mon prof de finances publiques qui nous sort "bon je vais pas vous mentir, mais je ne sais pas vraiment comment c'est calculé précisément. Au mieux je vous donne ce qui est utilisé ou déclaré utilisé. Pour refaire un calcul précis ça je vous laisse le faire"

Il n'est plus possible de commenter cette actualité.
  • Introduction
  • Toujours pas la moindre « mention explicite »
  • Quand le Sénat tente de taper du poing sur la table
  • Etalab va décortiquer cinq algorithmes publics au fil des prochains mois
S'abonner à partir de 3,75 €