Transparence des algorithmes publics : vers quelques « ajustements » à l’Assemblée

L’Assemblée nationale va-t-elle se rallier aux amendements votés par le Sénat en matière de transparence des algorithmes publics ? L’hypothèse ne paraît guère probable, le gouvernement y étant opposé. La députée Paula Forteza se dit néanmoins ouverte à quelques « ajustements », y compris sur le dossier Parcoursup.

« Dans leurs discours, les députés du groupe majoritaire à l’Assemblée nationale et le président de la République lui-même ne cessent d’appeler à l’encadrement et à la transparence des algorithmes. Dans les faits, ils s’apprêtent à voter la suppression de tous les garde-fous ! » Le président de la commission des lois du Sénat, Philippe Bas (LR), n’y est pas allé avec le dos de la cuillère, vendredi 6 avril, suite à l’échec des négociations sur le projet de loi RGPD.

Réunis en commission mixte paritaire, députés et sénateurs n’ont pas réussi à trouver de compromis sur le fameux texte, en débat au Parlement depuis le mois de février. Selon Sophie Joissains, rapporteure du Sénat, la Haute assemblée avait accepté de lâcher du lest, sauf sur deux dossiers qui faisaient office de « lignes rouges » :

• L’introduction d’une sorte de dispense de sanction de la part de la CNIL, au profit des collectivités territoriales.
• L’encadrement des algorithmes produisant des effets juridiques.

Sur ce second dossier, les élus du Palais du Luxembourg ont pour mémoire souhaité que les décisions administratives ne comportant pas de « mention explicite » relative à la transparence des algorithmes soient systématiquement considérées comme nulles (voir notre article).

Dans le même temps, le Sénat a refermé la brèche entrouverte pour Parcoursup, afin que les universités soient tenues d’expliquer aux futurs étudiants dans quelle mesure un ou plusieurs algorithmes sont venus s’immiscer dans leur affectation.

Les députés étant maintenant appelés à avoir le dernier mot sur ces dispositions, les regards sont donc tournés vers l'Assemblée nationale.

Le Sénat dénonce les « incohérences » de la majorité

« Est-il légitime que les lycéens sélectionnés par les universités au moyen de traitements automatisés ne puissent savoir quels paramètres leur ont été appliqués ? » s’interroge faussement Sophie Joissains. La sénatrice nous explique qu’elle était prête à reporter d’un an l’entrée en vigueur de son amendement, « le temps que les établissements se mettent en ordre de marche ».

Mais l’élue n’en démord pas : « Il faut que les étudiants sachent où ils vont. Et qu'ils puissent aussi anticiper. » La rapporteure ne manque pas de souligner que la CNIL a récemment déploré qu’aucune « information préalable » n’ait été prévue dans le cadre de Parcoursup pour avertir les utilisateurs de la plateforme « sur le fait qu'un algorithme d'affectation est utilisé ».

Vu du Sénat, le tout paraît d’autant plus incohérent qu’Emmanuel Macron a promis le 29 mars dernier que l’État rendrait « public le code de tous les algorithmes qu'il serait amené à utiliser – au premier rang desquels celui de Parcoursup ».

« Nous allons retravailler ce sujet », promet Paula Forteza

« On est en discussion avec le gouvernement pour trouver la meilleure façon d'assurer cette ouverture de l'algorithme de Parcoursup », nous confie Paula Forteza, rapporteure du projet de loi RGPD pour l’Assemblée nationale.

L’élue LREM reconnait que l’amendement voté par le Sénat à ce sujet est « intéressant ». Elle ne ferme d’ailleurs aucune porte :

« Le gouvernement veut protéger le secret des délibérations pour les décisions pédagogiques, ce qui peut avoir du sens. Mais cela n'a rien à voir avec l'algorithme qui est utilisé par ailleurs. Nous allons faire la part des choses et retravailler ce sujet pour voir comment on peut clarifier les différentes dispositions. C'est un champ qui s'ouvre. »

Reprise des débats demain après-midi

Quant à la nullité automatique des décisions administratives dépourvues de « mention explicite », Paula Forteza ne s’y dit là non plus « pas opposée ». « Dans le principe, j'y adhère. Il faut qu’on creuse un peu plus le sujet, mais ça m'avait semblé être une bonne idée. »

Comme sur Parcoursup, le gouvernement devrait cependant y être défavorable. « Concrètement, que signifierait, pour les Français, la nullité de la décision dans des cas très pratiques ? » avait lancé Mounir Mahjoubi, mercredi 21 mars, dans l’hémicycle du Sénat. « Si mon avis d'imposition ne comporte pas la mention en question, puis-je refuser de payer l'impôt ? Quelles seraient les conséquences de son absence dans un avis d'attribution du RSA ? »

« En pratique, ça voudrait dire qu'une décision qui est envoyée sans la mention est nulle et non avenue. Mais il ne faudrait pas refaire la procédure derrière, rétorque aujourd’hui Sophie Joissains. Il faudrait juste renvoyer la bonne décision, avec le tampon des mentions obligatoires [tant sur les algorithmes que sur les voies de recours, par exemple, ndlr]. »

Les cartes devraient bientôt tomber, les débats reprenant demain après-midi à l’Assemblée nationale, en commission des lois.