Conseil d'État : vers l'encadrement des algorithmes prédictifs en France ?

De l'IP Tracking aux conséquences juridiques 22
En bref
image dediée
Crédits : Vertyr/iStock/Thinkstock
Loi
Nil Sanyas

Outre la responsabilité des hébergeurs ou encore la neutralité du Net, la dernière étude du Conseil d'État sur le numérique s'est aussi penchée sur les algorithmes prédictifs. Cinq propositions sur ce sujet ont été dévoilées, dont une implique une intervention humaine pour toute décision qui induit des effets juridiques sur une personne.

Couvrant de très nombreux domaines, l'étude annuelle du Conseil d'État de plus de 400 pages sur « le numérique et les droits fondamentaux » s'est donc intéressée aux algorithmes prédictifs. L'institution explique que son objectif ici est de proposer « des principes généraux ayant vocation à régir la conception et la mise en œuvre des algorithmes, puis des recommandations concernant deux domaines d’utilisation particuliers, dans le commerce en ligne et dans les industries culturelles ».

Voici donc les cinq propositions :

  1. Pour assurer l’effectivité de l’interdiction de fonder une décision sur la seule mise en œuvre d’un traitement automatisé, confirmer que l’intervention humaine dans la décision doit être réelle et pas seulement formelle. Indiquer dans un instrument de droit souple les critères d’appréciation du caractère effectif de l’intervention humaine.

  2. Imposer aux auteurs de décisions s’appuyant sur la mise en œuvre d’algorithmes une obligation de transparence sur les données personnelles utilisées par l’algorithme et le raisonnement général suivi par celui-ci. Donner à la personne faisant l’objet de la décision la possibilité de faire valoir ses observations.

  3. Dans le cadre de l’article 44 de la loi du 6 janvier 1978 et dans le respect du secret industriel, développer le contrôle des algorithmes par l’observation de leurs résultats, notamment pour détecter des discriminations illicites, en renforçant à cette fin les moyens humains dont dispose la CNIL.

  4. Analyser les pratiques de différenciation des prix reposant sur l’utilisation des données personnelles, mesurer leur développement et déterminer celles qui devraient être qualifiées de pratiques commerciales illicites ou déloyales, et sanctionnées comme telles.

  5. Encourager la prise en compte de la diversité culturelle dans les algorithmes de recommandation utilisés par les sites internet diffusant des contenus audiovisuels ou musicaux.

L'importance de l'humain derrière l'algorithme

Le premier point se base sur l’article 10 de la loi du 6 janvier 1978, qui indique qu'aucune « décision produisant des effets juridiques à l'égard d'une personne ne peut être prise sur le seul fondement d'un traitement automatisé de données destiné à définir le profil de l'intéressé ou à évaluer certains aspects de sa personnalité. » Sans les mentionner, cet article vise donc les algorithmes.

Le Conseil d'État note qu'il faut donc « éviter que des systèmes présentés comme relevant de « l’aide à la décision » soient en réalité presque toujours suivis et commandent la décision, l’intervention humaine n’étant alors qu’apparente ». L’interprétation de l'article 10 pourrait de plus être précisée par la CNIL ou l'avis du G29, c'est-à-dire toutes les CNIL des pays de l'Union européenne, « en prévoyant que l’intervention humaine ne doit pas être que formelle ». Mais vérifier qu'une intervention humaine soit bien effective ne risque-t-il pas d'être trop complexe ?

La deuxième proposition vise à permettre aux personnes subissant un effet juridique, suite à une décision basée sur un algorithme, de se défendre. Afin de « bénéficier de garanties analogues à celles d’une procédure contradictoire », la victime doit donc pouvoir accéder à certaines données et explications. Mais là encore, un tel système peut-il être mis en place simplement ? Si un renforcement de la CNIL (proposition 3) ne pourra être que positif pour surveiller les algorithmes des différents sites et services en ligne, il faudra tout de même voir comment les deux premières propositions pourront être appliquées.

Vers des sanctions en cas d'abus d'IP Tracking ?

La quatrième proposition est elle aussi très intéressante. Le Conseil d'État s'intéresse en fait ici à « l'IP Tracking ». Le sujet revient régulièrement dans nos colonnes, notamment parce que plusieurs députées françaises, dont Françoise Castex et Dominique Orliac, ont ces dernières années pointé du doigt cette méthode qui modifie le prix des produits ou encore des billets de transport en fonction du comportement de l'internaute (s'il revient plusieurs fois, etc.). L'an passé, la CNIL a même ouvert une enquête sur ce sujet épineux.

Ici, le CE n'y va pas par quatre chemins et menace de sanctionner les sites et services abusant du système. Certes, le conseil ne milite pas pour une interdiction totale de la différenciation par les prix. Par contre, il convient à son goût de préciser les critères de distinction entre pratiques licites et illicites. La DGCCRF et le Conseil national de la consommation pourraient notamment plancher sur ce sujet. Un texte de loi pourrait même être appliqué afin de parfaitement décrire les formes de différenciation des prix qui pourraient être appliquées légalement, ce qui par conséquent précisera celles qui seront illégales. Le texte comportera alors « les sanctions administratives ou pénales dont elles feraient l’objet ».

La diversité culturelle pour les services audio et vidéo

Enfin, la cinquième proposition s'intéresse à un sujet du moment, à savoir les obligations des services Internet spécialisés dans l'audiovisuel. L'arrivée imminente de Netflix rentre précisément dans ce champ, et si le volet financier cristallise l'attention du secteur, le Conseil d'État, lui, s'intéresse ici à la diversité culturelle proposée par les services basés à l'étranger.

« La principale difficulté tient à la possibilité pour ces fournisseurs de diffuser leurs contenus en France tout en étant établis depuis d’autres pays à la réglementation moins exigeante ; un risque de concurrence par le moins-disant existe explique l'institution française. Afin de le combattre, une harmonisation renforcée au sein de l’Union européenne ou le passage du principe du pays d’origine à celui du pays de destination, comme le préconise la France, apparaissent souhaitables. »

Les règles en vigueur en France impliquent à tous les services audiovisuels de diffuser et mettre en avant un taux minimum d'œuvres françaises et européennes. Netflix, ou tout autre service équivalent basé à l'étranger, va-t-il se conformer à ces obligations et ne pas proposer uniquement du contenu américain ? La question peut se poser, surtout pour les sites de VoD au concept assez différent d'une télévision classique. Le Conseil d'État note d'ailleurs judicieusement que cette obligation de diversité culturelle « apparaît en revanche inadaptée dans son principe aux modes de diffusion sur internet. Si elle conserve tout son sens pour les programmes linéaires diffusés par les chaînes de radio et de télévision, elle ne peut exercer qu’une influence limitée sur les contenus effectivement choisis par l’internaute sur des sites de vidéo ou de musique en ligne. »

Dès lors que les algorithmes des services audio et vidéo se basent sur les habitudes et préférences des utilisateurs, il est effectivement difficile d'imposer des quotas. Le Conseil d'État propose alors d'imposer aux plateformes de modifier leurs algorithmes, « en favorisant la prise en compte des critères de promotion de la diversité culturelle. Les plateformes auraient le choix des moyens de cette prise en compte : elle pourrait passer par la bonification dans l’algorithme des œuvres françaises ou européennes, ou par la mise en place d’une fenêtre dédiée à ces œuvres dans le résultat des recommandations. »

Cette proposition est cependant loin d'être parfaite, l'institution avoue en effet qu'elle présente « un caractère intrusif dans l’exercice de la liberté de recommandation de ces sites ». La meilleure solution serait alors de travailler « avec les sites concernés sur des engagements volontaires en matière de soutien à la diversité culturelle ». Le conseil propose même que des engagements sur la prise en compte de la diversité culturelle dans les algorithmes de recommandation soient inscrits dans des conventions comme le préconise le CSA.


chargement
Chargement des commentaires...