Avec la CNIL, l’Oracle du Net tente de gratter le vernis des algorithmes des plateformes

Allez sur Facebook, Google ou Twitter, cliquez sur une extension navigateur et commencez à gratter la page pour faire apparaître les rouages des algorithmes. C'est l'expérience que propose Hally, un projet de Victoria Duchatelle, qui propose de jeter un regard rapide derrière le rideau de services en ligne.

Le 5 septembre, Hally, « l'Oracle du Net » a été mise en ligne. Objectif : démystifier le travail de certains algorithmes et donner une idée des critères utilisés pour sélectionner ce que nous affichent Facebook, la recherche Google et Twitter au quotidien. L'expérience promet d'« avoir une interaction très différente avec les pages », selon Olivier Desbiey du Laboratoire d'innovation numérique de la CNIL (LINC), qui a hébergé le projet.

Installez une extension pour navigateur, rendez-vous sur l'un des trois sites supportés et commencez à gratter certains cadres pour enlever un peu de leur vernis. La pédagogie passe par le design : jeu pour trouver les parties interactives, couleurs vives, gif animés et messages courts en tutoiement... pour faire comprendre que les algorithmes sont essentiellement un miroir déformant.

L'ensemble a été conçu entre avril et juin par Victoria Duchatelle, dans le cadre d'un Diplôme Supérieur d'Arts Appliqués de recherche en design multimédia à l'École nationale supérieure des arts appliqués et des métiers d'art Olivier de Serres. La CNIL l'a accueillie en stage pour mener ce projet, qui suit un mémoire sur l'idée de « hacker son auto-prophétie ».

Le projet est open source, son code étant diffusé via GitHub sous licence GPLv3. Une Extension Firefox doit arriver dans la journée, rejoignant celle déjà disponible pour Chrome.

• Consulter l'Oracle du Net

Décortiquer la documentation des plateformes

Pour la Commission, il s'agit de soutenir un projet qu'elle ne se sentait pas capable de mener au sein du LINC. En contrepartie, elle a fourni son expertise technique et juridique sur les algorithmes, ainsi que sa force de communication. 90 % du travail a été mené par Victoria Duchatelle, avec un soutien éditorial de la CNIL.

« À chaque fois, notre matière première sont les explications [des services] : politique de vie privée, conditions générales d'utilisations... Elles sont reformulées de manière un peu ironique, provocante. Tout est factuel, nous n'avons rien fantasmé, nous avons adapté la forme et la tonalité » assure Olivier Desbiey, malgré l'absence de références précises vers les documents en question.

« Le premier objectif est d'aiguiser la curiosité des internautes », affirme LINC, quitte à simplifier les problématiques et utiliser des concepts comme les bulles de filtre ; populaire médiatiquement mais contesté par certains universitaires. La classification des algorithmes en quatre catégories s'appuie, elle, sur les travaux du sociologue Dominique Cardon.

« Les algorithmes ont tendance à renforcer les routines et comportements » rappelle le laboratoire de la commission. Le but de l'Oracle n'est donc pas tant de proposer de changer de services, mais de mener un effort conscient pour changer les habitudes.

Design et éthique des données

Il s'agit de contrer « un discours extrêmement puissant d'acteurs très puissants et présents. On apporte une prise de distance, pour que les gens prennent le temps de s'interroger. Les entreprises mettent beaucoup d'efforts dans le design, donc nous pouvons l'utiliser pour interpeller les utilisateurs et les forcer à avoir cette distance critique » nous affirme encore Olivier Desbiey.

Cette approche par le design n'est pas entièrement nouvelle pour la commission, alors que la réflexion sur le traitement des données est au cœur de ses missions. Depuis janvier, elle se concentre sur l'éthique des algorithmes, après quelques années à se pencher sur des projets liant vie privée et design.

Il y a trois ans, elle avait placé des mouchards sur des smartphones Android et iOS, un logiciel développé avec l'équipe Privatics d'Inria qui suivait les envois de données et l'installation d'application. Des agents de la CNIL ont remplacé leur appareil principal par celui-ci pendant trois mois, pour prendre la mesure des masses de données brassées.

Ce projet Mobilitics en a accompagné d'autres, au sein de LINC. Il va ainsi s'adapter à l'Internet des objets. Cela donne IoTics, dont on devrait connaître les résultats l'an prochain. On peut aussi évoquer CabAnon, qui part de la publication de données « anonymisées » de taxis new-yorkais, retraitées par Uber pour mieux les protéger.

Pour le laboratoire, les efforts fournis sont bien insuffisants et les informations permettent bien d'identifier et suivre des personnes. Ces données ont donc été reprises pour les anonymiser suffisamment et voir quelles informations (importantes ou non) étaient perdues dans le processus. Résultat dans les prochaines semaines, nous promet-on.