iBorderCtrl : la CJUE refuse de lever le voile sur le détecteur de mensonges aux frontières financé par l’Europe

La Cour de justice de l’Union européenne accepte que le secret des affaires permette de justifier l'occultation d'information sur les outils et technologies développés dans le cadre d'un projet comme iBorderCtrl, même s'il se base sur des recherches financées par l'Union européenne. Ce projet de détecteur de mensonges basé sur une IA de reconnaissance des émotions a été pensé pour être utilisé aux frontières de l'Europe.

En appel, la Cour de justice de l'Union européenne (CJUE) a refusé, la semaine dernière, la transparence totale demandée par le député européen du Parti Pirate allemand Patrick Breyer sur le projet de iBorderCtrl, laissant accès à une petite partie des documents concernant le projet.

• Les trouvailles des Géo Trouvetou de l'industrie de la Défense

Ce projet a été financé par la Commission européenne à hauteur de 4,5 millions d’euros (selon la page supprimée de présentation du projet par la Commission accessible via Internet Archive). Le député du Parti Pirate s'appuyait sur ce financement pour demander la publication de toutes les informations concernant le projet. Mais l'Agence exécutive européenne pour la recherche (REA) a refusé l'accès à plusieurs documents en se fondant sur la protection de la vie privée et la protection des intérêts commerciaux des membres du consortium.

Celui-ci regroupait, à la fin du projet comme on peut le voir sur son site, des universités comme celles de Manchester et de Leibniz, mais aussi l'entreprise luxembourgeoise de services informatiques spécialisée dans l'« e-gouvernement » European Dynamics, l'entreprise de R&D chypriote Stremble Ventures LTD et… Online Casinos Deutschland (sic).

Mais d'autres entreprises comme Biosec group (qui développe des solutions d'identification biométrique) ou l'entreprise de défense polonaise Jas, qui apparaissaient sur le site du projet en 2018 en tant que participants, ne sont plus affichés.

Contrôle des frontières et détecteur de mensonge

iBorderCtrl consiste à unifier un ensemble de modules visant « à créer des points de passage frontaliers plus efficaces et plus sûrs afin de faciliter le travail des douaniers pour repérer les immigrants clandestins et contribuer ainsi à la prévention du crime et du terrorisme ».

L'un de ses modules (détaillés sur une page supprimée du site du projet, mais accessible via Internet Archive) a concentré les critiques : ADDS, un détecteur de mensonges basé sur les émotions interprétées par une intelligence artificielle.

• iBorderCtrl : une IA pour détecter les mensonges lors des passages aux frontières européennes

En 2018, la présentation [PDF] des résultats à la conférence scientifique International Joint Conference on Neural Networks (IJCNN) annonçait un taux de réussite de 75 % en moyenne. Mais plusieurs chercheurs interrogés dans une enquête de Libération publiée en 2019 sont sceptiques et « recommandent de considérer ce pourcentage avec prudence, car l'efficacité de la détection de mensonges à partir de signaux non verbaux n'enthousiasme pas la communauté scientifique, loin de là ». La chercheuse Laurence Devillers y affirme qu' « établi à partir des années 1960, le lien entre les micro-expressions [des expressions faciales d'une durée inférieure à une demi-seconde, ndlr] et la détection du mensonge reste très décrié ». Si vous avez déjà vu la série Lie to Me vous voyez parfaitement de quoi il est question (sinon vous pouvez toujours la regarder). Aussi attach(i)ant soit-il, Cal Lightman reste un pur personnage de fiction. 

La liste des publications scientifiques liées au projet tenue sur le site d'iBorderCtrl s'arrête d'ailleurs à l'année 2018, moment où le projet a été médiatisé suite à sa mise en avant par la Commission. Mais les principaux chercheurs du projet, James O'Shea et Keeley Crockett, publiaient en 2021 un article dans la revue scientifique Expert Systems with Applications. Ils expliquent que : 

« le système présenté dans cet article s'inspire de travaux antérieurs entrepris dans le cadre d'iBorderCtrl (Intelligent Portable Control System) qui était un projet de recherche et d'innovation visant à évaluer s'il était possible d'intégrer des technologies de pointe pour permettre un contrôle frontalier approfondi plus efficace pour les ressortissants de pays tiers qui franchissent les frontières terrestres des États membres de l'UE (Crockett et al., 2017).

Un module d'évaluation des risques dans iBorderCtrl a été utilisé pour combiner les scores obtenus à partir de systèmes nouveaux et existants et d'outils biométriques afin de classer le voyageur en termes de risque, ce qui a permis d'aider à la prise de décision du garde-frontière au point de passage de la frontière terrestre ».

Demande d'accès aux documents

Si des publications scientifiques sont partagées par les chercheurs du consortium iBorderCtrl, certaines personnes inquiètes de l'utilisation de ce genre de systèmes aimeraient pouvoir connaître les détails techniques du projet issu de recherches financées par l'Europe.

C'est le cas du député européen du Parti Pirate allemand Patrick Breyer. Celui-ci, s'appuyant sur le fait que la recherche d'iBorderCtrl est financée par le fonds de financement européen H2020, il demande à la Commission européenne tous les livrables du projet.

La Commission lui fournit quelques documents mais, comme l'explique Libération en 2019, des centaines de pages apparaissent avec « des parties entières noircies ». La REA justifie ce masquage massif par « la protection de la vie privée, de l'intégrité individuelle et des intérêts commerciaux, comme la propriété intellectuelle ».

Le député engage alors une procédure judiciaire auprès de la justice européenne. Et dans un arrêt publié le 15 décembre 2021, le tribunal accepte sa demande d'accès à une petite partie des documents visés par Patrick Breyer mais la refuse pour le reste. Le député a fait appel pour obtenir l'accès à davantage de documents, mais la CJUE vient donc de rejeter ce pourvoi le 7 septembre 2023 tout en établissant qu'un projet de recherche ne peut pas cacher toutes les informations le concernant derrière les intérêts commerciaux. Ceux-ci ne peuvent concerner « que » les « informations relatives aux outils et aux technologies concrètement élaborés ».

47 documents publiés

Le député a donc rendu public les 47 documents (dont une bonne partie avec des passages biffés). Wired Italie les a étudiés. La demande de financement soumise à la commission européenne permet de comprendre comment le projet a été bâti. C'est la société European Dynamics qui est aux manettes.  L'objectif est de créer un système de surveillance présent au départ et à l'arrivée aux frontières.

L'idée est de créer une inscription automatisée, comprenant l'envoi de données personnelles, de documents de voyages, des plaques d'immatriculation des véhicules et d'un court entretien mené par un « avatar » douanier. Une « détection de mensonges » est incluse, basée sur les données collectées mais aussi sur des données publiques. Pour les contrôles à l'arrivée, les responsables du projet ont même prévu du matériel portatif utilisable dans les bus et les trains. Selon nos confrères, les promoteurs mettent en avant la réduction des délais et des coûts des contrôles aux frontières qu'induirait le projet, s'appuyant sur une étude de 1980, « selon laquelle la réduction des contrôles aux frontières augmenterait le PIB national de 2,5 % chaque année ».

Beaucoup d'informations masquées

La partie de détection de mensonges, appelée Silent Talker, est un système prévu pour « quantifier » la probabilité qu'une personne interrogée réponde à une question en mentant. Un douanier virtuel pose des questions en étant capable de s'appuyer sur les données préalablement collectées et identifierait les signaux non verbaux d'un mensonge en analysant les micro-expressions faciales.

Le projet prévoit aussi une analyse préliminaire des profils sociaux des personnes interrogées. Wired explique que « les créateurs d'iBorderCTRL sont tellement convaincus que dans l'un des rapports finaux du projet, ils écrivent que, bien que l'extraction de données des réseaux sociaux ne soit pas explicitement envisagée par les règles communautaires en matière de contrôles aux frontières (le règlement Etias), il n'est pas même clairement exclu ».

Wired indique aussi que le biffage des documents inclus, entre autres, l'identité et le CV du consultant externe en éthique qui devait diriger le projet. Ce poste avait été imposé par la commission pour atténuer les risques de la technologie. Les détails sur le fonctionnement du détecteur de mensonges, sur les outils de reconnaissance biométrique, sur la politique de confidentialité, sur les faux positifs et faux négatifs, et sur l'évaluation de l'impact du dispositif sont aussi cachés.

Dans les documents de recrutement de volontaires pour les tests, il est aussi précisé que les données personnelles seront conservées pendant six mois après publication des résultats finaux du programme mais que le matériel vidéo pourrait être conservé sans délai de suppression.

Opacité permise par l'Union européenne

Si Patrick Breyer se réjouit que toute information d'un projet de recherche financée par l'UE ne peut être cachée au prétexte du secret des affaires, il commente cette décision de façon amère : « au service d'intérêts privés, l'Union européenne continue de financer le développement et l'expérimentation de technologies qui violent les droits fondamentaux et sont contraires à l'éthique. Il rajoute, « avec ma plainte en matière de transparence, j'ai obtenu qu'il soit précisé que le contribuable, la science, les médias et les parlements ont le droit d'accéder à la recherche publique tant qu'il n'y a pas de secrets d'affaires en jeu. En particulier dans le cas de développements pseudo-scientifiques et orwelliens tels que le "détecteur vidéo de mensonges", l'examen public est indispensable ».

L'association britannique Article 19 a aussi réagi en constatant que « la Cour européenne de justice n'a pas reconnu aujourd'hui l'importance de la transparence et du contrôle démocratique des projets financés par le contribuable, en particulier ceux qui menacent la liberté d'expression, la vie privée et l'égalité ». Elle ajoute que « cette technologie de reconnaissance des émotions très problématique a été développée et testée de manière opaque et sans entrave. Nous pensons que les contribuables européens devraient être informés des projets qu'ils financent et les examiner de près dès leur conception, surtout s'ils ont un impact aussi profond sur les droits de l'homme, comme c'est le cas ici ».