Dans une tribune publiée par Next INpact, Naphsica Papanicolaou, chargée de plaidoyer chez Wikimédia France, prône une « interdiction claire et simple » de l'utilisation des systèmes d'identification biométrique dans l’espace public. Un vœu exprimé dans le contexte du futur règlement européen sur l'IA.
Surveillance technologique autoritaire ou droits fondamentaux ? La décision devrait être facile à prendre. En Europe et dans le monde entier, l'utilisation de systèmes d'identification biométrique (SIB), tels que la reconnaissance faciale dans l’espace public, représente l'une des plus grandes menaces pour les droits fondamentaux et la démocratie que nous ayons jamais vue.
L'utilisation à distance de ces systèmes détruit l’anonymat en public et met en danger l'essence de nos droits à la vie privée, la protection des données personnelles, à la liberté d'expression, de réunion et d'association (conduisant à la criminalisation de la manifestation et provoquant un effet inhibitoire), à l'égalité et à la non-discrimination.
Sans une interdiction claire et simple de l'utilisation de ces nouvelles technologies dans les espaces publics, tous les lieux où nous exerçons nos droits et où nous nous rassemblons en tant que citoyennes seront transformés en sites de surveillance de masse où nous serons toutes et tous traités comme des suspects.
Des dégâts non hypothétiques
Les musulmans ouïghours ont été systématiquement persécutés par le gouvernement chinois à travers la reconnaissance faciale. Des manifestants pro-démocratie et des opposants politiques ont été réprimés ou pris pour cible en Russie, en Serbie et à Hong Kong par l'utilisation - et dans certains cas, par la simple crainte de l'utilisation – du SIB dans des espaces publics.
Il existe également déjà des preuves significatives que les résidents français et européens ont été systématiquement soumis à des pratiques de surveillance biométrique de masse. Il s'agit de cas dont les supporters de football, d'écoliers, d’usagers, d'acheteurs ou de personnes fréquentant les bars et les lieux de culte, LGBTQ+, sont ciblés et les préjudices sont bien réels et répandus.
Même certaines des plus importantes entreprises qui fournissent des systèmes de surveillance biométrique, telles que Microsoft, IBM et Amazon, ont adopté des moratoires de leur propre gré, en raison des risques majeurs et des dommages que ces systèmes pourraient causer. Dans la même lignée, Facebook a supprimé sa base de donnée contenant des images de visages.
Le besoin de régulation se fait sentir à travers toute l'Europe, et certains États membres ont déjà pris les devants : l'Italie a été le premier pays à introduire un moratoire sur la reconnaissance faciale dans les lieux publics. La coalition au pouvoir en Allemagne a appelé à un moratoire au niveau européen de la surveillance de masse utilisant des données biométriques et le Portugal a abandonné un projet de loi qui aurait mené à la légalisation de certaines de ces pratiques. Et le Parlement belge réfléchit à un moratoire sur la surveillance biométrique.
Pour une interdiction de la surveillance biométrique à distance dans l'espace public
Le projet de règlement européen sur l'IA est l'outil évident dont le Parlement Européen pourrait se saisir pour créer un cadre législatif cohérent dans la protection des données et libertés individuelles. L'UE est pionnière en matière de réglementation de l'IA, les règles édictées en Europe vont influencer les pratiques et les lois partout dans le monde.
Est-ce que l'Union Européenne va autoriser une technologie de surveillance de masse qui serait dangereuse pour nos libertés ?
Pour protéger les droits fondamentaux, la loi sur l'IA doit interdire toutes les utilisations à distance (c'est-à-dire la surveillance généralisée) de l'identification biométrique (RBI) dans les espaces accessibles au public en :
- étendant le champ d'application de l'interdiction à tous les acteurs privés ainsi qu'aux acteurs publics ;
- garantissant que toutes les utilisations de l'identification biométrique (en temps réel ou a posteriori) dans les espaces accessibles au public sont incluses dans l'interdiction ;
- supprimer les exceptions à l'interdiction, dont les évaluations indépendantes des droits de l'homme confirment qu'elles ne sont pas conformes aux normes européennes existantes en matière de droits fondamentaux ;
- mettre un coup d'arrêt aux formes discriminatoires ou manipulatrices de catégorisation biométrique ;
- traiter correctement les risques de la reconnaissance des émotions.
L'UE a pour objectif de créer un « écosystème de confiance et d'excellence » pour l'IA, et de se positionner en leader mondial d'une IA qui serait fiable et éthique. En régulant l'utilisation des données biométriques, nous aurions la possibilité de façonner l'IA pour qu'elle soit au service de la population, et non pas une technologie qui s'impose aux peuples.
C'est pourquoi nous devons faire en sorte que les amendements des comités IMCO et LIBE sur le règlement contiennent une interdiction de la surveillance de masse utilisant des données biométriques.
