Montpellier devient la première ville en France à interdire le recours à la reconnaissance biométrique faciale. Six élus seulement se sont abstenus de voter le vœu présenté au conseil municipal, dont la majorité réunit 48 élus de partis socialistes, écologistes et communistes pour 17 conseillers d'opposition.
Manu Reynaud, 2e Adjoint au Maire de Montpellier en charge de la délégation numérique, et président du groupe écologiste au Conseil Municipal, s'est félicité samedi dernier sur Twitter de l'adoption, lors du conseil municipal de la veille, d'un vœu de « Principe d'interdiction du recours aux traitements automatisés d'analyse d'image sur la base des données personnelles ou individuelles dans l'espace public de la Ville de Montpellier ».
Dans son discours, partagé sur YouTube, il explique que, s'il y est question d'intelligence artificielle et d'algorithmes de surveillance, « je vais surtout vous parler de libertés publiques » :
« Il y a un premier modèle que, je suppose, nous n'apprécions pas tous, c'est le modèle chinois [...] de surveillance absolue où il y a des caméras partout, il y a des systèmes de scoring où on surveille la population parce qu'on doute de la population. »
Évoquant le cas de Nice, il a ensuite montré la capture d'écran révélant la présence de 4 caméras dotées de fonctionnalités de reconnaissance faciale à Nice, que nous avions publiée la semaine passée à l'occasion de notre enquête sur les multiples systèmes de « Détection Automatique d’Incidents » (D.A.I.) de son « Système de Vidéoprotection Intelligent ».
Le texte (.pdf) de présentation de son vœu fait bel et bien écho aux systèmes de « D.A.I. » utilisés à Nice. Il y évoque en effet les propositions ou les expérimentations de dispositifs de vidéo dite « augmentée » qui se multiplient ces dernières années au motif d'analyser des images vidéo par des traitements automatisés dits « d'intelligence artificielle » :
« Ils proposent ainsi de suivre, tracer, détecter des événements ou des objets. Il est également possible de caractériser sans intervention humaine des personnes filmées (tranche d'âge, genre, comportement, etc.) ou encore de les identifier de manière unique par leurs caractéristiques biométriques (par exemple, forme du visage) ou non biométriques (caractérisation colorimétrique des vêtements portés, démarche...). »
Après avoir rappelé que les expérimentations de reconnaissance faciale à Nice avaient été interdites par la Justice, Manu Reynaud explique qu'il n'évoque pas tant l'exemple niçois en tant que « contre-modèle », mais pour « choisir un autre modèle de société, celui de la protection des libertés individuelles ».
« Nous devons être conscients des risques », explique ChatGPT
Étrangement, l'adjoint explique ensuite avoir demandé à l'IA ChatGPT, censée émettre des avis mesurés et « responsables », de lui rédiger un discours expliquant que la reconnaissance faciale « est une technologie utile et nécessaire pour la sécurité, comme ça, ça m'évitait d'avoir tout à écrire ».
Après s'être exécuté, avec les arguments convenus auxquels on est en droit de s'attendre, l'élu lui a demandé de rédiger un second discours « pour dire que la reconnaissance faciale est une technologie dangereuse pour les libertés publiques », auquel ChatGPT a là encore répondu avec les arguments usuels.
Puis, Manu Reynaud lui a réclamé un troisième discours, rajoutant à la question précédente « quand on utilise l'intelligence artificielle ».
À quoi ChatGPT a répondu qu' « il est important de rappeler que la reconnaissance faciale peut être utilisée pour des fins utiles, telles que la détection de criminels ou l'amélioration de la sécurité dans les aéroports ». Avant d'y préciser que « cependant, il existe également des risques potentiels qui doivent être pris en compte ».
ChatGPT évoque notamment la « surveillance excessive des citoyens » qui peut conduire à une « violation de la vie privée », en particulier lorsqu'elle est utilisée pour « suivre les mouvements des personnes dans les lieux publics ».
L'IA évoque ensuite les risques d'erreurs dans l'identification des personnes, « ce qui peut entraîner des injustices ou des discriminations », et souligne que le recours à cette technologie « peut renforcer les biais existants » dans les algorithmes d'IA, notamment vis-à-vis de « certains groupes ethniques ou sociaux » :
« En résumé, il est important de faire preuve de vigilance lors de l'utilisation de la reconnaissance faciale en conjonction avec l'intelligence artificielle. Nous devons être conscients des risques pour la vie privée et les droits de l'homme, et veiller à ce que cette technologie ne soit pas utilisée de manière discriminatoire ou abusive. »
« Ceux qui ont peur de l'Inquisition n'ont pas la conscience tranquille »
« C'est elle qui le dit ! », s'amuse Manu Reynaud, avant d'enjoindre les autres élus du conseil municipal d'adopter sa résolution : « Aujourd'hui c'est pas la machine qui va faire les choix, c'est vous, c'est nous, des élus du conseil municipal élu au suffrage universel, et nous allons vous proposer aujourd'hui de voter pour être la première ville de France à interdire le principe même de reconnaissance faciale ».
« Ce n'est pas un débat sur la vidéosurveillance », précise-t-il, « c'est un débat sur un choix de société, celui des libertés individuelles, c'est un débat principe de discernement sur les technologies choisies et j'espère bien qu'au vu de cette délibération l'exemple Montpellier pourra être largement suivi et anticiper la législation européenne qui arrive ».
Le compte-rendu du conseil municipal n'est pas encore en ligne sur le site de la municipalité, mais la vidéo montre (à 2:38:30) que seul Jacques Domergue, conseiller municipal d'opposition, a réclamé la parole, pour expliquer ce pourquoi il s'abstiendrait de voter :
« Je crois qu'il y a effectivement des dangers, c'est indéniable, mais aujourd'hui prendre une décision qui fermerait définitivement toute possibilité d'évolution technique ou technologique avec des logiciels qui vont sortir de plus en plus performants et qui pourraient un jour contribuer à aider la ville à améliorer son niveau de sécurité publique me paraîtrait beaucoup plus raisonnable que de dire de manière abrupte comme ça non non c'est fini, c'est interdit à Montpellier, on ne peut pas, c'est pour jamais, pour toujours. »
Avant de conclure par un sous-entendu tendancieux allant encore plus loin que l'argument fallacieux qui voudrait qu'on n'ait « rien à cacher » : « ceux qui ont peur de l'Inquisition, c'est ceux qui n'ont pas la conscience tranquille, donc il faut le nuancer, et peut-être ne pas aller aussi loin que ce que vous voudriez faire d'une décision ferme et définitive ».
Or, souligne l'historienne Valérie Toureille, « la procédure utilisée par l'Inquisition reposait sur trois principes nouveaux : l'ignorance par l'accusé du nom des témoins à charge, la suppression de certaines incapacités à témoigner et l'emploi de la question » (ou torture), et ce, alors que l'accusé et ses proches ne connaissaient aucun des chefs d'inculpation, et que la défense se faisait donc « à l'aveugle ».
17 villes américaines ont aussi interdit la reconnaissance faciale
Technopolice Montpellier, émanation du collectif de résistance à la « Safe City » initié par la Quadrature, avait, de son côté, animé des réunions en juin et en novembre pour alerter la population au sujet, notamment, de ces questions.
En mai dernier, l'Electronic Frontier Foundation (EFF) avait pour sa part dénombré 17 municipalités américaines ayant, elles aussi, interdit la reconnaissance faciale sur la voie publique et/ou par les autorités locales, suivant l'exemple de San Francisco, la première à l'avoir banni il y a trois ans.
Dans la présentation de son vœu, Manu Reynaud rappelle que le Défenseur des Droits avait souligné l'an passé le risque accru de pratiques discriminatoires que peuvent induire les algorithmes d'analyse d'image, et que la Commission consultative des droits de l'Homme recommandait quant à elle d'interdire l'identification biométrique à distances des personnes dans l'espace public et les lieux accessibles au public, « sauf pour deux cas très précis de menaces imminentes et avérées pour des intérêts vitaux ».
