« Sous la pression de la France », révèle Euractiv, le Conseil des ministres de l’UE a adopté une « exemption étendue » du champ d’application de la règlementation sur l’IA pour les systèmes utilisés ou mis à disposition par toute entité concernant les domaines militaire, de la défense ou de la sécurité nationale. Une formulation qui va pourtant, estime la Commission, à l’encontre des traités de l’UE.
Le Parlement européen serait en passe d’autoriser l’utilisation des technologies d’identification biométrique en temps réel à distance « dans certains cas très précis » et ce, rapporte Euractiv, « alors que les eurodéputés prévoyaient initialement de les interdire, dans le cadre d’un accord élargissant la liste d’utilisations interdites ».
L’identification biométrique à distance avait en effet été un « point de désaccord majeur » dans les négociations au sujet de la règlementation sur l’intelligence artificielle (AI Act), le projet de loi de l’UE visant à règlementer les systèmes d’intelligence artificielle en fonction de leurs risques, souligne notre confrère :
« Le projet de règlementation sur l’IA se trouve dans la dernière phase du processus législatif de l’UE, appelé trilogues, au cours duquel le Parlement, le Conseil et la Commission définissent les dispositions finales du texte. »
Or, la semaine passée, les cabinets des corapporteurs du Parlement européen Dragoș Tudorache et Brando Benifei « ont fait circuler un texte de compromis abandonnant l’interdiction totale de l’identification biométrique à distance en temps réel en échange de concessions sur d’autres parties du dossier ».
- AI Act : intenses débats en perspective
- AI Act : le texte interdit désormais la reconnaissance faciale, la notation sociale et la police prédictive
- AI Act : un groupe d’associations demande au Parlement européen de protéger les droits fondamentaux
Laisser une marge de manœuvre aux forces de l’ordre
Dans la proposition initiale, la Commission suggérait en effet de n’autoriser les technologies d’identification biométrique à distance en temps réel « uniquement dans des cas spécifiques, tels que la recherche de personnes disparues, la prévention d’attaques terroristes ou la localisation de suspects d’un crime grave ».
Et ce, alors qu'au Parlement européen, une majorité d’eurodéputés, issus de tous les partis, s’est pourtant prononcée en faveur d’une « interdiction totale » de l’utilisation de ces systèmes, craignant un détournement de la mesure permettant d’organiser une « surveillance de masse » des citoyens.
Or, au Conseil de l’UE, une majorité de gouvernements européens ont tenu à laisser « une certaine marge de manœuvre » aux forces de l’ordre pour l’utilisation de cette technologie.
Le dernier texte de compromis introduit ainsi une clause définissant les « conditions exceptionnelles » permettant le recours aux technologies d’identification biométrique à distance en temps réel afin de « traquer un suspect ». Et le texte précise en outre que l’infraction pénale « doit figurer dans une nouvelle liste et être passible d’une peine maximale d’au moins cinq ans ».
Ces infractions graves, énumérées dans une nouvelle annexe, comprennent le terrorisme, le trafic d’êtres humains, de drogues et d’armes, l’exploitation sexuelle de mineurs, le meurtre, l’enlèvement, les crimes relevant de la Cour pénale internationale, la prise d’otages et le viol.
Une interdiction des déductions de profils politiques et sexuels
Les forces de l’ordre ne pourraient en outre recourir aux « usages autorisés de l’identification biométrique à distance en temps réel » qu'après avoir procédé à une analyse d’impact sur les droits fondamentaux.
De plus, et suite à l’exemple tristement célèbre de Clearview AI, le texte introduit une interdiction des « systèmes d’IA qui créent ou développent des bases de données de reconnaissance faciale par la collecte non ciblée et de grande ampleur d'images faciales sur Internet ou issues de systèmes de vidéosurveillance ».
- 27 pays ont testé l'application de reconnaissance faciale de Clearview
- RGPD : Clearview AI condamné à 20 millions d'euros d'amende, pour la 3e fois
- ClearView a fait tester son IA de reconnaissance faciale dans 24 pays, dont la France
- La CNIL inflige 5 millions d'euros d'astreinte à Clearview, mais comment contraindre à payer ?
Des eurodéputés ont également rajouté une interdiction des « systèmes utilisant des technologies de classification de données biométriques pour déduire des informations confidentielles sur les personnes ». Il est ainsi interdit, dans le texte de compromis actuel, d’utiliser des « systèmes profilables déduisant l’orientation politique ou les préférences sexuelles d’un individu ». Les technologies de reconnaissance des émotions sont également interdites « sur le lieu de travail et dans l’enseignement ».
« Sous la pression de la France », une « exemption étendue »
Euractiv note par ailleurs que des divergences de points de vue subsistent quant à l’utilisation de l’IA pour la « prévision policière », que les députés européens souhaitent voir interdire, alors que les États membres veulent la maintenir dans des « situations à haut risque ». Mais également que le Conseil de l’UE a introduit plusieurs « exemptions importantes » pour les organismes chargés de faire respecter la loi.
Les eurodéputés semblent également avoir accepté que les forces de l’ordre et les organismes de protection civile puissent utiliser une application d’IA « à haut risque dans des circonstances exceptionnelles, même si elle n’a pas encore fait l’objet d’une évaluation de conformité. »
« Sous la pression de la France », souligne Euractiv, le Conseil a en outre adopté une « exemption étendue » du champ d’application de la règlementation sur l’IA pour les systèmes utilisés ou mis à disposition par toute entité concernant les domaines militaire, de la défense ou de la sécurité nationale.
Et ce, quand bien même la Commission avait indiqué, dans un document officieux daté du mois dernier, que cette formulation allait à l’encontre des traités de l’UE. L’exécutif européen avait alors « proposé un texte de compromis », avec « deux modifications importantes ».
Le texte avait été agrémenté de la phrase suivante : « Le présent règlement ne s’applique pas aux systèmes d’IA développés ou utilisés exclusivement à des fins militaires ». Et si le passage précisant que « le présent règlement est sans préjudice des compétences des États membres en ce qui concerne leurs activités dans le domaine militaire, de la défense ou de la sécurité nationale »" a été maintenue, la référence à la conformité avec la législation de l’UE a par contre été supprimée.
Euractiv conclut qu' « une autre formulation pourrait être recherchée pour être conforme à l’exemption de sécurité nationale du règlement sur les données (Data Act) ».
Commentaires (12)
#1
Quand je dis que la France a une mauvaise influence sur les droits des européens…
#1.1
Tu vas être surpris, mais ici, je suis d’accord avec toi.
Mais ça n’est possible que parce que les autres états membres acceptent le compromis en négociant autre chose en échange.
Ça fait 2 fois en peu de temps que l’on parle du trilogue qui permet de passer outre le vote des députés. C’est à mon avis surtout ça qu’il faut supprimer. C’est un déni de démocratie.
#2
La dérive hypothétique du projet est effectivement dangereuse et peut faire flipper.
Toutefois, c’est bien dommage de se priver d’un tel dispositif pour les cas cités : “uniquement dans des cas spécifiques, tels que la recherche de personnes disparues, la prévention d’attaques terroristes ou la localisation de suspects d’un crime grave “.
Et puis la temps que ce soit mis en place, la délinquance de manière générale s’adapte bien plus facilement et rapidement (eux n’ont pas de texte, “rien n’est interdit, tout est permis”) donc l’inquiétude initiale peut éventuellement se justifier.
D’autre part, le jeu des influences et des négociations reste toujours surprenant et inquiétant quant à l’indépendance des institutions européennes.
#2.1
Ce que tu oublies c’est cette partie :
… « traquer un suspect ». Et le texte précise en outre que l’infraction pénale « doit figurer dans une nouvelle liste et être passible d’une peine maximale d’au moins cinq ans ».
On a déja pleins de listes de personnes recherchées, il suffit simplement de voir chez europol et ailleurs. Donc au final cela permet de continuer la reco. faciale en permanence chez Frontex, dans les aéroports et dans les gares dans toutes l’UE.
#2.2
La taque des personnes risquant des peines d’au moins cinq ans (il s’agit a minima des délits aggravés) semble normale alors en utilisant ce procédé.
Et si la liste est restrictive ça rassure pour les libertés individuelles ? C’est ce que tu suggères ?
#3
Aussi en finir avec le monopole de l’initiative législative laissé entièrement dans les mains de la commission. Cela permet à cette dernière de dicter complètement l’agenda législatif, les textes de départ et de bloquer les réformes des textes déjà passés.
Mais bon, pour avoir encore une réforme de l’U.E. à ce niveau, il faudrait pas mal de conditions dont la faisabilité s’éloigne de plus en plus.
#3.1
Ce n’est pas un déni de démocratie : il faut voir le conseil européen comme une deuxième chambre représentant les États. Dans beaucoup de démocraties, il y a un système bicaméral avec une chambre élu au suffrage direct et une autre représentant les « territoires » (le Sénat en France qui est élu par les conseillers municipaux, départementaux, régionaux principalement, le Sénat américain qui comporte deux sénateurs par État américain…)
L’Union européenne n’est pas dans sa forme actuel un état fédéral. Il ne semble donc pas antidémocratique que le fonctionnement ne soit pas le même qu’au sein d’un État.
De plus, rappelons que la Commission est responsable devant le Parlement : ce dernier a un pouvoir de veto sur les commissaires lors de leur nomination et de censure globale ensuite.
Mais peut-être que l’élection de la commission serait une piste intéressante.
#4
Jean Moulin était un “terroriste”, pour le régime autoritaire qu’il combattait. Et notre ministre de l’intérieur parle tout le temps d’“éco-terroristes”.
L’intérêt de banaliser le mot, c’est de généraliser l’usage des technologies les plus intrusives dans la faille juridique qui aura été ouverte.
L’interdiction totale est une nécessité démocratique.
#5
Qu’est-ce que tu racontes, le bicaméralisme n’est pas le problème que je soulève. Je parle du fait que le parlement de l’U.E. ne peut pas déposer de lois. Quand même une grosse blague d’appeler le P.E. ‘le législateur’ dans de telles conditions.
Dans une démocratie, ce n’est pas juste l’exécutif qui contrôle l’agenda législatif.
#6
Je ne suis pas d’accord avec ta comparaison au bicamérisme.
Mais même en prenant compte ton hypothèse, en France, on a certes la commission mixte paritaire mais en cas de désaccord, c’est l’Assemblée Nationale qui a le dernier mot et qui décide du contenu de la loi. C’est donc la chambre élu au suffrage direct.
Ici, il n’y a eu accord que parce que le parlement européen n’avait pas le dernier mot.
#7
Sans compter que le Conseil de l’UE, qui n’est pas élu (il est composé de ministres), a à la fois un pouvoir exécutif et législatif.
#7.1
Disons que le conseil est un mal nécessaire, dans la mesure où on demande aux états d’abandonner des pans de souveraineté… maintenant, ce serait bien entendu mieux d’avoir des représentants des organes législatifs de chaque pays plutôt que de l’exécutif.
Mais c’est vrai qu’au final on a deux exécutifs (conseil et commission) contre un législatif (parlement) qui ne peut même pas proposer de lois, c’est un peu disproportionné.