EDRi et les FAI européens démolissent la proposition de loi Avia contre la haine en ligne

EDRi et les FAI européens démolissent la proposition de loi Avia contre la haine en ligne

Titre haineux, non ?

Avatar de l'auteur
Marc Rees

Publié dans

Droit

19/11/2019 10 minutes
19

EDRi et les FAI européens démolissent la proposition de loi Avia contre la haine en ligne

Deux rapports ont été adressés à la Commission européenne. European Digital Rights et les FAI européens critiquent vertement la proposition de loi de la députée LREM. Le texte sera examiné bientôt au Sénat, mais il devra, avant toute application, passer entre les fourches européennes. 

Après son adoption par les députés, la proposition de loi Avia contre « les contenus haineux sur Internet » sera examinée en séance publique au Sénat les 17 et 18 décembre prochain. Pour mémoire, elle veut contraindre les plateformes et les moteurs de recherches à supprimer en moins de 24 heures une liste d’infractions dès lors que leur illicéité est « manifeste ».

Ces infractions vont des appels à la haine en raison du sexe, la négation des crimes contre l’humanité, les injures discriminatoires à l’apologie du terrorisme. Durant les travaux parlementaires à l’Assemblée nationale, l’obligation de retrait a même été étendue aussi aux contenus pornographiques ou violents dès lors qu’ils sont simplement accessibles aux mineurs.

En cas de non-retrait dans les 24 heures, l’intermédiaire risquera jusqu’à 1,25 million d’euros d’amende infligée par un tribunal. Il aura aussi plusieurs obligations de transparence. En cas de violation, le CSA pourra lui infliger une sanction jusqu’à 4 % du chiffre d’affaires mondial.

En cas de surcensure, par contre, l’hébergeur pourra hypothétiquement être sanctionné par le même CSA, et encore s’il ne parvient pas à démontrer qu’il a fait ses meilleurs efforts pour éviter une série de surblocages.

En d’autres termes, le défaut de retrait sera puni individuellement dans le cadre d’une obligation de résultat. La surcensure ne sera punie qu’en cas de comportements répétés, dans le cadre d’une obligation de moyens. Si Facebook démontre avoir mis assez d’outils pour tenter d’éviter ces coups de ciseaux de trop, qu’il a donc fait de son mieux, le réseau social échappera à ces foudres.

Les plateformes auront tout autant l’obligation d’empêcher la rediffusion des contenus une première fois retirés. C’est le spectre d’une généralisation des listes noires.

L’avis circonstancié de la République tchèque 

Le 22 novembre, la procédure de notification devant la Commission européenne arrivera à son terme. Comme tous les textes touchant à la société de l’information et plaçant potentiellement des barrières sur la sacro-sainte liberté de circulation des biens et services, la proposition a dû être transmise à l’exécutif européen pour être jaugée.

Plusieurs sources nous font état d’un avis en passe d’être acidulé de la part de Bruxelles. La République tchèque a  semble-t-il adressé elle-même un « avis circonstancié » sur le texte. Avec cette critique formelle, la procédure de notification devait être repoussée jusqu’au 24 février 2020.

Seul hic, l’alerte, capturée ci-dessous, n’est restée que quelques instants sur le site de la commission répertoriant l’ensemble des textes adressés par les États membres ! Suite à une erreur formelle, il est finalement réapparu. La date de fin de statu quo est désormais le 23 décembre 2019. Dit autrement, c’est seulement à cette date que cette procédure européenne prendra théoriquement fin. La France ne pourra appliquer ce texte d'ici là. 

republique tchèque avia
L'avis circonstancié mentionnait une mauvaise date. Il a été rectifié avec la mention 23 décembre 2019

Le contenu des critiques tchèques est inaccessible pour l'instant. En attendant, d'autres contributions ont été adressées à la Commission européenne, publiquement féroces à l’encontre du texte porté par la députée LREM Laetitia Avia.

Un risque de fragmentation selon EDRi

L’association EDRi ou European Digital Rights estime ainsi qu'il présente un sérieux risque d’entrave à la liberté d’expression et d’opinion. « Il risque également de fragmenter le marché unique numérique au moment même où la commission cherche à harmoniser les règles qui régissent les intermédiaires ». Elle plaide pour un débat non pas national, mais européen sur le sujet de la  modération.

« La proposition de loi va conduire presque certainement à une plus grande incertitude juridique pour les hébergeurs et les utilisateurs en Europe ».

Dans son long document, elle estime que cette proposition est dénuée des garanties suffisantes. « En tant que gardienne des traités, nous suggérons que la Commission réponde au gouvernement [français] avec un avis détaillé exprimant l'incompatibilité du texte avec la directive sur le commerce électronique et le conflit potentiel avec la prochaine proposition de loi sur les services numériques, annoncée par la présidente élue, Ursula von der Leyen »

24 petites heures bien insuffisantes

Techniquement, EDRi estime que le délai de 24 heures laissé aux plateformes est « clairement insuffisant pour permettre à la grande majorité des entreprises relevant de la proposition de loi d’évaluer correctement une demande, surtout si elles sont reçues en nombre ».

Pour l’association, Facebook et les autres géants pourraient préférer supprimer en masse des contenus plutôt que d’embaucher à tour de bras des modérateurs, spécialement formés.

Ce délai va surtout conduire ces acteurs à utiliser des outils automatisés, avec tout le risque de faux positifs et faux négatifs. Ces outils ne sont pas pensés « pour rendre des jugements complexes dans des affaires qui dépendent fortement du contexte » considère l’association qui regroupe bon nombre d’organisations en Europe.  Ces sociétés ne pourraient ainsi différencier des violations de la loi, la parodie, les contre-réponses, les dissidences politiques légitimes. « Par conséquent, un contenu légitime sera inévitablement retiré ».

Toujours sur ce délai de 24 heures, l’association dénonce un manque de flexibilité mettant en concurrence des contenus incitant effectivement à la violence et d’autres beaucoup moins prioritaires. « Nous rappelons également aux législateurs nationaux et européen que les États ont l'obligation positive de protéger les droits fondamentaux des individus, tant hors ligne qu’en ligne. Déléguer cette obligation légale aux acteurs privés est totalement inapproprié ».

Dans son analyse, la liste des infractions est jugée trop vague, démultipliant le risque d’arbitraires dans l’appréciation. Autre chose, le texte s’applique à une vaste catégorie de plateformes. Plus exactement, c’est le gouvernement qui fixera par décret un seuil au-delà duquel les élues devront respecter ces obligations. Cette logique de seuil manque de finesse, de proportionnalité selon EDRi. « Des fournisseurs de services tels que Wikipedia seraient obligés de mettre en place des mesures coûteuses de modération du contenu, parce qu’ils répondent aux seuils fixés par décret ».

Le filtre à l’upload des contenus dits « haineux »

Le filtre visant à empêcher la réapparition d’un contenu ne laisse pas indifférente l’association. « Cela constituerait une obligation de surveillance généralisée, interdite en vertu de l'article 15 de la directive sur le commerce électronique », d’autant plus problématique qu’aucune décision de justice ne sera intervenue en amont.

Ces filtres seront sans nuance, incapables de contextualiser par exemple les contenus republiés « à des fins éducatives, artistiques, journalistiques ou de recherche, pour exprimer des points de vue polémiques, controversés et dissidents dans le cadre de débats publics ou d'activités de sensibilisation ».

Une telle base comprendra des données manquant de transparence ou de vérification, sans contrôle démocratique. « [Elle] désavantagera certains utilisateurs selon leur origine ethnique, sexe, religion, langue ou leur lieu », anticipe EDRi.

L’intervention de l’autorité administrative

L’article 6 de la proposition de loi va autoriser une autorité administrative, sans doute l’OCLCTIC, à ordonner aux FAI, fournisseurs de noms de domaine et moteurs le blocage ou déréférencement des miroirs d’un contenu ou d’un site déjà bloqué judiciairement. « Selon nous, cette mesure est disproportionnée, car il est peu probable que le contenu miroir soit illégal dans tous les cas ».

Là encore, le contenu peut changer, évoluer, exigeant en conséquence une nouvelle analyse. « La liste des re-uploads légitimes possibles est innombrable, du journalisme à la satire, de l’humour aux fins académiques. Même si la publication initiale a été jugée illicite dans un premier temps, cela pourrait ne pas être le cas pour les remises en ligne ultérieures ».

Au regard de l’ensemble de ces critiques, EDRi considère que « la Commission européenne devrait recommander le retrait du projet de loi français Avia afin d’empêcher l’introduction de mesures nationales compromettant le bon fonctionnement et l'adoption de la future loi sur les services numériques ».

Les critiques d’EuroISPA, association représentant 2 500 FAI

EuroISPA, l’association européenne des fournisseurs d’accès, y va également de ses reproches. On retrouve cette crainte d’une fragmentation du marché, outre des charges bien trop lourdes pour les prestataires proposant des services en France.

Sur le délai de 24 heures, « les plates-formes en ligne opérant dans différents États membres européens vont devoir mettre en place des mécanismes de conformité spécifiques pour le marché français » regrette-t-elle.

Elle se souvient de l’article 3 paragraphe 2 de la directive de 2000 sur le commerce électronique, selon lequel « les État membres ne peuvent, pour des raisons relevant du domaine coordonné, restreindre la libre circulation des services de la société de l'information en provenance d'un autre État membre ». 

Plutôt que ce cadre vertical, elle plaide pour une approche horizontale, à l’échelle européenne, loin de ces solutions franco-françaises. « Afin d'éviter la fragmentation de la réglementation, nous estimons qu'en principe, les obligations légales de suppression des contenus illicites en ligne devraient s'appliquer horizontalement à tout type de contenu illégal » plaide-t-elle. « Cela facilitera la création d'un cadre équilibré, cohérent, durable et stable pour le rôle des intermédiaires de l'Internet, prenant en considération les intérêts légitimes de toutes les parties prenantes ».

EuroISPA insiste au passage pour que des mesures soient plutôt dirigées avant tout contre les auteurs des contenus problématiques, histoire de traiter les sources plutôt que les messagers au premier chef. Elle regrette pour sa part que les hébergeurs ne soient pas appelés à agir dans le cadre de l’article 6,  qui ne s’intéresse qu’aux FAI, moteurs et fournisseurs de noms de domaine.  

Elle dénonce encore la sanction de 4 % du chiffre d’affaires mondial, que pourrait infliger le CSA. Elle répète que ce montant doit être proportionné, en fonction de la taille ou des capacités de l’intermédiaire. « En outre, nous estimons que des sanctions ne devraient être infligées qu’après avoir vérifié que la suppression à la source n’est pas possible et que la plate-forme en ligne s’est efforcée au maximum de respecter ses obligations, et non en raison de l’échec du résultat escompté ».

19

Écrit par Marc Rees

Tiens, en parlant de ça :

Sommaire de l'article

Introduction

L’avis circonstancié de la République tchèque 

Un risque de fragmentation selon EDRi

24 petites heures bien insuffisantes

Le filtre à l’upload des contenus dits « haineux »

L’intervention de l’autorité administrative

Les critiques d’EuroISPA, association représentant 2 500 FAI

Commentaires (19)


Après un candidat recalé à un poste de commissaire européen, la LREM montre son incompétence au niveau européen.


Hummm,



Sinon, faire appliquer déjà les lois locales ?   On en parle ? 



Injure pulbique   ?



Difamation?  



J’ai l’impression d’une sorte de privatisation de la justice car il y a un manque critique de moyen pour la faire appliquer. 



Vrai question, pourquoi un procureur de la republique n’assure pas ce rôle de veille ? 

(hors question de moyen, bien sur)   


“Si vous ne bloquez pas ce que nous vous demandons de bloquer vous paierez une amende et si vous bloquez trop vous en paierez une aussi.”

Pris entre le marteau et l’enclume les prestataires de services et autres acteurs du web n’apprécient évidement pas cette mesure, qui a pour principale caractéristique de vouloir faire entrer des carrés dans des ronds.

Les politiques font “mumuse”avec quelque chose qui ne leur appartient pas et auquel ils n’entendent rien, rédigeant au passage des textes complétement vide de sens et beaucoup trop ambigus.

Je ne sais pas si le but est de faire du spectacle ou de mettre la main sur tout ce qui transite par les réseaux, mais c’est complétement malsain.

Qui plus est la réponse Européenne n’est pas très rassurante, puis ce qu’elle consiste à dire “ne nous faites pas chier avec votre censure made in French tech, nous en préparons une globale pour toute l’UE.”

Vachement rassurant…


Les politiques Français montre encore une fois leur incapaciter a diriger, puisqu’il ponde une loi incompatible avec le droit européens, même leur propre boulot il ne le font pas correctement.

C’est malheureusement ce qui arrive quand on pond une loi dans “l’urgence” d’un problème, sans analiser en profondeur les loi déjà existante.








ulhgard a écrit :



Qui plus est la réponse Européenne n’est pas très rassurante, puis ce qu’elle consiste à dire “ne nous faites pas chier avec votre censure made in French tech, nous en préparons une globale pour toute l’UE.”

Vachement rassurant… 





Faut pas abuser non plus, il y a bien + que ça dans la réponse européenne. Tu extrapoles juste sur l’avis de l’EDRi, (qui n’est pas une instance de l’UE, mais une association de plusieurs ONG, dont des antennes de l’EFF, Wikimedia, ligues des droits de l’homme, etc.), qui ne demande que des discussions globales sur le sujet, tout en rejetant le texte français.



Perso je trouve la réponse européenne plutôt rassurante, au contraire, elle rejette en bloc les conneries aberrantes de la “loi Avia”. Et au vu des récents votes sur le droit d’auteur / de la presse, c’était pas gagné d’avance.



Il est possible que je m’inquiète de peu, mais pour le dire poliment, je n’ai plus qu’une confiance extrêmement réduite dans les institutions publiques sensées défendre les intérêts des citoyens et les libertés individuelles et collectives.

A suivre donc…








RuMaRoCO a écrit :



Hummm,



Sinon, faire appliquer déjà les lois locales ?   On en parle ? 



Injure pulbique   ?



Difamation?  



J’ai l’impression d’une sorte de privatisation de la justice car il y a un manque critique de moyen pour la faire appliquer. 

 





Non ça on peut pas simplement dire que les textes nécessaires et suffisant existent, ça impliquent de reconnaitre que l’on fait que de la com et qu’on veut pas mettre les moyens dans les services judiciaires pour qu’ils puissent faire leur boulot !



Et pour répondre à ta question, je te confirme le bienfondé de ton impression, la Loi de réforme de la Justice qui entre en application au 1° janvier 2020, balance le Justiciable sur des plateformes en ligne privée de “médiation” et tente de limiter l’accès au Juge par diverses difficultés formelles ou encore en fermant des Juridictions.



Parallèlement, le texte AVIA (et d’autres) visent à faire des plateformes des auxilliaires de Justice sans aucune garantie (ce qui a d’ailleurs conduit à une censure par le Conseil Constit d’une partie de la Loi de réforme de la Justice qui voulait confier la revalorisation des “pensions alimentaires” aux CAF, qui sont d’une part des organismes privées, d’autre part juge et partie puisque devant prendre le relai en cas de non paiement de la pension et ayant donc intérêt à ce que celle-ci soit la plus basse).



Pour revenir à l’article, l’EDRI et l’association de FAI ne font que dire ce que tout le monde pense à la lecture de ce texte qui sera au mieux totalement inapplicable et/ou inversement une entrave à la liberté d’expression et un nouveau renforcement des plus gros acteurs du net (les GAFA).



Le problème est qu’aucun discours rationnel n’a de prise sur ce gouvernement. Donc ce texte qui se trompe totalement de méthode pour lutter contre problème bien réel, je suis quasiment certain qu’il sera adopté.









crocodudule a écrit :



je suis quasiment certain qu’il sera adopté.





Restera plus qu’à casser le jouet en signalant/uploadant des contenus ambigus.

Si en plus ça casse les bonbons à facebook, d’une pierre deux coups <img data-src=" />









crocodudule a écrit :



Le problème est qu’aucun discours rationnel n’a de prise sur ce gouvernement. Donc ce texte qui se trompe totalement de méthode pour lutter contre problème bien réel, je suis quasiment certain qu’il sera adopté.







Si il n’y avait que ce gouvernement produisant des incohérences…





« En tant que gardienne des traités, nous suggérons que la Commission réponde au gouvernement [français] avec un avis détaillé exprimant l’incompatibilité du texte avec la directive sur le commerce électronique et le conflit potentiel avec la prochaine proposition de loi sur les services numériques, annoncée par la présidente élue, Ursula von der Leyen »





L’avis de l’ERDI sur la preuve numérique est tout aussi réjouissant. Plutôt que de faire des bulles rouges… (je lance une perche <img data-src=" />).



A force c’est à se demander qui tient réellement les fondations de l’Europe comme projet politique.









recoding a écrit :



Restera plus qu’à casser le jouet en signalant/uploadant des contenus ambigus.

Si en plus ça casse les bonbons à facebook, d’une pierre deux coups <img data-src=" />





En pratique ça arrivera, est-ce que cela pénalisera vraiment FB & co?



&nbsp;J’en doute, ils balanceront un filtre automatique à chaque signalement qui sabrera tout et en cas de problème dira “vous n’avez pas saisi la Cour suprême de Facebook donc nous n’avons aucune responsabilité dans la censure de votre publication”.

https://www.lemonde.fr/pixels/article/2019/09/17/moderation-des-contenus-la-cour…









crocodudule a écrit :



En pratique ça arrivera, est-ce que cela pénalisera vraiment FB & co?





Peu de chance effectivement…

Mais s’ils sont pris par exemple dans des gueguerres politiques ça peut les mettre dans des situations étranges.









Idiogène a écrit :



Si il n’y avait que ce gouvernement produisant des incohérences…





Le seul naturellement que non, par contre il est le seul qui arrive à des catastrophes du genre où du mois d’octobre 2019 au mois de mars 2020 il n’y aura plus aucun Jugement pour les litiges de moins de 10 000 € parce qu’ils ont juste zappé d’adopter le décret nécessaire à l’application de la réforme de la Justice supprimant les Tribunaux d’instance…



Arriver à planter à ce point un service public juste parce qu’ils n’ont absolument rien écouté du terrain où tous disaient, attention vous faites une énorme connerie, ça ils sont les seuls.



J’étais entrain de me faire une réflexion similaire pour leur politique de renseignement :

puisque c’est le privé qui va appliquer selon sa couleur un cas particulier de la surveillance généralisée, où sont donc les décrets cohérents qui fragmentent la communauté du renseignement de la loi de 2015 afin d’avoir ne serait-ce qu’un SI ne donnant accès qu’aux informations utiles selon chaque type de mission ?



J’ai l’impression que ce gouvernement c’est Marine Le Pen travesti en son père 40 ans plus jeune… avec en toile de fond et valant caution morale quelques députés encore un peu lucides sur la condition du citoyen contemporain et à côté, ou plutôt en dessous, un oligopole qui ne veut pas faire de politique pour espérer continuer à laisser l’état donner le “la” avec un bas peuple en très fond de tableau qui panse ce qu’il peut à défaut d’arriver à tout penser.



Si on m’avait dit tout ça il y a 15 ans je pense que je ne l’aurais pas cru. <img data-src=" />








Idiogène a écrit :



J’étais entrain de me faire une réflexion similaire pour leur politique de renseignement :

puisque c’est le privé qui va appliquer selon sa couleur un cas particulier de la surveillance généralisée, où sont donc les décrets cohérents qui fragmentent la communauté du renseignement de la loi de 2015 afin d’avoir ne serait-ce qu’un SI ne donnant accès qu’aux informations utiles selon chaque type de mission ?



J’ai l’impression que ce gouvernement c’est Marine Le Pen travesti en son père 40 ans plus jeune… avec en toile de fond et valant caution morale quelques députés encore un peu lucides sur la condition du citoyen contemporain et à côté, ou plutôt en dessous, un oligopole qui ne veut pas faire de politique pour espérer continuer à laisser l’état donner le “la” avec un bas peuple en très fond de tableau qui panse ce qu’il peut à défaut d’arriver à tout penser.



Si on m’avait dit tout ça il y a 15 ans je pense que je ne l’aurais pas cru. <img data-src=" />





Là je suis pas suffisamment pointu sur le sujet pour me faire un opinion.



L’idée reste simple, c’est le en même temps à toutes les sauces… donc en même temps tu as la possibilité de critiquer le gouvernement pour son caractère technocratique mais en même temps aussi tu peux noter son inaction à pondre des décrets (pas que dans le domaine judiciaire) de type purement technocratique (réguler les internet, censurer etc, pondre une implémentation de compteur intelligent communiquant !).

C’est une arnaque façon the “show must go on” appliquée à la politique d’un état. Curieux !



Ou alors une faille spatio-temporelle a englouti l’Élysée ? <img data-src=" />



Car je finis pas penser qu’afin de protéger l’idée d’un protectorat du marché libre, là ce sont les américains qui ont lâché du lest avec Snowden et l’amende Facebook en refilant le bébé marxiste aux Européens l’air de dire vous êtes le vieux continent démerdez-vous avec vos idées crypto-communistes d’interopérabilité et compagnie. (oui je prends du recul, nos voisins ne racontent pas que des conneries).



Et comme le secret d’état ne peut pas donner lieu à discussion… le politique suit bêtement le mouvement de l’informatique cachée (oh un écran gris sur mon imac trop’b’1) et du chut taisez-vous tous les sujets essentiels (justice, police) sont l’horizon indépassable du service public donc il n’y a pas d’Hôpitaux en mal être et ainsi de suite.

Je me demande même si au fond l’idée du cyber-truc c’est pas une fois de plus une façon de prendre en otage les fameux cerveaux que tout le monde cherche pour continuer à jouir individuellement soit de la technique soit de la santé.



Mais don’t panic. <img data-src=" />




Malheureusement, on a les politiques que l’on mérite, et avec si peu de participation, il est évident qu’on va dans le mur…