Une sénatrice PS veut une suspension automatique des contenus illicites en ligne

Une sénatrice PS veut une suspension automatique des contenus illicites en ligne

Marie-Françoise aux anges

Avatar de l'auteur
Marc Rees

Publié dans

Droit

19/06/2018 5 minutes
51

Une sénatrice PS veut une suspension automatique des contenus illicites en ligne

Après les députés, les sénateurs examinent le projet de loi renforçant la lutte contre les violences sexuelles et sexistes. À cette occasion, une élue socialiste entend imposer un mécanisme de suspension automatique, directement dans la loi sur la confiance dans l’économie numérique.

Présenté en mars 2018 en Conseil des ministres, le projet de loi « renforçant la lutte contre les violences sexuelles et sexistes » a été adopté par les députés le 16 mai dernier. Il poursuit désormais son parcours au Sénat, avec au préalable un examen en commission. À cette occasion, la sénatrice PS Victoire Jasmin entend mettre à jour la loi de 2004 sur la confiance dans l’économie du numérique (LCEN), qui encadre la responsabilité des intermédiaires techniques.

Son amendement Com-12 impose ainsi aux hébergeurs et aux fournisseurs d’accès le devoir de concourir à la lutte contre le cyberharcèlement (art. 222-33 du Code pénal), objet de cette proposition de loi.  La sénatrice de Guadeloupe espère dès lors que le harcèlement sexuel deviendra un motif valable « pour demander le retrait d’un contenu sur internet et les réseaux sociaux ».

Pour justifier son texte, d’ailleurs dupliqué dans cet amendement de la rapporteure LR Marie Mercier, elle souligne que « le rapport annuel 2017 de la Commission nationale de l’informatique et des libertés (CNIL), souligne l’augmentation exponentielle des demandes de retraits de contenus illicites notamment à caractère pédopornographiques », lesquels n'ont pas beaucoup de rapport avec le cyberharcèlement.

Le Com-13 est complémentaire. Sauf que la même élue va cette fois nettement plus loin.

Une suspension automatique dès signalement

Dans le concours apporté à la lutte contre les infractions en ligne, elle veut que ces deux catégories d’intermédiaires suspendent « automatiquement l’accès et la diffusion des données signalées en France et à l’étranger », avec un joli filet : hébergeurs et FAI ne pourraient jamais « voir leur responsabilité civile ou pénale engagée en raison de cette suspension provisoire ». La suspension pourrait néanmoins être levée « à tout moment, à leur initiative ou sur simple demande d’un abonné ».

Ce faisant, la sénatrice instaure un mécanisme qui ne s’apparente même plus à de la justice privée, mais à une coupure automatisée, sans nuance, dès signalement. Son périmètre va d’ailleurs au-delà du simple cyber harcèlement.

Adopté, il concernera également l’ensemble des infractions mentionnées actuellement dans la loi de 2004 : apologie des crimes de guerre ou contre l’humanité, proxénétisme, pédopornographie, provocation à la discrimination, à la haine ou à la violence à l'égard d'une personne à raison de ses origines ou de son appartenance ou de sa non-appartenance à une ethnie, à une religion, de ses orientations sexuelles, son handicap, de son sexe… Sans oublier les messages violents susceptibles d’être vus par un mineur, et enfin l’apologie du terrorisme.

Bref des contenus alternant du manifestement illicite ou du simplement illicite. Autant dire que l’intermédiaire technique aurait à substituer au juge, une décision automatique de blocage temporaire, sans intervention d’une quelconque autre autorité indépendante.

Une disposition « de bon sens »

Ces rigueurs ne font pas trembler Victoire Jasmin, pour qui, il n’y a rien de problématique : « Il s’agit d’une disposition de bon sens face à la rapidité virale des modes de diffusion sur le net et sur les réseaux sociaux » soutient-elle, dans son exposé des motifs.

Son texte qui permet au surplus « une autorégulation simple et systématique face à la masse des contenus diffusés et aux moyens limités des services de police, qui pourront ainsi se concentrer sur les cas les plus graves ». Une autorégulation par une censure automatisée, en somme.

Toujours selon cette parlementaire PS, « il s’agit d’une responsabilité sociale et éthique et non pas d’une responsabilité légale sur le contrôle des contenus illicites diffusés par leurs plateformes des géants du Net. Par ailleurs, la liberté d’expression de tout chacun est préservée, puisqu’un recours simple est possible pour tous abonnés qui souhaitent faire diffuser son contenu ».

Des messages d’alertes adressés par les hébergeurs et les FAI

Dans le COM-14, l’imagination gagne plusieurs jets de fertilité. Afin d’enrayer la diffusion massive des contenus illicites sur Internet, FAI et hébergeurs auraient à envoyer à « tous les abonnés destinataires », une alerte qui viendraient les informer des risques encourus pénalement « du fait de la diffusion de ce type de données ».

En clair, le fils Michu alerte Facebook de la présence d’un contenu illicite sur ses serveurs. Non seulement le réseau social devrait en suspendre automatiquement l’accès, mais au surplus alerter tous les abonnés concernés des risques juridiques s’ils rediffusent d’une manière ou d’une autre le contenu du message. Comment ? Selon quelles modalités financières et techniques ? Aucun détail.

Après examen en commission, le texte sera ausculté en séance. Les divergences avec la version des députés seront directement arbitrées en commission mixte paritaire puisque le gouvernement a engagé la procédure accélérée.

51

Écrit par Marc Rees

Tiens, en parlant de ça :

Sommaire de l'article

Introduction

Une suspension automatique dès signalement

Une disposition « de bon sens »

Des messages d’alertes adressés par les hébergeurs et les FAI

Commentaires (51)


Le jour où nos chers élus comprendront que ce genre de mécanismes apporte plus de mal que de bien….



Qu’on donne des moyens à la justice d’agir rapidement pour ce genre de problèmes (création de postes, …)

et qu’on ne laisse pas les intermédiaires le choix de ce qui est licite ou non.



(J’entends déjà des élus dirent que la Chine y arrive bien, elle …)


J’imagine surtout que le fils Michu et ses amis auront tôt fait d’absolument tout signaler, histoire que tout soit bloqué et que tout le monde se prenne des spams. <img data-src=" />


Et la prison automatique pour les politiciens véreux c’est pour quand ?



Si au moins ça peut faire disparaitre twitter, sa horde de lgbtquiue185++ et les dégénérés mentaux de sjw.


Je propose 2 mesures :



* Une taxe sur chaque proposition a la con faite par nos tres cher politiciens

* La suspension de parole/ou d’exercer pour chaque politicien qui fait proposition a la con



Vous en pensez quoi ?&nbsp;<img data-src=" />








data_gh0st a écrit :



J’imagine surtout que le fils Michu et ses amis auront tôt fait d’absolument tout signaler, histoire que tout soit bloqué et que tout le monde se prenne des spams. <img data-src=" />





Premier ciblage : les activités des politiques sur le net :)



Avec ses bonnes idées elle à de l’avenir. Au choix:




  • Le rassemblement national avec une recomandation de familles de Françe;

  • La Chine avec pleins d’argument bien pensants pour justifier un flicage digne de 1984, pour le bien de tous. Avec la possibilité de diriger le ministère de l’amour.








durthu a écrit :



Le jour où nos chers élus comprendront que ce genre de mécanismes apporte plus de mal que de bien….



Qu’on donne des moyens à la justice d’agir rapidement pour ce genre de problèmes (création de postes, …)

et qu’on ne laisse pas les intermédiaires le choix de ce qui est licite ou non.



(J’entends déjà des élus dirent que la Chine y arrive bien, elle …)







Suffit de lui expliquer ce qui arriverait en cas de personnes malintentionnées qui signaleraient systématiquement les communications du PS comme contenus illicites…









Vilainkrauko a écrit :



* Une taxe sur chaque proposition a la con faite par nos tres cher politiciens





Ils n’ont déjà pas les moyens de se loger correctement, comment veux tu qu’ils survivent à une taxe pareille ?



Au bout du compte, c’est le contribuable qui paiera au final.


Cool ça va être encore plus facile de censurer n’importe quoi du coup. Il suffit juste de le signaler comme illicite, et hop ça saute…








Vilainkrauko a écrit :



Je propose 2 mesures :



* Une taxe sur chaque proposition a la con faite par nos tres cher politiciens

* La suspension de parole/ou d’exercer pour chaque politicien qui fait proposition a la con



Vous en pensez quoi ?&nbsp;<img data-src=" />





&nbsp;Bah non, si tu les empêche de dire des conneries ca sert à rien de les taxer dessus <img data-src=" />

&nbsp;

Par contre un système automatique de taxe pour proposition à la con suivi d’un système de suspension d’accès a ladite proposition.

Comme ça on est tranquille <img data-src=" />









wanou2 a écrit :



Suffit de lui expliquer ce qui arriverait en cas de personnes malintentionnées qui signaleraient systématiquement les communications du PS comme contenus illicites…





<img data-src=" />



Oula…

Personne l’aime au PS pour ne pas lui avoir dit que c’était n’importe quoi son idée? <img data-src=" />

<img data-src=" />


J’en étais à peu près sûr : la loi allait avoir son lot d’amendements tous plus liberticides les uns les autres.

Toujours la main sur le coeur pour protéger les enfants, les femmes, etc.

On va finir étouffé par cette montagne de bisous.

&nbsp;




durthu a écrit :

Qu’on donne des moyens à la justice d’agir rapidement pour ce genre de problèmes (création de postes, …)

et qu’on ne laisse pas les intermédiaires le choix de ce qui est licite ou non.



Alors oui, et je ne soutiens pas la proposition de cette élue. (automatisme=danger)



Par contre j’ai vécu un cas où nous étions plusieurs à signaler des appels au viol et au meurtre à l’encontre d’un mineur (qui n’avait pas de compte) sur Facebook. J’ai attendu 48h pour que Facebook réponde que “les propos n’enfreignaient pas la charte”. Pourtant ils étaient explicites et publics (pas besoin d’être “ami” pour les lire). En 24h la victime a vu son identité révélée à la suite des commentaires appelant à la violence. Bref, moralement et légalement c’était totalement hors des clous.



Il a fallu 1 semaine pour que la conversation soit supprimée suite à diverses interventions (dépôt de plainte etc.). C’est très court pour la justice, et suffisamment long pour causer d’énormes dommages.



Y-a-t-il une solution à ce genre de comportement, à part une responsabilité de l’hébergeur?

(Laisser les gens s’organiser pour commettre des crimes? Demander les coordonnées de tous les participants et les trainer en justice 6 mois après? Engager des gros bras pour menacer le détenteur du compte à l’origine des attaques? Embaucher un hacker pour supprimer son compte? Interdire les réseaux sociaux non modérés pré-publication?)


La proposition de Victoire Jasmin est un violent appel à la haine =&gt; hop filtré.


Rapport LGBTQ SJW et contenus illicites ?



On est pas vendredi <img data-src=" />


Tres facile de faire disparaître un contenu presque indéfiniment sur internet. On signale, c’est suspendu, le metteur en ligne demande un recours, qui met un certain tps a être accepté pour être immédiatement signalé, et rebelote. Quelques bots plus tard et puis c’est bon…&nbsp; &nbsp;


Ça ne fonctionnera pas. Controler les faits et gestes des internautes est un vaste programme…

Et le RGPD aussi.


Je pense pas que ce genre de nouveauté soit mauvais mais il faut aussi créer un délis du même genre que la diffamation pour le signalement/bloocage intempestif. Ca limiterai grandement les ardeurs de certains tout en ayant la possibilité de faire disparaître rapidement du harcelement/revenge porn ou autre…


C’est vrai qu’être plus rapide aurait été bien.

Après aucun système n’est ou sera parfait. Par contre, dans ton cas précis, la justice aurait du s’en mêler et aller plus loin : pas contre Facebook, mais contre les auteurs.



Après tout si quelqu’un appelle à la violence/viol en public dans une ville, ce n’est pas la ville qui doit être sanctionnée mais bien l’auteur. Ca devrait être pareil sur le net.

Si on choppait deux ou trois cas, bien médiatisé et avec des peines lourdes, il y aurait peut être moins de petit con sur le net, et donc moins de besoin de “suspension automatique”.








durthu a écrit :



Qu’on donne des moyens à la justice d’agir rapidement pour ce genre de problèmes (création de postes, …)

et qu’on ne laisse pas les intermédiaires le choix de ce qui est licite ou non.





Bien des choses iraient mieux si on donnait plus de moyens à la Justice et si on faisait moins de lois inutiles. Le problème c’est que faire des lois ça coûte pas cher (enfin, je veux dire qu’on a un dispositif existant, fort cher quant à lui, mais que ça ne coûte pas plus cher de pondre des lois ou de ne pas en faire). Avoir une Justice avec des moyens de fonctionnement dignes de ce nom ça coûte des sous.

Dans une société où de plus en plus on confond gestion d’entreprise (voire gestion de banque) avec gouvernement d’un pays, c’est de l’argent considéré comme inutile car pas rentable financièrement. Pourtant une Justice en bon état de fonctionnement serait rentable d’un point de vue sociétal et on finirait par s’y retrouver sur le plan financier. Mais bon.



les lois on les a, elle sont juste jamais appliquées correctement <img data-src=" />








jb18v a écrit :



les lois on les a, elle sont juste jamais appliquées correctement vu que les gouvernements font tout pour réduire son budget <img data-src=" />





<img data-src=" />



Quelle puissance dans le bouton pour signaler les posts/commentaires/vidéos !



Une censure immédiate, personne pour vérifier immédiatement la véracité de la dénonciation…



Mais comme un grand pouvoir implique une grande responsabilité, si tu abuses du bouton, tu es responsable face à la loi pour des faits de dénonciation calomnieuse ou un truc du genre ?



Sinon, j’irai dénoncer les vidéos de tous les partis politiques sur les plateformes, c’est trop plein de démagogie et de bullshit qui sont des messages violents susceptibles d’être vus par des mineurs.








ArchangeBlandin a écrit :



Sinon, j’irai dénoncer les vidéos de tous les partis politiques sur les plateformes, c’est trop plein de démagogie et de bullshit qui sont des messages violents susceptibles d’être vus par des mineurs.





voilà, les idées politiques c’est comme ta b<img data-src=" /> : t’as le droit de jouer avec dans ton coin mais tu les mets pas dans la bouche des enfants <img data-src=" />



C’est un mineur, ils ont fait quoi,

menacé de faire pêter la mine à ciel ouvert, avec une grosse pioche ? <img data-src=" />








athlon64 a écrit :



Rapport LGBTQ SJW et contenus illicites ?



On est pas vendredi <img data-src=" />







Tu t’es jamais fait insulter par des LGBTjesaispasquoi quand tu dis que t’es marié avec des enfants et que ta femme est parfaitement heureuse et que tout va bien dans ta vie ?

Moi si.

Le genre de remarque “A mort les hétéros”, ça existe aussi.<img data-src=" />



Non jamais, mais ceux la sont justes des connards, mais comme beaucoup de mouvements, ce sont les plus virulents (même minoritaires) que t’entends le plus <img data-src=" />


Remplacer la justice publique par la censure privée <img data-src=" />



L’enfer est pavé de bonnes intentions <img data-src=" />








athlon64 a écrit :



Non jamais, mais ceux la sont justes des connards, mais comme beaucoup de mouvements, ce sont les plus virulents (même minoritaires) que t’entends le plus <img data-src=" />





<img data-src=" /> C’est pareil chez les vegans….. et les amateurs de foot. <img data-src=" />



+1

Dans tout groupe, y a ce phénomène.


Y a que chez les Inpactiens où on est tous parfait&nbsp;<img data-src=" />





Ou pas&nbsp;<img data-src=" />


elpetio tu nous manques <img data-src=" />








Ricard a écrit :



quand tu dis que t’es marié avec des enfants



&nbsp;

C’est pas pour faire mon juriste, mais pour rappel, en France on n’a pas le droit de se marier avec des enfants et ça me semble assez légitime d’insulter des gens qui font ça ! <img data-src=" />









TriEdge a écrit :



Et la prison automatique pour les politiciens véreux c’est pour quand ?



Si au moins ça peut faire disparaitre twitter, sa horde de lgbtquiue185++ et les dégénérés mentaux de sjw.









athlon64 a écrit :



Rapport LGBTQ SJW et contenus illicites ?



On est pas vendredi <img data-src=" />









Ricard a écrit :



Tu t’es jamais fait insulter par des LGBTjesaispasquoi quand tu dis que t’es marié avec des enfants et que ta femme est parfaitement heureuse et que tout va bien dans ta vie ?

Moi si.

Le genre de remarque “A mort les hétéros”, ça existe aussi.<img data-src=" />







Emmanuel et Brigitte Macron ont commencé à 16 ans. Aucun soucis à avoir de ce côté.

Sa femme est parfaitement heureuse et tout va bien dans leur vie <img data-src=" />



Le rapport ? Peut-être celui des déviants qui militent pour la castration voir l’extermination des vilains mal cis het blanc p-ê ?



Ca rentre propablement dans la case incitation à la violence en fonction de l’orientation sexuelle et/ou en fonction de son origine, non ? <img data-src=" />


Oui enfin ils sont pas les seuls, les catho extrêmes et autres racistes c’est contre les basanés.



C’est une minorité qui gueule plus fort et est plus virulente, et c est comme ça dans tout mouvement.


Et c’est à cause de ces minorités qui chialent pour un rien qu’on nous pond des lois à la con comme ça.








FeathersMG a écrit :



C’est pas pour faire mon juriste, mais pour rappel, en France on n’a pas le droit de se marier avec des enfants et ça me semble assez légitime d’insulter des gens qui font ça ! <img data-src=" />





<img data-src=" />









ProFesseur Onizuka a écrit :



Remplacer la justice publique par la censure privée <img data-src=" />



L’enfer est pavé de bonnes intentions <img data-src=" />





Oui mais.

Si dans les commentaires, ici, quelqu’un se met à être très insultant/violent vers un autre participant, quelle est la meilleure solution? Qu’un modérateur vire le post ou que le participant porte plainte puis que la justice demande à NextInpact&nbsp; la suppression du post?



C’est sûr qu’on se retrouve contrôlés par la morale et/ou l’application de la loi selon NXI/Facebook/jv.com, mais le tribunal pour chaque mot tapé sur internet, c’est un peu irréaliste… Surtout avec la vitesse de réplication possible. On est nombreux je pense d’ailleurs à choisir nos lieux de fréquentation numériques en fonction de la politique appliquée (ni trop, ni trop peu, selon nos goûts).

C’est pas pour ça que je défend le filtrage (parfois bien étrange) effectué par certains grands acteurs du net hein, mais les juges ne seront jamais assez nombreux.



Encore une fois la proposition de l’automatisme, qui est presque une présomption de culpabilité, ne me plaît pas, mais c’est une mauvaise réponse à une bonne question.









CryoGen a écrit :



Après tout si quelqu’un appelle à la violence/viol en public dans une ville, ce n’est pas la ville qui doit être sanctionnée mais bien l’auteur. Ca devrait être pareil sur le net.





Sauf que si t’arrive pas à retrouver ce “quelqu’un” (ou que c’est trop fréquent, et fait par trop de monde), il est tentant de chercher à sanctionner “la ville” (ou le média).

Et d’autre part, et quoi qu’on en dise, il n’y a pas consensus , du tout, sur ce qui est illicite en ligne.



Bien sur il y a des évidences (appels à la violence, …) , mais regarde pour les choses qui sont polémiques (je pense au conflit en Palestine par exemple) , ou mieux encore pour la mise en ligne de contenus culturels sans autorisation (P2P, streaming, …) que beaucoup de gens font sans en ressentir la moindre culpabilité , et dont d’ailleurs les lois sont différentes selon les pays.

Dans bien des cas on a une divergence entre ce que voudraient / pensent / légifèrent les “élites” (j’englobe ici élus & non élus, vu que si ce sont les élus qui votent, ce ne sont pas eux qui écrivent les lois).



Là ce qu’elle veux c’est _PAS_ retrouver l’auteur des faits (chronophage et coûteux pour le système judiciaire), c’est “juste” muselé. Une fois muselé, l’auteur n’a plus aucun intérêt.



&nbsp;

A la limite, on pourrait envisager un tel principe A CONDITION que toute “demande de blocage calomnieuse” soit fortement sanctionnée et que l’auteur original soit défrayé. Mais ce sera jamais le cas, faut pas rêver !



De toute façon ca résoudra pas le problème de fond : Les sites / forums sont rapidement mis à jour, et ça m’étonnerais pas qu’avec la fibre qui se déploie partout les solutions tel que TOR (et leurs successeurs) se déploient d’autant plus.&nbsp;

&nbsp;

&nbsp;

&nbsp;



Un modérateur va supprimer un message pour aider les utilisateurs de la plateforme, surtout. Je pense que ça n’a pas à être obligatoire.








ProFesseur Onizuka a écrit :



Remplacer la justice publique par la censure privée <img data-src=" />



L’enfer est pavé de bonnes intentions <img data-src=" />





là on voit même pas les bonnes intentions (à comprendre au sens : ces intentions ont été tellement utilisées dans le but de justifier tout et n’importe quoi qu’on ne peut ainsi supposer que ceux qui les proposent sont incompétents et donc même plus les qualifier de “bonnes” <img data-src=" />)









Exagone313 a écrit :



Un modérateur va supprimer un message pour aider les utilisateurs de la plateforme, surtout. Je pense que ça n’a pas à être obligatoire.





Donc responsabilité de qui en cas de propos condamnables? Si le site ne l’est pas, il doit communiquer l’identité de l’internaute à la justice non? Donc conserver cette info?









OB a écrit :



Sauf que si t’arrive pas à retrouver ce “quelqu’un” (ou que c’est trop fréquent, et fait par trop de monde), il est tentant de chercher à sanctionner “la ville” (ou le média).







Bien d’accord, mais dans le cas auquel je répondais, ca ne devrait pas être trop dur…







OB a écrit :



Et d’autre part, et quoi qu’on en dise, il n’y a pas consensus , du tout, sur ce qui est illicite en ligne.



Bien sur il y a des évidences (appels à la violence, …) , mais regarde pour les choses qui sont polémiques (je pense au conflit en Palestine par exemple) , ou mieux encore pour la mise en ligne de contenus culturels sans autorisation (P2P, streaming, …) que beaucoup de gens font sans en ressentir la moindre culpabilité , et dont d’ailleurs les lois sont différentes selon les pays.

Dans bien des cas on a une divergence entre ce que voudraient / pensent / légifèrent les “élites” (j’englobe ici élus & non élus, vu que si ce sont les élus qui votent, ce ne sont pas eux qui écrivent les lois).







Bien sur qu’il n’y a pas de consensus, c’est valable dans beaucoup de cas, et c’est pourquoi nous avons toujours besoin d’une Justice qui juge et non une application à l’arrache de loi vague…







OB a écrit :



Là ce qu’elle veux c’est _PAS_ retrouver l’auteur des faits (chronophage et coûteux pour le système judiciaire), c’est “juste” muselé. Une fois muselé, l’auteur n’a plus aucun intérêt.







Oui et ce n’est pas normal. Je peux comprendre l’intérêt d’un blocage rapide, mais comme on saute la case jugement, cela peut très vite tourner à la censure. Et parfois, même une censure de quelques heures / jours peut suffire à satisfaire un besoin malveillant.



 





OB a écrit :



A la limite, on pourrait envisager un tel principe A CONDITION que toute “demande de blocage calomnieuse” soit fortement sanctionnée et que l’auteur original soit défrayé. Mais ce sera jamais le cas, faut pas rêver !







C’est une idée. Après tout, il est normal de prendre ses responsabilités. Le truc c’est qu’il peut y avoir des faux positifs, et demander de toute bonne foi un blocage sur un contenu alors qu’en fait tout va bien…







OB a écrit :



De toute façon ca résoudra pas le problème de fond : Les sites / forums sont rapidement mis à jour, et ça m’étonnerais pas qu’avec la fibre qui se déploie partout les solutions tel que TOR (et leurs successeurs) se déploient d’autant plus.







Et oui la loi parfaite n’existe pas ^^”

Mais c’est vrai que l’on peut se poser la question : est-ce que la profusion de texte mal pensé ne pousse pas naturellement les gens à se cacher d’avantage, profusion devenant alors l’ennemi du bien, un peu comme l’explosion du chiffrement pour tout…









CryoGen a écrit :




(OK le forum m’a paumé le message, tant pis je re-écrit pas :-) )


Tu as peut-être été suspendu automatiquement <img data-src=" />


“une sénatrice PS veut”. On peut s’arrêter là, ça ne passera jamais. Et tant mieux.








data_gh0st a écrit :



J’imagine surtout que le fils Michu et ses amis auront tôt fait d’absolument tout signaler, histoire que tout soit bloqué et que tout le monde se prenne des spams. <img data-src=" />







Il y’aura alors une proposition de loi qui visera à “bloquer les bloqueurs intempestifs”