Pour la Commission européenne, les services en ligne doivent concevoir des outils de détection et de suppression de contenus illicites, tout en renforçant leur collaboration avec les autorités. Ces entreprises coopèrent déjà, à la recherche des bonnes grâces de l'institution.
La Commission européenne veut que les plateformes en ligne suppriment automatiquement certains contenus considérés comme illicites. Dans des « lignes directrives », l'institution a réclamé plus d'efforts aux entreprises du Net dans cette lutte, tout comme les gouvernements britanniques et français ces derniers mois.
« La présence et la diffusion croissantes de matériel et de contenu à caractère terroriste incitant à la violence et à la haine en ligne [...] sont une menace sérieuse pour la sûreté et la sécurité des citoyens de l’UE » note la Commission dans son texte. Elle entamerait aussi la sacrosainte confiance dans le numérique, une valeur cardinale de la Commission européenne.
Pour cette dernière, le développement de l'économie numérique (via son marché unique numérique) est un des grands chantiers de ces dernières années. Pour la protéger, la Commission demande en conséquence une détection automatique des contenus illicites, quitte à aller plus loin que ce qu'impose le droit européen.
Plus de coopération et de suppressions
Dans le détail, l'institution demande « une proactivité accrue dans la prévention, la détection et la suppression des contenus illicites en ligne incitant à la haine, à la violence et au terrorisme ». Elle veut que les plateformes redoublent d'efforts sur ces dossiers, qui sont les prétextes (désormais) classiques pour une reprise en main des services en ligne et réseaux sociaux.
Ces derniers doivent faciliter le signalement de contenus par les utilisateurs, en parallèle de technologies de détection automatique. L'utilisation mise en avant est la lutte contre la réapparition de ces textes, images ou vidéos. Ce biais est déjà utilisé pour imposer la détection en amont, notamment sur le droit d'auteur.
Ces sociétés sont censées être plus coopératives avec les autorités, avec un partage d'informations accru. La brèche est déjà largement ouverte outre-Atlantique, avec la contribution des géants du Net à l'enquête du Congrès sur l'ingérence russe dans l'élection de Donald Trump l'an dernier.
Il leur est aussi réclamé de mettre en place des signaleurs de confiance, « c’est-à-dire des entités ayant une expérience précise en matière de repérage de contenu illicite et des structures spécialisées dans la détection et l'identification d'un tel contenu en ligne ». Autrement dit, des tiers pourraient se spécialiser dans cette détection.
Les plateformes sont aussi invitées à détecter et supprimer automatiquement les contenus illicites, en concevant des techniques d'automatisation dédiées. La récidive doit aussi être combattue, semble-t-il dans la ligne du « notice and stay down ».
Nouveau pas dans la collaboration (quasi) volontaire
En juin, la Commission européenne a déjà distribué bons et mauvais points, après la signature d'un code de conduite avec Facebook, Twitter, YouTube et Microsoft. Facebook a reçu les félicitations du professeur, avec 51 % de suppressions des contenus signalés en 24 heures. C'était le seul des signataires à fournir un effort aussi efficace.
Les nouvelles demandes de la Commission semblent aller bien au-delà de ce qu'impose actuellement la loi. En France, les hébergeurs sont tenus de supprimer les contenus manifestement illicites qui leur sont signalés (Loi sur la confiance dans l'économie numérique de 2004). Une obligation transposée de l'article 14 de la directive de 2000 sur l'e-commerce.
Pourtant, comme le note The Register, l'article 15 de la même directive interdit aux États membres d'imposer une surveillance généralisée des contenus aux hébergeurs. La Commission n'étant pas un État, et ne passant pas encore par la loi, ses demandes contournent en principe cette interdiction. L'institution applique une simple pression politique, à laquelle les plateformes sont libres de répondre.
À cette nouvelle, la Computer and Communications Industry Association (CCIA), qui représente une part des géants du numérique en Europe, réaffirme la pertinence du statut d'hébergeur. Elle rappelle la portée de la clause de « bon samaritain » de la directive de 2000, qui veut qu'un hébergeur ne perde pas son statut, même en supprimant proactivement des contenus.
L'effort de ces sociétés sera surveillé de près, avec un point d'étape en mai 2018. La Commission vérifiera si de nouvelles demandes, voire des mesures législatives, sont nécessaires. Si les grands noms ne tombent pas à bras raccourcis sur ces lignes directrices, c'est qu'elles ne sont pas contraignantes et que, dans l'absolu, il est peu probable que la Commission puisse remettre en cause le statut d'hébergeur, qui couvre des milliers d'entreprises.