Pourquoi la justice ordonne à Twitter de révéler ses moyens de modération

La justice ordonne à Twitter de révéler dans les deux mois, les moyens matériels et humains mis en œuvre pour assurer la modération des contenus haineux en France. Retour sur la décision rendue hier à la demande de plusieurs associations de lutte contre la haine en ligne.

En mai dernier, l’Union des Étudiants Juifs de France (UEJF), SOS Homophobie, J’accuse !...action internationale pour la justice (IPJ), SOS Racisme, le Mouvement contre le Racisme et pour l'Amitié entre les Peuples (MRAP) et la La Ligue Internationale Contre le Racisme et l’Antisémitisme (LICRA) assignaient Twitter France et Twitter Inc. devant le tribunal judiciaire de Paris.

Leur objectif ? Qu’un expert soit nommé pour se faire communiquer et jauger, en substance, les moyens mis en œuvre par le réseau social pour assurer les règles de modération de contenus postés par les internautes.

Cet expert aurait pour mission au surplus de « fournir au tribunal toute indication de fait ou circonstance de nature à établir la nature et l'étendue des responsabilités encourues dans le cadre de l'action en responsabilité civile » que les associations entendent possiblement engager.

L’index est pointé sur plusieurs infractions, dont l'apologie de crimes contre l'humanité, l'incitation à la haine raciale ou encore les contenus drainant de la haine à l'égard de l’orientation sexuelle des personnes. Autant de chapitres où le service en ligne est régulièrement accusé de trainer la patte.

Twitter France mise hors de cause

Dans l'ordonnance rendue hier, le tribunal judiciaire de Paris a d’abord mis hors de cause Twitter France. Cette antenne française est en effet en charge du volet commercial des activités de Twitter Inc., seule entité reconnue comme hébergeur.

Juridiquement, l’action a été initiée sur l’autel de l'article 145 du code de procédure civile. Celui-ci prévient en effet que « s'il existe un motif légitime de conserver ou d'établir avant tout procès la preuve de faits dont pourrait dépendre la solution d'un litige, les mesures d'instruction légalement admissibles peuvent être ordonnées à la demande de tout intéressé sur requête ou en référé ».

Mesures « in futurum »

L’article permet ainsi de chaluter des mesures d’instruction « in futurum », celles taillées pour permettre à une partie de peaufiner ses stratégies en préparation d’un éventuel procès. (voir cet article sur Dalloz Actualité, par exemple).

Dans leur décision, les juges rappellent un point fondamental : « la mesure sollicitée n'implique pas d'examen de la responsabilité des parties ou des chances de succès du procès susceptible d'être ultérieurement engagé ». Ce qui n’a pas empêché le MRAP de titrer que Twitter était « condamné[e] pour absence de modération de la haine "en ligne" »… De fait la réalité est donc plus nuancée. 

Dans le cas présent, poursuit l’ordonnance, « il suffit que soit constatée l'éventualité d'un procès sur un fondement juridique déterminé dont la solution peut dépendre de la mesure d'instruction sollicitée, à condition que cette mesure ne porte pas une atteinte illégitime aux droits d'autrui ».

Ils rappellent tout autant que la mesure d’instruction visée doit être « suffisamment circonscrite » dans le temps et dans son objet, proportionné, ciblée, sans être excessive. « Si le demandeur à la mesure d'instruction n'a pas à démontrer la réalité des faits qu'il allègue, il doit justifier d'éléments rendant crédibles ses suppositions, ne relevant pas de la simple hypothèse, en lien avec un litige potentiel futur dont l'objet et le fondement juridique sont suffisamment déterminés et dont la solution peut dépendre de la mesure d'instruction, la mesure demandée devant être pertinente et utile ».

Des messages signalés mais peu modérés

Pour apporter cette démonstration, les associations ont produit plusieurs éléments « établissant la réalité de nombreux messages racistes, homophobes et antisémites échangés sur le réseau d’informations Twitter avec des demandes de retrait non satisfaites promptement ».

On découvre ainsi qu’un PV de constat d’huissier a montré que sur 1 100 tweets « haineux » signalés, Twitter n’avait supprimé dans les temps que 12 % d’entre eux, quand Facebook orchestrait pour sa part 67,9 % de retrait. De même, « un huissier a constaté par procès-verbal sur la période du 20 au 23 mai 2021 que seuls 28 des 70 tweets haineux notifiés ont été retirés par Twitter au bout de 48 heures ».

Autant de « résultats désastreux d’un testing ayant démontré les manquements terribles de la plateforme dans la modération des contenus de haine », résume l’UEJF dans un communiqué. 

Les juges ont été convaincus par ces premiers éléments. Ils ont estimé que la mesure d’instruction sollicitée « repose sur des faits précis, objectifs et vérifiables, qui permettent de projeter un litige futur comme plausible et crédible ».

Préparer un futur procès reposant sur le droit de l'hébergement

Un litige futur ? Les associations ont sur la rampe une possible action sur le terrain de la loi sur la confiance dans l’économie numérique de 2004. Cette fameuse LCEN oblige non seulement les hébergeurs à retirer promptement les contenus manifestement illicites, mais aussi à concourir à la lutte contre une série d’infractions graves, celles qui entrent justement dans le périmètre de l’objet social des associations requérantes. Le même texte impose à chacune des sociétés concernées à «rendre publics les moyens qu'elles consacrent à la lutte contre ces activités illicites ».

La décision n’a certes pas été pleinement acquise aux associations. Elle leur a refusé l’expertise judiciaire qu’elles sollicitaient au motif que l’évaluation des responsabilités encourues relève du seul pouvoir du juge. Par contre, l'ordonnance a jugé « utile et pertinente » la demande de communication de pièces destinées à connaître les moyens mis en œuvre par Twitter Inc. et ce, pour assurer ses obligations nées de la LCEN.

Dans un second temps, ces éléments permettront en effet à l’UEJF, au MRAP, la LICRA et les autres d’évaluer les chances de succès de leur éventuel procès à venir. Les juges ont d’ailleurs considéré que l’atteinte au secret des affaires était « limitée » d’autant que la loi de 2004 oblige les hébergeurs à rendre publics ces moyens de lutte contre les contenus haineux.

Les moyens que devra révéler Twitter Inc. dans les deux mois

Au final, Twitter devra donc révéler les éléments suivants, mis en œuvre entre le 18 mai 2021, date de délivrance de l’assignation, et le 6 juillet 2021, date de la décision :

• « tout document administratif, contractuel, technique, ou commercial relatif aux moyens matériels et humains mis en œuvre dans le cadre du service Twitter pour lutter contre la diffusion des infractions d'apologie de crimes contre l'humanité, l'incitation à la haine raciale, à la haine à l'égard de personnes à raison de leur sexe, de leur orientation ou identité sexuelle, l'incitation à la violence, notamment l'incitation aux violences sexuelles et sexistes, ainsi que des atteintes à la dignité humaine »
• « le nombre, la localisation, la nationalité, la langue des personnes affectées au traitement des signalements provenant des utilisateurs de la plate-forme française de ses services de communication au public en ligne »
• « le nombre de signalements provenant des utilisateurs de la plate-forme Française de ses services, en matière d'apologie des crimes contre l'humanité et d'incitation à la haine raciale, les critères et le nombre des retraits subséquents »
• « le nombre d'informations transmises aux autorités publiques compétentes, en particulier au Parquet, en application de l'article 6-1.7 de la loi pour la confiance dans l’économie numérique (LCEN) au titre de l'apologie des crimes contre l'humanité et de l'incitation à la haine raciale »

Relevons enfin que le Digital services act, projet de règlement européen dévoilé le 15 décembre par la Commission, obligera en l'état les plateformes à publier chaque année leurs activités de modérations de contenu (ce qu’elles font peu ou prou déjà).

• Le Digital Services Act expliqué ligne par ligne

Le même document en préparation réclame toutefois des très grandes plateformes en ligne le déploiement de moyens nécessaires pour atténuer « les risques systémiques », et parmi eux, la diffusion des discours de haine illégaux. En l'état, « elles devraient envisager, par exemple, d’améliorer ou d’adapter la conception et le fonctionnement de leurs systèmes de modération de contenu, de recommandation algorithmique et de leurs interfaces en ligne de manière à décourager et à limiter la diffusion de contenus illicites ».

• L'ordonnance Twitter et la modération, en date du 6 juillet 2021 (PDF)