Lutte contre le cyberdjihadisme : pour Twitter, le tournant Charlie Hebdo

Lutte contre le cyberdjihadisme : pour Twitter, le tournant Charlie Hebdo

Oiseau bleu contre drapeau noir

Avatar de l'auteur
Marc Rees

Publié dans

Droit

24/01/2018 6 minutes
28

Lutte contre le cyberdjihadisme : pour Twitter, le tournant Charlie Hebdo

Comment s’articule la lutte contre le cyberdjihadisme entre autorités publiques et acteurs privés ? Lors d’un atelier au Forum international contre la cybercriminalité à Lille, plusieurs d’entre eux ont évoqué la question, dont la directrice des affaires publiques de Twitter France, Audrey Herblin-Stoop, ou encore François-Xavier Masson, le chef de l’OCLCTIC. 

La question de la lutte contre le cyberdjihadisme s’est invitée lors d’un échange au FIC de Lille où intervenait la directrice des affaires publiques de Twitter France. Une présence rare, alors que le réseau social est régulièrement mis en cause chaque fois que les autorités dénoncent Internet et ses canaux de diffusions.

Avant son intervention, Laurence Bindner, qui fut directrice du développement du Centre d’analyse du terrorisme (CAT), a remis en perspective la trame historique.

Les véhicules traditionnels ont d’abord été les K7 audio ou VHS, et même des feuillets passés de main en main. Ensuite, dans les années 2000, l’émergence des sites Web a pris le relais, et dans leur sillage, les forums en langue arabe puis anglaise, et même multilingues pour faciliter encore et toujours ces propagations.

C’est au moment de l’insurrection syrienne, et l’arrivée de jeunes venus d’Europe, que l’intérêt s’est concentré sur les plateformes comme Twitter ou Facebook. Désormais, néanmoins, suite à des nettoyages plus actifs sur les réseaux sociaux, ces messages se sont déportés sur les messageries comme Telegram. Un certain retour à la clandestinité, qui n’empêche pas des actions ponctuelles plus bruyantes.

Un double dilemme

Évidemment, Laurence Bindner a rappelé les dilemmes qui surgissent dès lors qu’on manipule la paire de ciseaux. Dans une dimension opérationnelle, éradiquer de tels messages pousse naturellement leurs auteurs à plonger dans le « dark ou le deep », et donc à rendre plus délicates les enquêtes. D’un point de vue éthique, une autre question revient: à qui revient la légitimité de qualifier ces contenus ? À l’État ou aux personnes privées ?

Sur ce point, le chef de l’OCLCTIC a évoqué le cas des prêches interminables. Celui qui gère la plateforme de signalement Pharos, et ses 25 vigies, ne se pose pas beaucoup de questions « si on voit un petit drapeau noir flotter » dans le coin d’une vidéo. Quentin Austin, responsable du projet à Point de contact, une plateforme de signalement privée, gérée par une association, a rapporté une série de chiffres qui témoignent cependant de la délicate question de la qualification. 

Des traitements automatisés couplés à une analyse humaine

Par exemple, durant cette funeste année 2015, Point de Contact a reçu 2 500 URL qualifiées par les internautes comme étant en lien avec le terrorisme. Après analyse, seules 210 sont restées collées avec cette étiquette puis transmises au ministère de l’Intérieur.

L’année suivante, les deux chiffres ont été respectivement de 330 et 32. En 2017, enfin, le nombre d’URL a grimpé à 3 500 pour 1 500 finalement retenues. Au passage, sur la localisation, 51 contenus « terro » ont été pointés sur des serveurs français, contre 650 aux États-Unis.  

Dans ce travail de sélection, l’association reconnaît qu’aujourd’hui l’intelligence artificielle et les traitements automatisés sont devenus des éléments très importants au quotidien. L’enjeu ? Faire face à une volumétrie de signalements qui s’échouent par vague sur ses écrans, où des contenus ne sont pas toujours manifestement illicites.

Des techniques de hachage permettent d’affûter les traitements pour disposer par exemple d’avertisseurs si une vidéo est signalée plusieurs fois. Toutefois, impossible de se passer d’une intervention humaine puisque le lieu de publication et le contexte même d’une diffusion peuvent entraîner une qualification différente. « L’humain est indispensable au même titre que l’automatisation ».

Chez Twitter, le tournant Charlie Hebdo

De l’avis d’Audrey Herblin-Stoop, arrivée chez Twitter le 7 janvier 2015 (soit le jour même des attentats de Charlie Hebdo), ce drame a marqué un tournant. Avant 2015, Twitter, fort de plus de 300 millions d’utilisateurs, admet avoir été une plateforme de choix dans la propagande islamique et le recrutement. Un sujet sur lequel l’hébergeur - créé pourtant en mars 2006 - dit ne pas s’être assez soucié faute d’avoir bien mesuré « la portée » de son propre succès.

Depuis 2015, le changement s'opère avec une réactivité à plusieurs niveaux : des CGU censées être mieux adaptées, des outils de signalement développés à partir des solutions anti-spams…. Si bien qu’entre août 2015 et septembre 2017, 1,143 millions de comptes considérés comme terroristes (apologie, etc.) ont été supprimés par ses soins, dont 93 % par les technologies maison, et même 75 % avant leur premier tweet.

Entre janvier et juillet 2017, 574 070 comptes ont subi le même traitement. En comparaison, sur la même période, seules 338 demandes de retrait ont été reçues des forces de l’ordre, tous États confondus.

Au printemps 2015, a également été mis en place le « protocole Cazeneuve », où Apple, Microsoft, Google, Facebook et Twitter se sont retrouvés au tour d’une table. « On travaillait peu ensemble, il y avait de la défiance d’avoir des rapports trop proches avec l’État » admet la responsable des affaires publiques.  

Désormais, un groupe de contact permanent permet à ces concurrents de se réunir tous les deux mois pour entretenir la coopération. Une grande base de données a été éditée pour mettre en commun les « hashs » des contenus terroristes, où chacun peut puiser des éléments à des fins d’éradication.

Le psychodrame de l’étau

Pour le réseau social, l’enjeu est bien entendu de relativiser les accusations dans la dissémination des contenus terroristes. Néanmoins, tous les hébergeurs connaissent le psychodrame de l’étau : leur passivité rendrait à coup sûr ces accusations fondées dans l’opinion publique. Trop actifs, les voilà flirtant avec l’atteinte à la liberté d’expression et suscitant d’autres revendications, avec les ayants droit aux aguets.

Une certitude, questionnée sur une éventuelle collaboration avec les autorités sur la mise en place des boîtes noires censées détecter des menaces terroristes, la directrice des affaires publiques de Twitter nous répond : « On a une règle : on ne souhaite pas que nos services soient utilisés à des fins de renseignement. »

Écrit par Marc Rees

Tiens, en parlant de ça :

Sommaire de l'article

Introduction

Un double dilemme

Des traitements automatisés couplés à une analyse humaine

Chez Twitter, le tournant Charlie Hebdo

Le psychodrame de l’étau

Commentaires (28)


« On a une règle : on ne souhaite pas que nos services soient utilisés à des fins de renseignement. »



Alors bonne chance pour atteindre cet objectif.




et même 75 % avant leur premier tweet





Sur quel critère alors ? Le nom choisi ? L’avatar est un oeuf ?


Pendant ce temps la le terrorisme irl prolifère à vitesse grand V en tenant les cité, les prisons, ect… Et bien sur aucune solution… A quel chouette pays qu’est la france !








skankhunt42 a écrit :



Pendant ce temps la le terrorisme irl prolifère à vitesse grand V en tenant les cité, les prisons, ect… Et bien sur aucune solution… A quel chouette pays qu’est la france !





Et tu proposes quoi ?

Même si ce sont des idées de merde, dans un pays de liberté on ne condamne pas les idees, seulement leur expression, et les passages a l’acte.









Drepanocytose a écrit :



Et tu proposes quoi ?





T’a d’anciennes caserne militaires qui tombent en ruine alors que ça “couterais pas cher” ( comparer à la construction d’une prison ) ou on pourrais y caler tout ceux qui ne sont pas dangereux ( style le mec qui à renversé quelqu’un car trop bu / les vieux de plus de 50 ans ) un peu en mode orange is the new black. Ensuite légaliser le cannabis ce qui permettra de reprendre le contrôle sur les banlieue, de rapporter de l’argent à l’état, de permettre au flic de faire vraiment leur travail et de sauver nos agriculteurs et de faire baisser la consommation chez les jeunes. Tout ça ne sera bien sur pas évident à mettre en place vu le laxisme en place depuis plus de 30 ans :/ Actuellement dans certaines tôles les prisonnier sont obliger de ce doucher en caleçon à cause de la pression exercés par les barbus.



L’éducation plutôt que la surveillance de masse et la censure ?


N’importe quoi.








SyLG a écrit :



L’éducation plutôt que la surveillance de masse et la censure ?





J’ai pas dit le contraire, note.



Même si il faut éviter l’angélisme : une éducation forte, souhaitable, doit s’accompagner de sanctions fortes.









zeldomar a écrit :



N’importe quoi.





Je t’invite à regarder le dernier cdanslair sur les prisons ( dispo ici). Accessoirement “n’importe quoi” n’est vraiment pas une réponse “adulte”. M’enfin bon je suppose que tu va dire “wé c’est daubé cette émission”, non ?









skankhunt42 a écrit :



Je t’invite à regarder le dernier cdanslair sur les prisons ( dispo ici). Accessoirement “n’importe quoi” n’est vraiment pas une réponse “adulte”. M’enfin bon je suppose que tu va dire “wé c’est daubé cette émission”, non ?





Les prisons c’est surtout un sujet de fantasme sur lequel même les gens les plus sérieux peuvent projetter leurs craintes enfouies, et on peut lire et entendre tout et n’imp sur le sujet…



Pour revenir a ton idée de légaliser la beuh, bonne idée, mais pas pour la raison que tu crois. Si tu penses que tu vas reconquérir les banlieues avec ça, c’est méconnaître a la fois le marché de la weed, l’economie des banlieues, etc. Les mecs ne t’ont pas attendu pour diversifier leurs businesses, t’inquiète.



Source?








loser a écrit :



Source?





J’ai donné un lien quelques poste avant et je t’invite à faire une recherche “caillassage pompier”.



Tu parles du lien vers l’émission “cdanslair”? Je ne connais pas, c’est sérieux ou sensationnaliste?



Pour le caillassage de pompiers, c’est de la délinquance et de la connerie, pas du terrorisme…








Drepanocytose a écrit :



Pour revenir a ton idée de légaliser la beuh, bonne idée, mais pas pour la raison que tu crois. Si tu penses que tu vas reconquérir les banlieues avec ça, c’est méconnaître a la fois le marché de la weed, l’économie des banlieues, etc. 





Le marché c’est les clients qui le font et ils ce chient littéralement dessus quand ils vont chopper à la cité. Après il restera le problème des mineurs mais l’offre sera moins forte car la demande sera moins forte donc ça sera plus difficile pour eux.







Drepanocytose a écrit :



Les mecs ne t’ont pas attendu pour diversifier leurs businesses, t’inquiète.





Pour une poignée oui mais le petit guetteur de 15 ans il sera vite au chômage, et c’est eux qui son majoritaire.









loser a écrit :



Tu parles du lien vers l’émission “cdanslair”? Je ne connais pas, c’est sérieux ou sensationnaliste ?





Assez sérieux oui.

 





loser a écrit :



Pour le caillassage de pompiers, c’est de la délinquance et de la connerie, pas du terrorisme…





C’est une forme de terrorisme et un bon refuge pour les “vrai” terroristes.









skankhunt42 a écrit :



Pour une poignée oui mais le petit guetteur de 15 ans il sera vite au chômage, et c’est eux qui son majoritaire.







Et qu’est-ce qu’ils deviendront? (cambrioleurs, mafieux, terroristes…?) L’humain n’a pas l’air d’être pris en compte dans ta solution <img data-src=" />



On ne fait pas disparaitre la misère en la cachant sous le tapis mais en augmentant les salaires des travailleurs (l’inverse de la politique actuelle) <img data-src=" />









ProFesseur Onizuka a écrit :



Et qu’est-ce qu’ils deviendront ?





Pour la majorité rien…



&nbsp;





ProFesseur Onizuka a écrit :



L’humain n’a pas l’air d’être pris en compte dans ta solution





Ha oui ? Explique !







ProFesseur Onizuka a écrit :



On ne fait pas disparaitre la misère en la cachant sous le tapis mais en augmentant les salaires des travailleurs (l’inverse de la politique actuelle)





C’est justement un cache misère d’augmenter le salaire. Un mec qui à peur même bien payé aura toujours peur. C’est une question d’effectif et de focalisation de ces effectifs.









ProFesseur Onizuka a écrit :



On ne fait pas disparaitre la misère en la cachant sous le tapis mais en augmentant les salaires des travailleurs (l’inverse de la politique actuelle) <img data-src=" />







A quoi ça sert d’augmenter les salaires si les boulots existent plus….



Justement, un des problèmes étant qu’une partie des métiers disparaissent , et que les gens qui sont laissés sur le carreau n’ont ni la force ni l’aide pour être re-formé sur autre chose. Macron, comme les autres avant lui a “promis” une réforme sur le sujet… on verra, mais “comme par hasard” il s’est d’abord attaqué à la “flexibilité” =&gt; pour moi ça en dis long, et la réforme de la formation fera long feu.

&nbsp;

A mon avis, on va vers une société d’expertise, où un très petit nombre de gens seront très productifs et devront , bon gré mal gré, subvenir aux besoins de tous les autres.

La question est de savoir ce que l’on veux : Est-ce qu’on veux une société fortement inégale , ou la majorité de très pauvre crève la faim dans la crasse des logements sociaux avec le deal comme seul avenir, ou bien est-ce qu’on pousse à une forme de revenu de base.

&nbsp;









zeldomar a écrit :



N’importe quoi.



Pour bosser dans la pénitentiaire, je confirme skankhunt. Les prisons sont d’excellents viviers pour les recruteurs. Suffit qu’ils arrivent à trouver une faiblesse chez leur proie et qu’ils arrivent à l’exploiter pour transformer rapidement une personne de la facon dont ils veulent (sachant que certains acceptent par pur opportunisme, en plus de tous ceux qui tombent dans le piège).







ProFesseur Onizuka a écrit :



Et qu’est-ce qu’ils deviendront? (cambrioleurs, mafieux, terroristes…?)



Déchets de la société, au mieux…









OB a écrit :



Est-ce qu’on veux une société fortement inégale , ou la majorité de très pauvre crève la faim dans la crasse des logements sociaux avec le deal comme seul avenir…







Comme aux USA et en Angleterre, et tant que les électeurs voteront pour les “young leader”, ça sera l’avenir de la France <img data-src=" />









ProFesseur Onizuka a écrit :



Comme aux USA et en Angleterre, et tant que les électeurs voteront pour les “young leader”, ça sera l’avenir de la France <img data-src=" />





Et tant qu’ils voterons pour les “old leader” plein de casseroles et à l’habitude des magouilles, ça sera aussi l’avenir de la France.&nbsp;<img data-src=" />



J’pense pas que ce soit une question d’âge. C’est une question de vision, mais aussi de volonté. Aujourd’hui, quelque chose de vraiment différent dans quelque domaine que ce soit (ex : Licence globale, revenu de base, …) se heurterait à la vision des politiciens de l’EU . Ou alors il faudrait le présenter comme une expérimentation temporaire qui dure ?



&nbsp;

&nbsp;



Il semblerait que Marc ait tapé dans l’oeil de Mme Herblin.


Il n’a pas cité que les prisons, et vous avez défendu le cas le plus “facile” à défendre (= je travaille dedans).


Si tu en es à prendre les reportages télé pour des preuves, tu n’es pas sorti de l’auberge.








zeldomar a écrit :



Si tu en es à prendre les reportages télé pour des preuves, tu n’es pas sorti de l’auberge.





Ce n’est pas un reportage mais une émission avec un débat qui comporte éffectivement 2 reportages de 5 minutes. Écoute ce que dis un des invité qui bosse dans une prison. Et ensuite “philosophiquement” il faut bien commencer par quelques part. Et tes argument son proche du néant, un peu comme des politicien et c’est bien pour ça qu’on est dans la merde actuellement.Autant je suis d’accord que certaines émissions raconte n’importe quoi mais dénigrer systématiquement c’est de la connerie.



D’ailleurs pour certains NXI c’est de la merde et ne pourra dire que de la merde parce que c’est “un petit journal site sur internet” et internet c’est forcément de la merde.









zeldomar a écrit :



Il n’a pas cité que les prisons, et vous avez défendu le cas le plus “facile” à défendre (= je travaille dedans).



La pauvreté dans les cités fait aussi un bon vivier (ce n’est pas pour rien que la grosse majorité des dealers vient des cités). Je n’en ai pas parlé parce que je ne connais pas assez pour en parler plus en profondeur, contrairement au monde carcéral que je peux moi-même observer.









Patch a écrit :



La pauvreté dans les cités fait aussi un bon vivier (ce n’est pas pour rien que la grosse majorité des dealers vient des cités). Je n’en ai pas parlé parce que je ne connais pas assez pour en parler plus en profondeur, contrairement au monde carcéral que je peux moi-même observer.





En fait la spécificité du jihadisme c’est que non, beaucoup maintenant ne viennent pas des cités.

Et d’ailleurs c’est pareil pour les dealers, la plupart ne viennent pas de cité. Plus de 50% de la conso de weed, de nos jours, vient de weed produite en hydro par des blancs de classe moyenne, et vendue par eux. Pour la coke c’est encore plus.



On attend tous que tu nous apportes les preuves d’une de tes citations : “le terrorisme irl prolifère à vitesse grand V en tenant les cité”.Ta phrase est précise, merci d’avoir des preuves qui le sont toutes autant.