Vous n'avez pas encore de notification

Page d'accueil

Options d'affichage

Abonné

Actualités

Abonné

Des thèmes sont disponibles :

Thème de baseThème de baseThème sombreThème sombreThème yinyang clairThème yinyang clairThème yinyang sombreThème yinyang sombreThème orange mécanique clairThème orange mécanique clairThème orange mécanique sombreThème orange mécanique sombreThème rose clairThème rose clairThème rose sombreThème rose sombre

Vous n'êtes pas encore INpactien ?

Inscrivez-vous !

Facebook et YouTube aiguisent leur lutte contre la propagande terroriste

Intelligence artificielle contre menace réelle
Internet 6 min
Facebook et YouTube aiguisent leur lutte contre la propagande terroriste
Crédits : Andy445/iStock

Ce n’est pas la première fois que les plateformes promettent des mesures visant la propagande terroriste. Après le plan cosigné Theresa May et Emmanuel Macron, Facebook et YouTube remettent une couche, gorgée notamment d’intelligence artificielle. 

Le plan présenté la semaine dernière par Theresa May et Emmanuel Macron vise à trouver des solutions plus nerveuses pour traquer les contenus terroristes en ligne. L’imagination est fertile puisque l’un et l’autre demandent aux services en ligne de trouver des solutions de retraits automatisés.

Un filtrage à la racine, avant même toute diffusion, impliquant donc une surveillance proactive de l’ensemble des flux transitant dans les mains de ces plateformes. Le plan prévoit aussi la création de listes blanches de comptes parodiques, non sans prévoir une solution – pour le moins imprécise – visant à permettre « l’accès au contenu chiffré » mais sans « portes dérobées » ou d’interdiction du chiffrement.   

S’agissant du filtrage proactif des contenus, avant mise en ligne, le ministère de l’Intérieur envisage même « de définir clairement ce qui constitue un contenu en ligne illicite, si nécessaire par une réglementation ». Cette réglementation dans une main, les plateformes auraient à surveiller tous les contenus téléchargés par leurs utilisateurs.

Seul détail, le droit européen interdit de contraindre ces intermédiaires techniques à « une obligation générale de surveiller les informations qu'ils transmettent ou stockent, ou une obligation générale de rechercher activement des faits ou des circonstances révélant des activités illicites ». Cette interdiction, extraite de la directive sur l'e-commerce, ne concerne cependant que les États. Les plateformes, elles, sont donc libres de se lancer dans une telle traque préventive, au risque de démultiplier les cas de faux positifs : des mesures de restrictions frappant des contenus parfaitement légitimes.

En attendant, le plan Macron-May participe à la pression exercée sur ces intermédiaires, hébergeurs en tête. Hasard du calendrier ou non, Facebook et YouTube ont tour à tour dévoilé des solutions destinées à lutter contre la propagande terroriste dans leurs pages, tout en faisant le point sur les actions déjà menées. 

Facebook fait le point sur ses actions contre le terrorisme

Avec près de deux milliards d’utilisateurs, Facebook est un cas à part. Plus d’un quart de la population mondiale se sert du réseau social, ce qui convient tout à fait à l’entreprise. Elle ambitionne après tout de devenir la plateforme universelle de communication. Ce qui ne va pas sans quelques responsabilités.

Dans un vaste billet de blog, la société a donc fait le résumé des mesures entreprises contre le terrorisme. Elles sont regroupées en trois grandes sections, dont la première est dévolue à l’intelligence artificielle. Ici, tout est centré sur l’apprentissage profond : reconnaissance d’une image ou vidéo déjà publiée précédemment, éléments de langage, détection des pages, groupes ou encore des publications…

Ces actions sont complétées, toujours sur le terrain de l’automatisation, par des efforts collectifs sur l’ensemble des produits de l’entreprise. WhatsApp et Instagram font ainsi partie du lot. Facebook explique que la quantité de données visibles depuis ces deux services est limitée, mais sans aucune précision. On ne sait pas dans quelle mesure des informations personnelles sont impliquées, mais il est probable que l’adresses IP et certaines métadonnées soient relevées. Nous avons demandé des précisions à Facebook à ce sujet.

Par ailleurs, l’éditeur annonce être plus performant dans la détection des comptes récidivistes, recréées après suppression. Des tâches que l’entreprise décrit comme « jamais terminées ».

L’être humain à la rescousse, y compris chez les partenaires

Il est évident que des algorithmes, aussi performants soient-ils, ne peuvent se substituer entièrement à une expertise humaine, plus apte à comprendre bien des subtilités. Actuellement, Facebook dispose de 4 500 personnes réparties dans les équipes Community, dont 150 sur la seule thématique du terrorisme. Rappelons que le 3 mai dernier, Mark Zuckerberg annonçait l’arrivée de 3 000 personnes supplémentaires dans ces équipes, mais on ne sait pas quelle proportion sera affectée à la lutte contre le terrorisme.

Au sein de la petite équipe spécialisée, une trentaine de langues sont parlées. Facebook précise que les personnes qui la composent sont tous des spécialistes de ce domaine particulier, avec des experts, d’anciens procureurs, d’anciens agents des forces de l’ordre, des analystes ou encore des ingénieurs.

Cette cellule est épaulée par le reste des équipes Community, qui rapportent les comptes et contenus qui pourraient violer les conditions d’utilisation. Peut également intervenir un autre groupe, dédié celui-là aux réponses rapides quand des requetés juridiques sont émises par des autorités. Facebook parle d’un délai d’action de « quelques minutes ».

Quant à la coopération, elle recouvre plusieurs aspects. Avec l’industrie, en rappelant l’association proclamée en décembre dernier avec Microsoft, Twitter et YouTube. Les autres cavaliers ont ainsi créé une base de données commune dans laquelle ils déversent les « hash » des images et vidéos repérées. Lors des analyses automatiques, les moteurs des uns et des autres profitent donc des détections précédentes faites par les partenaires.

De multiples partenariats avec les gouvernements

Facebook ajoute que la coopération avec les gouvernements est essentielle, dans les deux sens. Il y a d’ailleurs ici deux volets : l’un qui consiste à répondre aux requêtes (via l’équipe déjà mentionnée), l’autre à acquérir des connaissances et compétences auprès des agences gouvernementales de plusieurs pays sur les mécanismes de propagande. L’Internet Forum européen, la Global Coalition Against Daesh, et le Home Office anglais sont cités en exemple de structures auxquelles participe Facebook.

Enfin, le réseau social aborde les contre-discours. Il s’agit de mettre en avant ceux qui savent désamorcer les discours de haine et de violence, Facebook s’associant avec des ONG et des groupes communautaires spécialisés. La société s’est impliquée également dans l’Online Civil Courage Initiative, qui regroupe une centaine de groupes luttant contre la haine et l’extrémisme, entre autres participations.

Il est évident que Facebook cherche à accomplir plusieurs objectifs à la fois. Répondre notamment à l’entente Macron-May sur les responsabilités des réseaux sociaux en signifiant qu’elle n’a pas attendu les nouveaux dirigeants pour se mettre à la tâche. Profiter de cette communication pour redorer une image souvent écornée sur les thématiques des discours de haine et de terrorisme. Le mois dernier, trois familles de victimes de la tuerie de San Bernardino (décembre 2015) déposaient plainte contre Facebook, Google et Twitter pour avoir permis la diffusion de messages extrémistes sur leurs plateformes.

YouTube et Twitter dans le même bateau

Cette pression s’abat sur d’autres acteurs opérant dans le même secteur d’activité. YouTube, assis sur des millions de vidéos hébergées dont la publication a été simplifiée à l’extrême, annonce du coup de nouvelles mesures pour lutter contre le terrorisme.

On retrouve globalement les mêmes lignes directrices que pour Facebook. Par exemple, le renforcement des algorithmes d’apprentissage profond pour mieux détecter les contenus liés au terrorisme et aux discours de haine. Google veut ainsi entrainer de nouveaux « content classifiers », permettant une identification plus rapide.

La plateforme d’hébergement possède également un groupe spécial d’utilisateurs nommés Trusted Flagger. Disposant de privilèges spéciaux sur YouTube, ces experts ont pour mission de contrôler tout ce qui a été repéré par les algorithmes. 63 organisations font déjà partie du programme, mais Google annonce l’arrivée d’une cinquantaine d’ONG supplémentaires. Kent Walker, responsable juridique de l’entreprise, précise d’ailleurs que ces efforts seront rémunérés.

YouTube change également de politique sur les actions à mener contre les vidéos repérées. Elles ne seront ainsi plus supprimées mais cachées derrière des messages d’avertissements. En outre, le flux financier des publicités sera coupé.

Enfin, Google utilise désormais son infrastructure de publicités ciblées de manière détournée pour mieux repérer les cibles potentielles des groupes extrémistes. Ces « recrues éventuelles » seront alors redirigées vers d’autres contenus, spécialement conçus pour « les faire changer d’avis » s’ils étaient sur le point de rejoindre un groupe terroriste. La firme cite par ailleurs une coopération avec d’autres entreprises comme Facebook et Twitter, pour la création d’outils et de techniques spécifiques. 

11 commentaires
Avatar de MoonRa Abonné
Avatar de MoonRaMoonRa- 19/06/17 à 15:37:55

Plus qu'a étendre tout ça à la dissidence politique anti européenne et on est reparti de plus belle.

Avatar de hellmut Abonné
Avatar de hellmuthellmut- 19/06/17 à 15:56:53

Enfin, Google utilise désormais son infrastructure de publicités ciblées de manière détournée pour mieux repérer les cibles potentielles des groupes extrémistes. Ces « recrues éventuelles » seront alors redirigées vers d’autres contenus, spécialement conçus pour « les faire changer d’avis » s’ils étaient sur le point de rejoindre un groupe terroriste. La firme cite par ailleurs une coopération avec d’autres entreprises comme Facebook et Twitter, pour la création d’outils et de techniques spécifiques.

bien évidemment, la firme s'engage sur l'honneur à ne pas utiliser ces techniques pour autre chose que la lutte contre le terrorisme.

pardon, et la pédophilie.
ah, et le nazisme aussi.
et le piratage.
on me glisse dans l'oreillette que les atteintes aux intérêts fondamendaux de la nation sont aussi visés.
attendez j'ai un appel du ministère... oui monsieur le ministre? oui oui bien sûr, je comprend.
reprise du direct: les troubles à l'ordre public sont aussi concernés.

vous pouvez dormir sur vos deux oreilles chers téléspectateurs, tout va bien. :yes:

Avatar de 127.0.0.1 INpactien
Avatar de 127.0.0.1127.0.0.1- 19/06/17 à 16:01:44

Ces « recrues éventuelles » seront alors redirigées vers d’autres contenus, spécialement conçus pour « les faire changer d’avis »

Résultats pour www.democrats.org ...

Avatar de darkbeast Abonné
Avatar de darkbeastdarkbeast- 19/06/17 à 16:05:52

hellmut a écrit :

bien évidemment, la firme s'engage sur l'honneur à ne pas utiliser ces techniques pour autre chose que la lutte contre le terrorisme.

pardon, et la pédophilie.
ah, et le nazisme aussi.
et le piratage.
on me glisse dans l'oreillette que les atteintes aux intérêts fondamendaux de la nation sont aussi visés.
attendez j'ai un appel du ministère... oui monsieur le ministre? oui oui bien sûr, je comprend.
reprise du direct: les troubles à l'ordre public sont aussi concernés.

vous pouvez dormir sur vos deux oreilles chers téléspectateurs, tout va bien. :yes:

D'un autre coté censurer un sein même dans une œuvre d'art et laissé passer une vidéo de décapitation ou de viol, il était peut être temps de se pencher un peu sur la question nan ?

Avatar de tifounon Abonné
Avatar de tifounontifounon- 19/06/17 à 16:19:17

Oui mais les seins c'est de la pornographie (pour certains nu = porn) alors que le sang, la boyasse, les têtes volantes, les gosses voient ça tous les jours dans les jeux vidéos et dans les films., c'est banal.

Ils se font les dents sur le terrorisme pour tout ce qui est censure, c'est juste un gros POC avant la mise en prod sur tous les autres sujets (opinions, parodies, Histoire, culture, pédonazie lunaire, etc.)

 

Édité par tifounon le 19/06/2017 à 16:19
Avatar de darkbeast Abonné
Avatar de darkbeastdarkbeast- 19/06/17 à 16:37:39

tifounon a écrit :

Oui mais les seins c'est de la pornographie (pour certains nu = porn) alors que le sang, la boyasse, les têtes volantes, les gosses voient ça tous les jours dans les jeux vidéos et dans les films., c'est banal.

Ils se font les dents sur le terrorisme pour tout ce qui est censure, c'est juste un gros POC avant la mise en prod sur tous les autres sujets (opinions, parodies, Histoire, culture, pédonazie lunaire, etc.)

sauf que pour tout filtrer ça va demander des ressources de ouf

Avatar de anonyme_d5bf0b9f87fd15affa58563db3b0ac5d INpactien

Étymologiquement, pornographie se compose de porno- (prostituée) et -graphie (écrire). La pornographie est donc une photo ou une image représentant quelque chose d'obscène.
&nbsphttps://fr.wiktionary.org/wiki/pornographe
&nbsphttps://fr.wiktionary.org/wiki/pornographie

Une photo de tétons ou de poitrine pourrait éventuellement être considéré comme de la pornographie dans un contexte obscène, sinon ça ne s'appelle pas de la pornographie, mais du voyeurisme de puritain ou plus exactement de l'érotisme (chez les Amish ou les Talibans, peut-être?).

Avatar de carbier INpactien
Avatar de carbiercarbier- 19/06/17 à 23:03:48

Car bien entendu c'est Google et Facebook qui sont les garants de la liberté d'expression et du respect des lois.

Commencer à confondre deux firmes privées avec Internet et ses capacités montre soit l'étendue de la mauvaise foi, soit une méconnaissance profonde des intérêts privés.
Il n'y a que les naifs pour croire que les GAFA sont des chevaliers blancs au service de l'humanité.

Avatar de gavroche69 Abonné
Avatar de gavroche69gavroche69- 20/06/17 à 08:03:19

carbier a écrit :

...Il n'y a que les naifs pour croire que les GAFA sont des chevaliers blancs au service de l'humanité.

Mais Heuuu !!
Zuckerberg a dit qu'il allait sauver le monde grâce à facebook !!

Et c'est lui qui l'a dit, si ça c'est pas une preuve !! :mdr2:

Sinon j'y vais de ma petite contribution :

Ouinnn !!
C'est un scandale !!
Atteinte à la liberté d'expression, la vie privée, toussa !!

Voilà, c'est fait... :D

Avatar de hellmut Abonné
Avatar de hellmuthellmut- 20/06/17 à 08:11:01

encore une fois tu te poses là niveau confusion.
ai-je prétendu que FB et Google étaient "les garants de la liberté d'expression et du respect des lois"?
ai-je prétendu qu'ils étaient "des chevaliers blancs au service de l'humanité"?

il me semble que c'est justement le contraire, mais je sais que tu as un problème particulier avec la dérision, Carbier.

Il n'est plus possible de commenter cette actualité.
Page 1 / 2