Un Américain de 41 ans a été arrêté fin juillet au Texas après avoir envoyé un email à un ami contenant des photos pédopornographiques. La police n'a pas posé un mouchard ou tout autre outil équivalent sur l'ordinateur ou la ligne internet de l'individu. C'est tout simplement Google qui a averti les autorités. De quoi relancer de nouveau les débats sur la vie privée et ce que peuvent scruter réellement les entreprises du web disposant de nos contenus parfois très privés.
« Je ne peux pas voir cette photo, mais Google le peut »
Quand on utilise un service de messagerie comme Yahoo! Mail ou encore Gmail, on sait généralement que ces derniers scannent nos messages, au moins pour détecter les malwares présents dans les pièces jointes, les courriers non sollicités (les spams) ou encore pour afficher des publicités ciblées. Mais cette analyse automatique semble aller bien plus loin.
Déjà condamné en 1994, un homme a donc été de nouveau arrêté par la police de Houston suite à une dénonciation de Google. Les commentaires de David Nettles, détective travaillant à la politique locale et interrogé par Khou.com, sont saisissants : « Je ne peux pas voir cette information, je ne peux pas voir cette photo, mais Google le peut. »
Souhaitant savoir concrètement comment Google a pu savoir que la photo envoyée était un contenu pédopornographique et non par exemple une jeune femme adulte mais aux airs très jeunes, le journal local Khou.com n'a pu obtenir de réponses à ce sujet, y compris par Google ou encore la police. Cette dernière s'est contentée de déclarer : « Je ne sais vraiment pas comment ils font leur travail. Mais je suis content qu'ils le fassent. »
La vie privée en question
Ce point de vue est peu étonnant dès lors que la firme américaine facilite leur travail. Néanmoins, cela pose de nombreuses questions, que ce soit sur la vie privée, ses actions ou encore sur leur légalité même. La société Sophos note justement que s'il s'agit ici d'une simple histoire où « un mauvais homme a commis un crime et a été attrapé », d'autres vont surtout remarquer que les géants du Net et les autorités américaines « n'ont rien de mieux à faire que de se plonger dans la vie privée des uns et des autres, à la recherche de saloperies ».
Certes, nous savons depuis longtemps que pour Google, la vie privée n'existe pas. Qui plus est, depuis plusieurs années, Google lutte à sa manière contre la pédopornographie, en filtrant sur son moteur de recherche les photos juvéniles et dénudées. Depuis l'an passé, le géant du Net a même passé la vitesse supérieure sous la pression du gouvernement britannique. Eric Schmidt lui-même a ainsi annoncé que son algorithme était désormais capable de détecter les mots, les photos mais aussi les vidéos. Mieux encore, toujours l'an passé, nous apprenions que Google et Microsoft travaillaient outre-Manche avec la National Crime Agency ainsi qu’avec l'Internet Watch Foundation, une organisation spécialisée dans les signalements de contenus illicites, ceci afin de mettre au point un plan de lutte contre le partage d’images et de vidéos pédopornographiques sur les réseaux P2P.
Dans de telles conditions, il n'est pas surprenant que la surveillance dépasse le cadre du moteur de recherche et touche l'intégralité de ses services, dont Gmail. En mars 2014, la firme californienne, alors en plein procès, était d'ailleurs la cible de neuf étudiants qui l'accusaient d'avoir scanné leurs emails non pas pour des fins de publicités ciblées mais pour créer des profils d'utilisateurs. Le procès ne s'est toutefois pas transformé en recours collectif, ce qui aurait impliqué alors des millions d'utilisateurs.
D'une manière générale, utiliser des services centralisés et gratuits comme Gmail, qui basent leur business sur vous-mêmes et vos informations, ne devrait être fait que pour des données secondaires et sans importance. Pour les informations réellement privées et professionnelles, mieux vaut donc passer par des outils maison ou des services plus sécurisés tout du moins.
Commentaires (187)
#1
Ça c’est fort! Je sais vraiment pas dire si c’est mal ou bien mais ce qui est sur c’est que ça fait peur!
#2
Autant je suis content qu’un pédophile se fasse attraper, autant je suis super inquiet de la force de scan de Google.
Et aussi super inquiet du manque de “WTF” quand Google fait ça.
ok c’est basé sur un acte positif “dénonciation d’un pédopornographe” mais bon c’est pareil avec le terrorisme, c’est un point d’entrer pour sapper les libertés.
Enfin ça n’est que mon avis.
#3
Si ils ont suivie un liens externe au mail je veux bien, mais si c’est bien un fichier interne au mail sa veux dire qu’ils s’amuse vraiment a fouiller partout …
J’aimerais vraiment savoir comment ils ont fait pour repérer le fichier , je suis bien conscients qu’ils ont accès a tout mais pas qu’ils passent leur temps a fouiller chez tout le monde.
… imaginer ce qu’ils peuvent faire avec chrome…
#4
Franchement, c’est inquiétant. Je pense surtout aux faux positifs, à l’absence totale de contre-pouvoir face à ces entreprises… et au fait que tous les pédopornographes vont tout chiffrer avec des méthodes militaires ou communiquer hors net !
Est-ce que le jeu en vaut la chandelle ? Je doute…
#5
#6
Lu sur d’autres sites (Le Monde et je sais plus) que Google avait détecté les photos par hashing donc plus ou moins normale quoi
#7
C’est honteux. De la delation pure et simple. Et c’est pas le fait qu’il s’agit de pédophilie qui change quoi que ce soit au problème.
C’est du meme acabit que les messages qu’on diffuse au cinéma invitant à dénoncer les gens qui filme.
D’ailleurs avant de voir ça, je pensais, manifestement à tord, que la délation était punie par la loi.
#8
Vu dans un article :
David Drummond affirme que Google utilise depuis 2008 une technologie permettant d’identifier les images pédopornographiques, afin de repérer ensuite automatiquement toutes les copies de ces images. En somme, le même système que celui utilisé par YouTube pour déceler les vidéos pirates.
Si c’est vraiment de manière automatique pour ce genre d’affaire, perso peut l’accepter, mais sa ne doit pas déborder pour censurer les opinions politiques de chacun.
En France sa ferait tiquer les juges : viole de l’article L241-1 du Code de la sécurité intérieure.
#9
#10
Bah c’est pas trop compliqué, une fois que la vidéo est signalée, ils doivent la tagger d’une façon ou d’une autre pour pouvoir la repérer en cas de nouvelle diffusion y compris sur un compte privé.
Et comme les comptes gmail sont une extension des comptes GOOGLE + bah déjà que le fichier est une nouvelle fois téléchargé, une alerte est probablement expédiée aux administrateurs.
Et là c’est la fête.
#11
C’est là que la devise Don’t be evil. prend tout son sens.
" />
Je sais pas ce que ça vaut comparé à l’algo de Google, mais sur un site de l’université de Toronto on peut tester un algo de classification d’image.
Vous lui filez une image ou juste son url, et il vous dit ce qu’il pense “voir” en affichant une liste de suppositions et la probabilité qu’il accorde à chacune d’elle.
Apparemment c’est basé sur un réseau de neurones artificiels…
#12
#13
C’est quoi la méthode ?
Analyse d’image super avancée?
Ou le mec a simplement envoyé un fichier dont le nom est pr0n-g1irl-under15y-by-legrosdegueu.jpg ?! Ce qui a activé l’alerte?
#14
Vivement qu’ils fassent pareil avec les mp3 envoyés par mail
" />
#15
Je ne suis qu’a moitié surpris. Ensuite je ne sais pas, s’il existe une loi aux US qui impose de dénoncer quelqu’un qui commet ce genres d’actes.
Dans ce cas Google a une force de ratissage assez dingue ! Mais effectivement, ça fait peur. Je pense que certains auraient aimer avoir ce genre d’outils pour traquer plus efficacement les dissidents …
#16
Oui mais bon, si on a rien à se reprocher, on a rien à craindre ! Right ?
" />
#17
#18
#19
#20
edit: supprimé, double post, désolé
#21
#22
#23
De la même façon que google analyse les mots pour faire de la pub ciblée, il doit analyser les images pour détecter les méta informations de l’image. Je suppose que l’image est comparé à une banque d’images connus pour détecter si l’image existe ailleurs.
La l’analyse automatique à détecté une image pédopornographique connu et à filer l’information à la police qui a pu faire une perquisition et avoir un mandat.
La police a trouvé ce qu’il fallait pour condamner le péon.
D’ou le fait que la police n’a jamais vu la photo initiale => Pas de violation du courrier.
#24
Quelle que soit la méthode d’analyse, à mon avis, en cas de “positif”, y’a forcément des personnes derrières que doivent se permettre de vérifier l’image concernée avant de balancer aux flics.
Google, si puissante soit-il, ne doit pas pouvoir se permettre des histoires de fausse dénonciation de pédopornographie.
La lutte contre le terrorisme à base de flicage des mails, c’est débile.
Faudrait déjà commencer par désarmer massivement tous les pays, et arrêter de fournir tout le monde en armes lourdes pour des questions de pognon.
Mais la lutte contre les pédophiles par scan de mails, là, je suis pour.
Les pédos se cachent, et donc le moindre “indice” doit pouvoir être utilisé.
Enfin, ce n’est que mon avis.
Après bien sûr, si on scan mes mails, et que je me retrouve fiché parce que j’ai regardé une vidéo de porn avec des trucs qui sortent un peu de l’ordinaire, là, c’est une atteinte à la vie privée.
Bref. La frontière est mince, et le sujet hautement complexe, que ce soit le plan technique, théorique ou surtout moral.
#25
D’ou le fait que la police n’a jamais vu la photo initiale => Pas de violation du courrier.
Je sens que je vais ressortir mon serveur postfix…
#26
#27
Un point me chagrine; Normalement un mail est utilisé pour envoyer une information à un destinataire.
Or ici, on parle d’une seule personne arrétée qui serait en plus l’emetteur d’une photos connues pour etre dans une base d’images déjà repertoriées.
Cette photos lui a été fournie par quelqu’un qui n’est pas inquieté et il l’a envoyé à quelqu’un qui n’est pas inquieté aussi.
#28
#29
#30
#31
Souhaitant savoir concrètement comment Google a pu savoir que la photo envoyée était un contenu pédopornographique et non par exemple une jeune femme adulte mais aux airs très jeunes, le journal local Khou.com n’a pu obtenir de réponses à ce sujet,
Il y a deux solutions soit ils ont une armé de millions d’employés enfermés dans un silo qui visionne les images uploadés et lise les 200 miliards d’email envoyé par jour. Y a du boulot.
Soit ils ont un algoritme puissant qui scanne les images envoyés pour rechercher des similitudes d’empreintes comme sur les video youtube. Dans ce cas la tache des associations et gouvernements seraient de leur fournir une base d’image pour constituer des empreintes (un peu comme fait Sony Pictures pour le cinema).
Après c’est à chacun de réfléchir, mais qui peut penser qu’une société coté en bourse dépense ses ressources pour s’occuper d’affaire de police ?
#32
#33
#34
C’est le nouveau service Google Denouncement
" />
#35
#36
#37
#38
#39
ah, j’imagine le potentiel des google glass pour bien fliquer tous le monde. “Vous parlez à une jeune fille mineur, celle-ci ne faisant pas partie de vos réseaux Google+ jusqu’au niveau 3, nous avons prévenu la police. Vous serez arrêté d’ici 24h pour violation des bonne mœurs et présomption harcèlement sexuel, votre conversation est déjà en cours d’analyse par nos serveur. Merci d’avoir utilisé les services google.”.
" />
#40
#41
#42
#43
#44
La méthode de détection est connue: il existe un fichier d’image pedophiles collecté par les forces de l’ordre, a partir duquel des hashs sont générés.
Ensuite google et d’autres utilisent ces fichiers de hash pour la détection.
Dans tout les cas aucun humain n’est entré dans le processus, et il est fort probable que le gars n’a pas fait qu’un seul hit.
Il ne faut pas oublier qu’il est probable que google utilise la déduplication pour gagner de l’espace de stockage.
Pas étonnant alors que les hashs soient utilisés pour détecter des fichiers illégaux (puisqu’un meme fichier peut etre une image d’un mail privé ou une image publique d’un post g+), d’ou les hits.
#45
#46
#47
#48
#49
#50
Vous y croyez vraiment à la détection par hash? C’est pas comme si cétait hyper simple de générer des hash différents à partir d’un même fichier en le modifiant légèrement par-ci par-la…
#51
#52
#53
Quelle que soit la méthode utilisée si cela pouvait ouvrir les yeux des internautes sur le fait que tout fichier diffusé est publique, quel que soit le site / moyen utilisé…
#54
#55
Moi je crois que c’est encore une belle preuve qu’il faut surveiller tout le monde tout le temps
" />
#56
#57
Je crois que je vais utiliser Firefox…
#58
ça doit être pratique pour éliminer un ennemi politique, je te crée un faux mail de toutes pièces, truffé de trucs oléolé et zou mon coco.
#59
#60
#61
#62
#63
#64
#65
#66
#67
#68
#69
#70
#71
#72
#73
#74
#75
#76
#77
#78
#79
#80
#81
#82
#83
#84
#85
#86
#87
#88
#89
#90
#91
#92
terrifiant
#93
#94
#95
#96
#97
#98
#99
#100
#101
#102
#103
#104
#105
Et si t’envoies une photo de Karl Marx, Google te dénonces aussi?
" />
#106
#107
Faut utiliser quoi pour sortir de gmail/yahoo/msn? (sans aller jusqu’à se monter un serveur perso)
Ya les webmails de nos providers mais l’interface est pas terrible
C’est comment les webmails OVH, Gandhi ou autre?
#108
#109
#110
#111
#112
“Je ne sais vraiment pas comment ils font leur travail. Mais je suis content qu’ils le fassent”
Un grand merci à l’inquisition de bruler toutes ces sorcières.
#113
Non, rien.
#114
#115
#116
L’article parle de dénonciation et de vie privée / informations privées et on lit dans les commentaire le mot délation (dénonciation honteuse faite en secret de la personne visée pour obtenir des avantages personnels).
Pourtant en terme de dénonciation, il existe aussi des lanceurs d’alerte et, plus généralement, des personnes qui s’interposent face à une violence ou une injustice.
La dénonciation est encore aujourd’hui très tabou en France. Finalement, les français et les allemands ont vraiment un problème avec le comportement de leurs aïeux.
#117
#118
#119
Plutôt flippant votre discours sur le fingerprint ou autre technique pour repérer une photo pédophile qui comparerait par rapport à une liste de photos existantes.
" />
Nan parce que les pédophiles les plus pervers, ils vont se dire quoi ?
Bon ben je vais créer moi même mes propres photos pédophiles comme ça je vais éviter les filtres …
Bon après c’est sûr y a pédophile et pédophile … tous ne passent pas à l’acte.
#120
#121
#122
#123
#124
#125
#126
#127
#128
#129
#130
#131
>Cet état, sur la plage, y’avait des gamins
>(2⁄3 ans) cul nuls.
>Si je prends mes gamins en photos, et
>qu’en arrière plan se retrouvent les
>gamins culs nuls, c’est pédo ?
J’ai vu y a pas longtemps un reportage TV où t’avais un mec sur la plage qui prenait en photos des enfants à moitié à poil sur la plage.
Les flics lui sont tombés dessus et ont fouillé son appareil photo.
Mais il avait effacé pas mal de photos (suffisait de voir la chronologie des nombres sur les photos).
Bref, le flic l’a rappelé à l’ordre pour lui dire que ça ne se faisait pas ce genre de comportement.
#132
#133
#134
#135
Perso je me fous de la méthode qu’a utilisé Google et je me fous des raisons qui les ont poussé à agir. Il pourrait s’agir de dénoncer un terroriste s’apprêtant à commettre un attentat massif causant des centaines de morts civiles que je ne changerais pas d’avis là-dessus : Google a fait quelque chose d’absolument inacceptable en toutes circonstances.
Google n’a PAS à transmettre un courrier privé à des tiers sans y avoir été préalablement obligé par un mandat ou une commission rogatoire signé par un juge. Jamais, en aucun cas. Il n’y a RIEN qui puisse justifier une telle atteinte à la vie privée et au secret de la correspondance.
C’est totalement inacceptable en toutes circonstances. Il est complètement révoltant d’imaginer qu’une société privée lise notre correspondance privée et qui plus est décide de la transmettre à un tiers, fut-ce l’État (en fait surtout pas l’État).
C’est juste un avatar supplémentaire de la fois où Yahoo a transmis la correspondance de gens au Gouvernement chinois. Et encore, à l’époque au moins la demande venait-elle d’une autorité. Là c’est pire : c’est de leur propre initiative.
Il n’y a rien qui justifie cela. Ni la gravité du crime, ni la volonté de bien faire, ni le fait d’avoir prévenu à l’avance. C’est scandaleux, un point c’est tout.
#136
#137
#138
#139
#140
#141
#142
#143
#144
Picus communications…..
#145
Même si on ne peut que se réjouir de cette arrestation, je crains de déplorer que google s’immisce un peut trop dans la vie privée de ses utilisateurs.
#146
#147
#148
#149
Yahoo! Mail ou encore Gmail, on sait généralement que ces derniers scannent nos messages,
Google se mêle trop de choses qui ne le regarde pas.
Mon FAI propose un dépannage 24 h et l’installation d’un petit logiciel permettant de détecter la provenance d’une panne éventuelle. Mais Google se refuse d’installer ce logiciel et le rejette, car Google considère ce logiciel comme potentiellement dangereux. Non seulement il a refusé de l’installer, mais a en même temps viré tous mes mots de passe et certaine adresses e-mail.
Deuxièmement pas plus tard que la semaine dernière, un ami a voulu me montrer une pièce cassée sur la portière de sa voiture. Il a donc été faire une photo, mais impossible de me la faire parvenir, Google la rejetait systématiquement. Pour me la faire parvenir, j’ai envoyé une photo de mon toit (au hasard) à laquelle il a ensuite joint la sienne dans le message de retour et seulement là ça a marché
Mais de quoi et de quel droit Google se mêle t-il de choses qui ne le regardent pas ?
#150
Google
extrait :
«Une personne n’a aucune attente de confidentialité légitime à faire valoir lorsqu’elle transmet volontairement des informations à des tiers», se défend la firme de Mountain View. Elle cite ici un vieil arrêté de la Cour suprême datant de 1979 sur la surveillance des communications pour tacler les défenseurs de la vie privée et justifier que Google scanne automatiquement chaque courriel afin de mieux cibler ses publicités.
Source :http://www.tdg.ch/high-tech/web/Gmail-tergiverse-sur-la-vie-privee-avoue-Google/…
#151
débats sur la vie privée
PGP ?
http://www.commentcamarche.net/contents/206-pgp-pretty-good-privacy
#152
Le pire avec ce genre d’articles, ce sont les réactions en commentaires : certains continuent d’être étonnées alors même que des informations de ce genre avaient été diffusée par Edward Snowden…
Ok, ce n’étaient pas exactement les mêmes infos, mais on comprend bien que d’après les autorités ou les grosses sociétés, la vie privée sur le net ne devrait plus exister.
Pour moi et plus que jamais, il m’est impensable d’utiliser les services de ces grosses sociétés. En effet, actuellement, elles lisent nos mails, mais plus tard, que feront-elles ? Elles les modifieront ? Elles en enverront à notre place ? Elles bloqueront purement et simplement des mails (réception et/ou émission) ?
La dernière blague faite pas frikakwa, même si ça reste une blague, montre le point de vue que peuvent avoir progressivement les autorités ainsi que la population elle-même.
“Tu as Firefox toi ? Hum, tu as quelque chose à cacher, c’est pas bien”.
“Pourquoi tu n’utilises pas Gmail/Yahoo/Outlock ? Tu as peur que tes mails soient lus ? Mais pourtant, si tu n’envoies rien d’illégal, tu n’auras pas de problèmes”.
Ainsi, nous voyons bien que la vie privée deviendra vite impossible techniquement (si vous avez un serveur personnel et que vous envoyez des mails à des internautes chez Gmail, vous serez soumis aux mêmes contraintes), mais aussi socialement. Tous ceux qui essaieront de se cacher seront mal vus, et d’une certaine façons, pourront être mis à l’écart.
En lisant cet article, en ne réagissant pas, et en ne cherchant pas d’alternatives, vous acceptez en silence des actes de ce genre.
#153
#154
#155
Pas besoin d’être en Chine.
#156
Et si cela avait été un secrétaire d’état pédophile voire un haut magistrat de la cour suprême faisant dans le petit garçon, Google aurait fait quoi, hein ?
Fermé sa grande gueule, je suppose…
#157
#158
#159
#160
#161
#162
#163
#164
#165
#166
[quote:5114543:canti]
Dans la pratique, google peut être accusé d’aider ce genre de crime, si ils ne mettent pas tout en oeuvre pour empêcher la diffusion de ces images. Ce sont les gouvernements qui demandent à google d’identifier, et de dénoncer les criminels.
Après tu peux poser la question de la limite de ce genre de dénonciation : si le gouvernement chinois te demande de dénoncer les opposants, est ce que google le ferais ? ca n’a pas dérangé skype… yahoo nonplus
[/quote
Effectivement : Google référençait il y a encore mois d’un an de nombreuses images pédophiles ou liens vers des forums pédophiles, où on trouvait des milliers de liens vers des fichiers stockés dans des serveurs dédiés au stockage, des terra-octets, mais de quatre manières :
Il y a aussi des archives RAR de faible volume, mais payantes, car contenant des
liens vers forums cachés;
Tout ça sans passer par TOR : vu les volumes, c’est même pas envisageable !
Il a fallut des mois à Google pour leur faire retirer ces référencements, y compris une adresse mail en Gmail : c’était du costaud, en terme de volume, qui avait été disséminé un partout, en Russie essentiellement, via cette adresse. Mais l’Allemagne et la Hollande sont pas mal lotis aussi, mais bien moins quand même. Et les républiques de l’ex-bloc soviétique aussi.
Il y avait même des images référencées et hébergées sur des serveurs en mode https + port 443 nécessitant sur le poste client un certificat de sécurité pour y accéder qui n’était pas disponible facilement : c’est dire si leur moteur de recherche est puissant, très puissant…
L’Internet Watch Foundation est également très puissante, très bien organisée. Avec eux, ça ne traine pas. Il est même préférable de passer par eux pour des contenus hébergés hors de France, parce que notre Police, bien que sérieuse, a peu de personnel formé, et peu de moyens, en comparaison avec l’IWF. Vous pouvez leur balancer 200 adresses de forums, ils respecteront votre volonté d’anonymat, pas comme en France !!!
Bref, Google, c’est une grosse machine qui référence TOUT ce qui n’a pas été explicitement caché ou interdit, ou mal caché ou mal interdit. Mais pour le serveur htpps, ça me laisse un peu songeur…
Conclusion : laissez tomber Gmail.
#167
#168
#169
#170
#171
#172
#173
#174
#175
#176
#177
#178
#179
#180
#181
#182
#183
#184
#185
#186