Face à la tech, le besoin de garder un esprit critique

Alors que les nouvelles technologies sont de plus en plus présentes dans notre quotidien, comment réagir face aux annonces multiples des sociétés et autres multinationales qui nous promettent chaque jour une nouvelle révolution ? En doutant.

« Indignez-vous » criait Stéphane Hessel dans un essai publié il y a sept ans, presque jour pour jour. Une injonction qui résonne comme un appel à l'engagement, face à des situations qui n'ont pas lieu d'être. Et si l'on identifie encore aujourd'hui de nombreux sujets de société où cela s'applique, il en est autrement dès qu'il s'agit de nouvelles technologies.

Technique, marketing et information : le mariage impossible

Pensez-vous, le domaine est complexe, technique, et le plus souvent porté par des experts qui ne sont pas toujours les plus habiles dans le domaine de la communication. Dès lors, ce sont des Elon Musk et autres prophètes des temps modernes qui occupent tout l'espace médiatique, sans que l'on se pose toujours les bonnes questions.

Car pendant que l'on se demande si l'on peut connecter nos cerveaux à une machine (qui fonctionne différemment) ou si l'IA de nos téléphones ne va pas prendre le pouvoir pour tous nous éradiquer (spoiler : non), on évite de s'attarder sur des problématiques plus proches de nous. Celles vendues par l'émerveillement du marketing et de la (pseudo-)nouveauté.

Que dire des sites et autres journaux pour qui « la tech » n'est qu'une source d'info à la chaîne comme une autre. Portée par un domaine aussi rigoureux que celui de la recherche scientifique, elle permet de parler de « turfu » avec des termes aussi abscons que les qubits, la blockchain, le deep/machine learning et autres solutions qui apparaissent presque comme magiques pour le profane. Et de s'empresser de penser que la cape d'invisibilité, c'est pour bientôt (ou pas).

« Dubito ergo sum » (je doute donc je suis) comme maxime de notre métier ? Impossible dans un secteur où il faut rendre rapidement des papiers, et si possible faire un maximum d'audience, avec des sujets pourtant complexes à comprendre et à vulgariser. Il faut ainsi tout rendre digeste et génial, quitte à oublier de se poser la question des enjeux concrets (ça risque de prendre la tête au lecteur, vous comprenez).

Le fantasme de l'IA, ça marche

Les exemples sont nombreux. Prenez par exemple l'annonce de Deep Mind autour d'AlphaGo Zero la semaine dernière, reprise par l'ensemble de la presse, spécialisée ou généraliste.

Pourquoi cette annonce en particulier ? En effet, le domaine de recherche qu'est l'intelligence artificielle donne l'occasion de multiples découvertes, par un nombre important de sociétés ou de chercheurs. Mais ici il est question de DeepMind (donc de Google), le tout avec un objet facile à intégrer : une compétition de jeu de Go. Et un résultat tout aussi facile à comprendre : la machine est la meilleure et se perfectionne.

Dès lors, il suffit que DeepMind publie le moindre communiqué de presse pour que cela soit repris, sans forcément d'ailleurs que les annonces en question soient analysées sur le fond ou même remises en cause. Ainsi, on a pu apprendre qu'AlphaGo Zero était « surpuissant », « autodidacte », pouvait « se passer de données humaines » ou qu'il « franchissait une nouvelle étape dans le domaine de l'intelligence artificielle ». Rien de moins.

Savoir regarder derrière le discours marketing...

Malheureusement, et sans vouloir amoindrir les résultats impressionnants obtenus par les équipes de Deep Mind dans l'évolution de leurs techniques d'apprentissage, il s'agissait surtout de l'annonce de l'utilisation d'une solution plus efficace et par renforcement uniquement, plutôt qu'une hybride (renforcement et supervisé) qui était utilisée jusqu'à lors.

Mais l'apprentissage par renforcement n'est en rien une nouvelle étape dans le domaine de l'IA, AlphaGo Zero a toujours besoin de l'humain pour apprendre les règles du Go et concevoir les bases de son système d'évaluation, il est toujours incapable de faire quoi que ce soit d'autre que jouer au Go et sa force principale par rapport à l'humain est toujours de pouvoir jouer des millions de parties en quelques jours afin de se perfectionner.

C'est d'ailleurs ce même concept qui est utilisé pour l'entrainement des systèmes de contrôle des voitures autonomes hors des routes, des sociétés comme NVIDIA travaillant même à des environnements programmables, purement virtuels mais reproduisant le réel comme le projet Isaac, afin d'industrialiser ce processus.

Mais ici, ce sont les serveurs de Google qui sont utilisés, selon le story telling dessiné par l'équipe de communication, la prouesse est exceptionnelle, il s'agit de la machine qui dépasse l'humain dans tous les sens du terme, et c'est à travers les hommes et les processeurs de Google que cela est réalisé. C'est tout ce que la société veut que l'on retienne, dans le fond.

... et les caractéristiques techniques

Que dire de Google Clips ? Une caméra à 249 dollars, à porter constamment sur vous, qui garde systématiquement trois heures de votre vie en vous assurant de ne jamais les partager avec Google (sauf si un bug se produit ou que les conditions viennent à changer).

Ici aussi l'IA est mise en avant, comme si la caméra était équipée d'une intelligence supérieure. En réalité, elle exploite une puce d'ancienne génération Myriad 2 de Movidius, une société rachetée par Intel, qui est optimisée pour la reconnaissance visuelle à travers des réseaux neuronaux.

Elle peut ainsi effectuer une sélection locale de vos « meilleurs moments » et vous permettre de les partager simplement. Un produit vendu pour un usage familial, à coups de « vous ne voudriez pas louper votre enfant qui grandit ou votre chat qui fait un truc marrant ? » et autres tendances du « Life logging », alors que le concept lui-même est sur le fond plutôt flippant (comme il le fut chez Sony), et qu'on l'imagine bien plus intéressant dans le cadre de l'organisation d'évènements.

Dans un tel contexte, des « influenceurs » pourraient partager leurs plus belles rencontres et autres découvertes de manière simple pour la plus grande joie de leurs « partenaires ». Et ce, sans que l'on en vienne à imaginer une société de surveillance permanente et généralisée, où chacun pourrait participer à la reconnaissance des fleurs... ou des visages. 

Le coup du produit « révolutionnaire » et à l'ère de l'intelligence artificielle se retrouve d'ailleurs dans tous les secteurs, notamment celui des smartphones, sans que personne ne saisisse l'ironie du terme « smartphone intelligent ». Ce, alors qu'il est aussi question de la simple intégration d'une puce optimisée pour les calculs sur des réseaux neuronaux, avec une couche logicielle plus ou moins accessible.

Même Intel a décidé de mettre une seconde couche sur le sujet pour tenter de récupérer sa part du gâteau de l'IA, avec le lancement de ses produits de la gamme Nervana d'ici la fin de l'année.

Et des dizaines de start-ups annoncent chaque jour un produit à base d'IA, bien que dans pas mal de cas, il s'agisse de programmes assez classiques. Mais l'on n'attire pas les mouches (ici les investisseurs) avec du vinaigre. Il faut donc parfois savoir jouer un peu (trop ?) avec la vérité.

Google, l'un des rois de la comm' 

De son côté, Google n'en est d'ailleurs pas à son coup d'essai, et lorsqu'il s'agit de faire passer des vessies pour des lanternes, il a le chic. Nous avons déjà évoqué en détail le cas des routeurs Google Wifi, testés de manière très enthousiaste par de nombreux médias au début de l'été.

Ce, alors que ces produits n'ont rien de bien exceptionnel techniquement, offrent des performances plutôt mauvaises lorsqu'ils sont utilisés dans des conditions réelles face à d'autres solutions, et ont un fonctionnement assez propre à Google : un compte maison obligatoire, utilisation des DNS maison par défaut plutôt que ceux du FAI et désactivation de fonctionnalités si vous activez certains paramètres de vie privée.

Mais bon, ils sont compacts et l'application est jolie, plutôt simple à utiliser. On retrouve même parfois des articles vantant leurs mérites sans le moindre test de débit. Cela doit donc être un sujet assez annexe. 

L'enthousiasme est de toute façon une valeur mieux perçue dans le domaine de « l'info tech » que le fait d'aller chercher la petite bête. L'info positive, c'est l'avenir. Cette capacité à la remise en question devrait pourtant être l'essence même de nos métiers.

L'intelligence à la sauce école des fans

Un autre bon exemple est Google Home, vendus par certains comme une «  enceinte intelligente » ou un « un véritable ordinateur, précurseur d'une nouvelle forme ». Petit rappel des faits : un tel objet n'a rien d'intelligent. Il est connecté.

Il en est de même pour les Pixel Buds annoncés plus récemment, et qui ne sont que des écouteurs que Google a décidé de présenter comme un outil de traduction en temps réel pour éviter de lire partout dans la presse : « Google lance des écouteurs sans fil, comme Apple et Samsung (et tout le monde en fait) ». L'opération a parfaitement fonctionné.

La seule fonctionnalité de ces outils sur le fond est de recevoir une requête vocale (via un micro), transmise à des serveurs, et d'énoncer la réponse (via une enceinte). Bref, une chaise pourrait être connectée de la même manière, elle n'en serait pas plus intelligente. Un ordinateur n'est pas intelligent parce qu'il a accès à internet et à Google.fr.

Et quand bien même on pourrait réellement considérer les assistants personnels actuellement proposés par certains géants américains comme des « intelligences » à part entière (spoiler : ce qu'elles ne sont pas, surtout vu le niveau de leurs réponses), c'est dans celles-ci que se trouve toute l'innovation, et pas ailleurs.

Garder une distance suffisante pour voir l'image dans son ensemble

Cela devrait d'ailleurs nous inciter à nous poser une série de questions, qui sont bien moins mises en avant que l'émerveillement global face à tous ces nouveaux produits qui attirent des millions de lecteurs sur les pages des grands journaux et autres sites spécialisés : derrière les annonces et le bullshit marketing, qu'est-ce que l'on nous vend ?

La plupart du temps, deux choses : de la dépendance et de la collecte de données. Car derrière la mise en avant d'objets connectés, les géants du secteur veulent surtout s'imposer dans notre quotidien et y implanter leurs choix.

Vous trouviez Google puissant en sélectionnant qui était présent sur la première page de ses résultats de recherche à travers un algorithme nébuleux sur lequel la société ne rend aucun compte ? Attendez de voir ce qu'il se passera quand tous les éditeurs de services se battront pour la seule place qui compte à l'heure des assistants vocaux : la première.

Car quand vous poserez une question à Alexa, Google Assistant ou Siri, une seule réponse vous sera proposée. Envie de vous faire livrer un repas ce soir, de regarder un programme à la TV, d'écouter de la musique ou d'acheter un produit ? Il n'y aura à chaque fois qu'un grand gagnant, et une seule entreprise qui définit les règles pour son écosystème.

L'arrivée de Google Home, avec seulements quelques médias partenaires et quelques services a assez bien illustré le problème cet été. Surtout que rien n'oblige les différentes plateformes à un traitement équitable et transparent. Surtout, aucune alternative concrète aux solutions des géants américain, qui miserait sur ces valeurs, n'existe.

La dépendance aux algorithmes ne va faire que s'accroitre

Un exemple simple à comprendre se retrouve dans l'un de nos premiers essais de Google Home. Lorsque nous avons demandé à l'enceinte connectée de nous jouer « Ave Maria », c'est la version de Beyoncé qui s'est lancée. Dès lors, c'est cette artiste qui a été rémunérée pour notre écoute.

Que faire pour que demain, ces solutions soient agnostiques en termes de services, et que les services eux-mêmes fonctionnent de manière équitable ? Pas grand-chose pour le moment. Concernant le concept de loyauté des plateformes, issu de la loi pour une République numérique ? Il faudra attendre le 1er janvier 2018, le décret ayant tardé à être publié.

Ainsi, les plateformes devront préciser « les conditions de référencement et de déréférencement des contenus et des offres de biens et services, notamment les règles applicables pour être référencé et les obligations dont le non-respect conduit à être déréférencé » mais aussi « les critères de classement par défaut des contenus et des offres de biens et services, ainsi que leurs principaux paramètres ».

Mais il ne faut sans doute pas trop espérer de ces obligations, assez floues pour que les éditeurs de services puissent s'en tirer en publiant une liste de grands principes, celle-ci devant simplement être accessible depuis n'importe quelle page de leur site. Autant dire que dans le cadre d'un objet connecté, cela sera tout simplement invisible. 

La collecte des données : une dénonciation à plusieurs vitesses

Concernant la collecte de données personnelles, les réactions sont en général plus diffuses et ne touchent pas tant à la capacité de tel ou tel de comprendre et de s'indigner, mais plutôt au contexte. Car sur ce sujet, si les esprits sont plutôt habitués à la critique, il est encore assez rare de voir ces questions systématiquement abordées dans le cadre de tests ou d'analyses de produits et/ou de stratégies. Ce, pour plusieurs raisons.

Déjà, s'il y a bien des acteurs qui collectent des données pour des tiers à travers leur service en ligne, ce sont bien les entreprises de presse et autres sites d'info dont les pages sont bourrées de scripts qui n'ont que cet objectif, le tout poussé par un modèle publicitaire à la peine.  

Le premier de ces trackers est d'ailleurs Google Analytics, que même une fondation comme Mozilla qui se présente comme un défenseur de la vie privée, place dans tous ses services en ligne. Mais quand ceux-ci sont annoncés, de Send à Screenshots, qui vient s'en offusquer ? Presque personne.

Pourtant, il s'agit sans doute là du dispositif de surveillance des habitudes des internautes le plus global qui soit. Implanté sur presque tous les sites, même ceux qui se présentent comme les plus vertueux, il devrait soulever de nombreuses inquiétudes. Mais simple à mettre en place, efficace et en général utilisé de manière gratuite il est jugé séduisant.

Il ne devrait pourtant pas être utilisé sans consentement de l'utilisateur selon les règles imposées par la CNIL, notamment parce que Google pratique du recoupement de données. La commission recommande plutôt AT Internet et Piwik qui peuvent être utilisés de manière à respecter la vie privée de l'utilisateur.

Mais qu'importe, personne n'en a rien à faire, la CNIL n'a de toute façon jamais pris ses responsabilités en allant sur le terrain des sanctions sur ce point, et pendant ce temps, Google et tous les autres services utilisés par les éditeurs de presse profilent la population française en attendant de voir à quelle sauce ils vont être mangés par le RGPD et ePrivacy.

Capture du site des Échos, en février 2016

Dans le pire des cas, ils espèrent bien vous imposer un « Cookie wall » : pas envie d'être tracké ? Vous n'aurez pas accès au contenu. Une pratique qui, si elle apparaît comme détestable, aurait au moins l'intérêt de poser le débat tel qu'il est en réalité et de laisser clairement le choix aux internautes du modèle de site et de financement qu'ils souhaitent.

Dès lors, il est plus compliqué pour ces acteurs de venir faire la leçon sur les questions de vie privée, bien que les journalistes ne font ici que subir les décisions de leurs directions. Et même s'ils vont regarder les mauvaises pratiques ailleurs, qui va aller s'inquiéter de la façon dont leurs médias gèrent les choses ?

Analyse critique : le besoin de raviver la flamme

Il ne s'agit ici bien entendu que de quelques exemples, l'extension des nouvelles technologies dans nos vies apportant de nombreuses problématiques auxquelles nos sociétés vont devoir réfléchir et s'adapter, rapidement. 

Mais elles ne pourront le faire aussi que si, face à ces technologies pour le moment surtout portées par des grandes entreprises qui ont besoin de nous vendre des produits, nous savons garder une distance critique et une liberté suffisante. Il faut bien entendu continuer de savoir s'émerveiller des innovations majeures lorsqu'elles se produisent, mais surtout réussir à éclairer le lecteur lorsqu'il est face à un discours marketing qui le prend... pour un jambon.

Car sans cette analyse critique, cette capacité au doute et à l'indignation face aux pratiques parfois détestables de ce secteur, internet et les nouvelles technologies ne sont qu'une immense séance de téléshopping. Et ils valent bien mieux que cela. Nous valons bien mieux que cela.