Elon Musk, le PDG de l’entreprise américaine Tesla, était récemment interviewé dans le cadre de l’AeroAstro Centennial Symposium du MIT (Massachussetts Institute of Technology). Interrogé sur le sujet de l’intelligence artificielle, ses réponses sont devenues des mises en garde, suggérant que la communauté internationale devrait veiller à ce que des bornes ne soient pas dépassées.
Le patron de Tesla enclin à faire très attention avec l'intelligence artificielle
Elon Musk est un entrepreneur de premier plan aux États-Unis et il est célèbre dans le monde entier pour au moins deux de ses entreprises. D’une part, Tesla, un constructeur automobile ne produisant que des modèles électriques. D’autre part, SpaceX, qui produit du matériel destiné aux vols spatiaux et à l’astronautique en général. SpaceX est d’ailleurs un fournisseur privé de la NASA et dispose de plusieurs lanceurs. Il s’agit dans les deux cas de sociétés que l’on pourrait qualifier de « technologie de pointe ».
Au cours de son interview lors du MIT AeroAstro Centennial Symposium, Elon Musk a cependant eu l’occasion d’exprimer ses vues sur tout ce qui touche à l’intelligence artificielle. Globalement, il se montre précautionneux, invitant l’industrie et la communauté internationale à faire très attention à ce qui est réalisé dans ce domaine, en particulier quand la science informatique se penche sur les mécanismes cognitifs de l’être humain.
Les commentaires sur l'intelligence artificielle commencent vers 1 heure et 7 minutes
« Avec l'intelligence artificielle, nous invoquons le démon »
« Je pense que nous devrions faire très attention avec l’intelligence artificielle. Si je devais imaginer quelle serait notre plus grande menace existentielle, c’est probablement ça. Nous devons donc nous montrer très prudents » indique-t-il ainsi. Il enchaine, montrant une véritable crainte à ce sujet : « Je suis de plus en plus enclin à penser qu’il devrait y avoir une supervision régulatrice, peut-être aux niveaux nationaux et internationaux, juste pour être certains que nous ne faisons pas quelque-chose de stupide ».
La discussion prend même un tour mystique : « Avec l’intelligence artificielle, nous invoquons le démon. Vous savez, ces histoires où vous avez un homme avec un pentagramme, et l’eau bénite, et il fait comme si il pouvait contrôler le démon ? Ça ne fonctionne jamais ». Bien que la réplique ait eu le don de faire rire l’assistance, Musk exprime sa peur de voir le génie sortir de sa bouteille pour ne plus jamais y revenir.
L'IA plus dangereuse que les bombes atomiques ?
Les craintes de Musk prennent sans doute racine dans l’anticipation et les très nombreux ouvrages abordant la thématique de l’intelligence artificielle, de l’évolution de la robotique ou même encore de la théorie de la singularité. En août dernier, il indiquait par exemple avoir lu le livre « Superintelligence: Paths, Dangers, Strategies » de Nick Bostrom. L’ouvrage suggère de se méfier de quelle manière nous rendons les machines intelligentes. Ainsi, nous sommes plus intelligents que les gorilles, dont la survie dépend essentiellement de l’homme et de son cerveau plus évolué. Une analogie qui faisait alors dire au patron de Tesla : « Nous devons faire particulièrement attention avec l’intelligence artificielle. Elle est potentiellement plus dangereuse que les bombes atomiques ».
Worth reading Superintelligence by Bostrom. We need to be super careful with AI. Potentially more dangerous than nukes.
— Elon Musk (@elonmusk) 3 Août 2014
Elon Musk est probablement très versé dans la littérature de science-fiction puisqu’il a même demandé à l’un des étudiants dans la salle quelle était son œuvre préférée. Mais pour rester dans ce domaine particulier, Musk semble pour l’instant plus proche du jihad butlérien de Frank Herbert (Dune) que des gens robots d’Isaac Asimov et de leurs trois lois fondamentales.
