Spécialiste des réseaux de neurones artificiels (il a reçu le prix Turing en 2018 avec Yann LeCun et Yoshua Bengio pour ses contributions sur le sujet), Geoffrey Hinton, 75 ans, a quitté Google après une décennie de travail pour elle. Parmi les raisons de son départ, expliquées dans la Technology Review : la volonté de pouvoir s’exprimer librement sur les questions de sécurité de l’IA, même s’il se déclare satisfait des orientations prises par Google.
Auprès du New-York Times, il explique qu’une partie de lui « regrette l’œuvre de sa vie » : depuis peu, l’ingénieur a rejoint la foule des critiques de l’intelligence artificielle. Plus précisément, il s’inquiète ouvertement des risques que pose l’intelligence artificielle, domaine qu’il a participé à construire.
Depuis les années 1980, il déclare s’inquiéter de l’usage de l’intelligence artificielle dans l’industrie militaire, et redouter ce qu’il qualifie de « robots soldats ». Plus récemment, alors qu’une course à la sortie des fonctionnalités d’IA générative s’est engagée entre Microsoft, Google et le reste de l’industrie, il s’inquiète des effets de ces modèles sur l’information (pour lui, les « hallucinations » des machines sont une fonctionnalité, pas un bug, de la même manière que les humains « affabulent tout le temps »), le marché du travail et, plus loin, l’humanité entière.
Comme le souligne la Technology Review, les débats autour des capacités de l’intelligence artificielle sont très clivants. Et les deux articles pré-cités n’ont pas manqué de provoquer des réactions comme celles de la chercheuse Timnit Gebru et du journaliste et critique de la tech Paris Marx.
Pour eux, les termes employés par Geoffrey Hinton ressemblent aux idées véhiculées dans d’autres discours très hypothétiques, notamment du côté du courant long-termiste, sur les potentiels de l’IA. Ce faisant, ils détournent l’attention de problématiques plus urgentes que posent ces modèles, c’est-à-dire des dommages qu’ils peuvent causer dès aujourd’hui.
