Une étude publiée dans les Actes de l'Académie nationale des sciences des États-Unis suggère que les humains peuvent être floués par des visages synthétiques créés par des IA (« deepfakes ») et les considérer comme « plus fiables » que des visages de véritables êtres humains, rapporte The Scientific American.
« Nous avons constaté que non seulement les visages synthétiques sont très réalistes, mais qu'ils sont jugés plus fiables que les vrais visages », déclare Hany Farid, co-auteur de l'étude et professeur à l'Université de Californie à Berkeley. Le résultat soulève des inquiétudes quant au fait que « ces visages pourraient être très efficaces lorsqu'ils sont utilisés à des fins néfastes ».
Après avoir compilé 400 visages réels appariés à 400 versions synthétiques, les chercheurs ont demandé à 315 personnes de distinguer le vrai du faux parmi une sélection de 128 images. Un autre groupe de 219 participants a reçu une formation et des commentaires sur la façon de repérer les faux alors qu'ils essayaient de distinguer les visages. Enfin, un troisième groupe de 223 participants a évalué chacun une sélection de 128 images pour leur fiabilité sur une échelle de un (très peu fiable) à sept (très fiable).
Le premier groupe n'a pas fait mieux qu'un tirage au sort pour distinguer les vrais visages des faux, avec une précision moyenne de 48,2 %. Le deuxième groupe n'a pas montré d'amélioration spectaculaire, avec un taux de précision d'environ 59 %. Pire : le groupe chargé d'évaluer la fiabilité a attribué aux visages synthétiques une note moyenne légèrement supérieure de 4,82, contre 4,48 pour les personnes réelles.
Les chercheurs ne s'attendaient pas à ces résultats. « Nous pensions initialement que les visages synthétiques seraient moins fiables que les vrais visages », explique Sophie Nightingale, co-auteure de l'étude.