Véhicules autonomes, éthique, prévention et…

Le « véhicule autonome » est l’objet de nombreuses spéculations et presque autant de fantasmes, que ce soit sur les questions éthiques, écologiques, morales, etc. Un avis détaillé fait le point sur le sujet et propose de nombreuses préconisations, à commencer par la terminologie qu’il faudrait changer.

En juillet 2019, le Premier ministre a demandé au Comité national pilote d’éthique du numérique (CNPEN) de lui rendre un avis « sur les enjeux d’éthique soulevés par les véhicules routiers équipés de fonctions de conduite automatisées, dits "véhicules autonomes" ».

Pour rappel, le CNPEN est chargé d’« aborder de manière globale les enjeux éthiques du numérique et de l’intelligence artificielle » pour le compte du Comité Consultatif National d’Éthique pour les sciences de la vie et de la santé (CCNE), dont la mission est d’« éclairer les progrès de la science, soulever des enjeux de société nouveaux et poser un regard éthique sur ces évolutions ».

Rappels, définitions et mises en bouches

Il est désormais en ligne. L'avis est relativement court – une vingtaine de pages – mais dresse un panorama complet du sujet. Premier point important : il faudrait commencer par redéfinir la manière dont on parle d’un véhicule et des fonctions de son automatisation. Le CNPEN formule également dix-huit autres préconisations.

Il se penche ainsi sur plusieurs grandes problématiques liées à « la sécurité routière et à la sûreté de fonctionnement », au « contrôle humain du véhicule », aux « libertés des personnes » et aux « impacts sociaux et environnementaux ».

Dans tous les cas, le CNPEN rappelle (à juste titre) que « le déploiement à grande échelle de tels véhicules rendrait nécessaire une réglementation internationale », qui n’est pour le moment pas en place… car il faudrait déjà se mettre d’accord sur les questions « éthiques ».

Laissez place aux « véhicules à conduite automatisée »

Avant d’entrer dans le vif du sujet, le rapport commence par décrire les fonctions de conduites automatisées : « À la différence des fonctions d’assistance à la conduite, les fonctions de conduite automatisées se substituent au conducteur pour la conduite usuelle sur route ou en ville. Elles concernent l’acquisition et l’interprétation d’informations (perception) sur l’environnement du véhicule et le véhicule lui-même ainsi que les décisions relatives à la planification du trajet et à la conduite effective du véhicule (contrôle de la vitesse et de la direction) ». C’est pour cela que l’avis souhaite que l’on parle de véhicules à conduite automatisée à la place de véhicules autonomes.

Le document rappelle que, bien évidemment, les véhicules peuvent aussi communiquer entre eux et avec les infrastructures (les feux de signalisation par exemple). « Ces fonctions font actuellement l’objet de programmes de recherche et développement au niveau international ainsi que de nombreuses publications scientifiques et techniques, mais ne sont encore ni opérationnelles, ni commercialisées, à de très rares exceptions près ».

Petit survol de la littérature déjà disponible

La CNPEN reprend à son compte un rapport de la Direction générale des infrastructures, des transports et de la mer (DGITM) qui « souligne que les impacts de l’automatisation des véhicules sur la sécurité routière, sur la fluidité du trafic, sur la dépense énergétique, sur l’efficacité de la chaîne logistique et sur l’accès à la mobilité en particulier en zones rurales, demeurent peu documentés ou comportent de fortes incertitudes ».

Le Comité cite également un rapport allemand qui revenait sur la question du dilemme du choix de la victime en cas d’accident mortel. Le but est évidemment d’éviter autant que possible d’en arriver là, si la protection des personnes passe devant celle des animaux et des biens, ce « traitement ne doit faire aucune distinction entre les personnes et ne pas sacrifier des personnes qui ne sont pas concernées par l’usage des véhicules ».

« Le sacrifice de personnes innocentes en faveur d'autres victimes potentielles est inadmissible, car les parties innocentes seraient alors réduites à de simples instruments », pouvait-on lire dans le rapport. Pour ses voitures, Mercedes-Benz avait fait un choix différent en étant sûr de pouvoir sauver le conducteur plutôt que d’essayer de sauver plusieurs autres vies.

Enfin, le rapport de la Commission européenne est également pris en compte : « Il émet vingt recommandations qui concernent la réduction des dommages aux personnes, la révision des règles de circulation, la distribution statistique du risque en situation de dilemme, la possibilité pour l’utilisateur de choisir certaines options, la protection des données collectées, la non-discrimination quant à l’accès aux services, ainsi que l’attribution des responsabilités », explique le CNPEN.

De l’importance de la robustesse technique… et d’un mode dégradé

La « robustesse technique » est un pilier important pour les véhicules à conduite automatisée, notamment pour les systèmes « critiques » comme le freinage. Problème, les « réglementations existantes ne couvrent pas toutes les technologies développées pour les véhicules à conduite automatisée, comme par exemple l’utilisation de l’apprentissage machine dans les fonctions critiques ».

L’adaptation ou la révision de la réglementation devrait donc « imposer des normes strictes de développement, de vérification et de validation des systèmes, quelles que soient les technologies mises en œuvre » ; le but étant de pouvoir garantir un fonctionnement sur, au moins du point de vue statistique.

Un exemple de ce qu’il ne faudrait pas faire : « l’apprentissage en continu en cours d’utilisation du véhicule doit être exclu compte tenu de l’imprévisibilité du comportement du véhicule qui pourrait en résulter ». Une manière de cibler Tesla sans le dire ouvertement ?

Le risque zéro n’existant pas (pannes, erreurs de conception, attaque informatique…), « le véhicule à conduite automatisée devrait dans ce cas pouvoir être opérationnel en mode dégradé, rendre la main à l’utilisateur, ou bien s’arrêter de manière sûre et sans mettre en danger les passagers ou les autres usagers ».

Situation inattendue et « décision de tuer »

Concernant le dilemme du choix des victimes, le CNPEN rappelle à juste titre qu’il « existera toujours des situations inattendues sur la route : la programmation au préalable, aussi exhaustive soit-elle, est nécessairement incomplète ».

Il ajoute que « la question du dilemme est une expérience de pensée sur les choix moraux humains » et que « les débats relatifs aux dilemmes se fondent sur l’idée que le calcul automatique d’une décision peut être calqué sur le raisonnement moral d’un être humain ».

Mais ce n’est pas aussi simple pour le Comité : « ce raisonnement et le calcul sont de natures différentes : une situation de dilemme, présentée comme induisant une "décision de tuer" prise par la machine et faisant des victimes humaines, n’a pas de sens pour le véhicule à conduite automatisée. En effet, les actions du véhicule sont déterminées par des algorithmes prédéfinis par le concepteur ; cela ne fait pas du véhicule un agent moral ».

Le Comité signale un risque dépendant des mots utilisés : « le recours au vocabulaire utilisé pour décrire des caractéristiques humaines ("décision de tuer") est susceptible de projeter la moralité sur le véhicule ». Il insiste donc « sur le besoin de soustraire le véhicule à conduite automatisée à de telles projections à travers une mise en récit explicitement différente de celle qui caractérise les accidents impliquant des conducteurs humains ».

Des pistes de prévention de la situation et/ou du véhicule

Bref, le dilemme éthique « est une expérience de pensée sur les choix moraux humains » et devrait donc se détacher des véhicules à conduite automatisée. Néanmoins, si cela devait représenter « un véritable enjeu de décision en situation réelle », le CNPEN entrevoit plusieurs possibilités, axées autour de deux piliers.

Le premier est relatif à « la prévention de la situation ». Il serait alors question de limiter l’usage de véhicule à conduite automatisée à certaines collectivités et dans des conditions particulières. Un exemple : « interdiction de ces véhicules dans certaines zones urbaines ». Il serait aussi envisageable d’isoler ces véhicules sur « des voies spécifiques pour limiter les situations de dilemme ». En dehors de ces zones, une voiture à conduite automatisée devrait donc repasser en mode manuel.

Le deuxième pilier concerne « la programmation du véhicule ». Une première piste pour le moins surprenante est proposée : un « choix aléatoire du comportement du véhicule à conduite automatisée permettant de briser les chaînes de causalité qui mènent au préjudice et ainsi de soustraire le véhicule à conduite automatisée aux projections de la moralité ».

Une seconde piste serait d’élaborer des « règles explicites sur le comportement du véhicule à conduite automatisée en situation de dilemme », en tenant compte de la faisabilité technique et de la législation.

Enfin, la troisième piste se rapproche de la politique de l’autruche : « Ne pas distinguer la situation de dilemme en tant que telle au sein des algorithmes de contrôle du véhicule qui régissent son comportement ».

Le CNPEN ne donne pas de solution et précise que les différentes pistes des deux piliers peuvent être mélangées afin de trouver une solution.

Des opérateurs à distance… comme dans les tours aériennes ?

L’avis du CNPEN revient ensuite sur la question des opérateurs à distance, c’est-à-dire des professionnels qui supervisent les véhicules et peuvent en prendre le contrôle à distance dans certaines situations. Ils pourraient ainsi gérer une flotte de véhicules ; un parallèle est fait par l’avis avec les contrôleurs aériens dans les tours.

Ce genre d’opérateur pourrait « être amené soit à prendre en charge la conduite de manière planifiée, par exemple sur des portions de trajet où la conduite automatisée n’est pas possible, soit à intervenir dans des situations d’incidents, par nature non planifiées ».

Passer de la théorie à la pratique est un chemin semé d’embuches avec, entre autres, « la faisabilité de la conduite à distance et de l’intervention concernant un grand nombre de véhicules, du nombre d’opérateurs qui seraient nécessaires, de leurs rôles et des moyens dont ils devraient disposer ». Bref, il s’agit là encore de simples pistes d’exploration.

L’utilisateur doit pouvoir alerter (et reprendre la main ?)

Le CNPEN se place ensuite au niveau de l’utilisateur qui pourrait identifier un danger potentiel que n’aurait pas vu le système automatisé ou l’opérateur à distance. Il faudrait donc prévoir un moyen d’alerte et de communication dans le cas d’un véhicule supervisé.

Par contre, avec un véhicule à conduite automatisée sans supervision, un utilisateur pourrait décider de reprendre la main, par exemple si un des passagers faisait un malaise. Là encore, cette simple hypothèse soulève plusieurs questions : les « compétences que l’utilisateur doit obligatoirement posséder pour piloter le véhicule, qui seraient sanctionnées par un permis spécifique », les « capacités de reprise en main par l’utilisateur s’il est occupé par ailleurs » et « la conception de l’habitacle du véhicule pour permettre à l’utilisateur de reprendre la main ».

Laisser le choix dans la conduite, mais pas trop

Le CNPEN souhaite aussi que les véhicules privés ou privatifs laissent le choix à l’utilisateur entre un mode de conduite automatisée et manuel. L’utilisateur devrait aussi pouvoir personnaliser le type de trajet : le plus rapide, un trajet plus long mais touristique, etc.

« En revanche, la possibilité du choix du type de conduite par l’utilisateur pour l’adapter à ses souhaits (par exemple conduite sportive, économique...) ne peut être entièrement libre compte tenu des conséquences sur la sécurité et le trafic ». En clair, pas de mode « fou du volant » sans respecter les limitations de vitesse.

Conduite autonome vs liberté des personnes

La problématique de la liberté des personnes est aussi soulevée par l’avis. En effet, les véhicules à conduite automatisée collectent des données sur les utilisateurs, les autres usagers de la voie publique, la localisation, les infrastructures, etc. Leur traitement pose évidemment des questions de respect de la vie privée.

Autre sujet d’inquiétude : « La possibilité technique de contrôle à distance du verrouillage ou du déplacement du véhicule à conduite automatisée par une instance publique ou privée peut porter atteinte à la liberté d’aller et venir si elle est exercée en dehors d’un cadre légal ». Autant de points qui doivent trouver une solution.

La délicate question de l’éthique environnementale

De nombreuses questions se posent aussi sur l’éthique environnementale. D’un côté, le rapport anticipe que « la possession de véhicules individuels sera en baisse à la suite du développement de services de transports partagés ou de transports collectifs de proximité, encouragé par la réduction du coût d’exploitation. Il en résulterait une réduction globale du nombre de véhicules ainsi que de l’espace de stationnement ».

D’un autre côté, « la consommation énergétique intrinsèque d’un véhicule à conduite automatisée est actuellement significativement supérieure à celle d’un véhicule à conduite manuelle principalement à cause de la puissance électrique nécessaire au fonctionnement des capteurs et des calculateurs embarqués. Cette surconsommation a été estimée entre 3 et 20 %, par rapport à une réduction éventuelle de 9 % en moyenne en combinant tous les avantages qu’offrent l’automatisation et la connectivité du véhicule ».

Mais ce n’est pas tout pour le CNPEN : « Doit également y être ajoutée la consommation intrinsèque des infrastructures de communication nécessaires au fonctionnement des véhicules à conduite automatisée (relais 5G, unités de bords de route) […] La sobriété numérique est donc un enjeu majeur pour le déploiement des véhicules à conduite automatisée ».

Bref, il est « nécessaire d’évaluer les véritables besoins en matière de mobilité à l’aune des objectifs en matière écologique et du maintien des liens sociaux ». Comme souvent lorsque l’on parle de numérique et d’énergie, il faudra bien prendre en compte l’ensemble des composants et faire très attention à la méthodologie.

Vous l’attendiez ? Voici la question de la responsabilité légale

Enfin, dernier point et pas des moindres : « la responsabilité légale en cas d’accident causé par un véhicule à conduite automatisée ». Jusqu’à présent, le responsable est généralement le conducteur, « mais la notion de maîtrise du véhicule évolue déjà avec les systèmes d’assistance à la conduite qui libèrent progressivement le conducteur de ses tâches habituelles ».

Pour le CNPEN, le système de responsabilité peut d’ores et déjà être bouleversé. La question s’est posée avec les accidents mortels de voitures autonomes (Uber et Tesla par exemple), mais il s’agissait d’expérimentations ou de véhicules dans lequel le conducteur doit pouvoir reprendre le contrôle en cas de problème. Le fautif était donc tout trouvé à chaque fois.

À l’avenir, « s’il n’y a plus de notion de conducteur dans un véhicule à conduite automatisée, l’ancien conducteur devenu passager ou utilisateur devrait être libéré de toute responsabilité à l’occasion des accidents causés par le véhicule, à moins d’une maintenance insuffisante ou d’une dégradation des capacités du véhicule du fait de son gardien ou propriétaire ».

En conséquence de quoi, « les responsables des accidents seront logiquement les sociétés à l’origine de la défaillance technique ». Encore faut-il identifier parfaitement la chaine de responsabilité entre les capteurs, leur intégration, le système de calcul, l’intelligence artificielle… Dans ce dernier cas, on peut aussi chercher à savoir si le problème vient de l’algorithme, des développeurs, du cahier des charges, des jeux de données, etc.

Si les choses bougent (doucement) dans le cadre des expérimentations, des normes pérennes et générales « s’élaborent lentement, compte tenu des contraintes du droit européen et international ». Il reste encore beaucoup de travail.

Les 19 préconisations du CNPEN

Voici pour finir l’ensemble des 19 recommandations de l’avis du CNPEN :

Terminologie :

P1 : Adopter l’appellation « véhicule à conduite automatisée » dans les textes réglementaires, au lieu de « véhicule autonome ».

Sécurité routière et sûreté de fonctionnement :

P2 : Mener des simulations réalistes ainsi que des expérimentations à une échelle représentative dans différents types d'environnements afin d’évaluer l’impact des véhicules à conduite automatisée sur l’amélioration de la sécurité routière. Les expérimentations doivent être menées dans un cadre réglementaire approprié.
P3 : Étudier l’intérêt d’un signalement des véhicules à conduite automatisée en tant que tels en fonction des réactions des autres usagers.
P4 : Les futures réglementations concernant la conception des fonctions critiques du véhicule à conduite automatisée et des infrastructures permettant leur mise en œuvre doivent exiger des démarches rigoureuses de développement, de vérification, de validation et d’homologation. Elles doivent également exiger la transparence de la conception, de manière adaptée vis-à-vis des utilisateurs et des autorités de certification.
P5 : Chaque élément de l’ensemble technique constitué par les véhicules, les infrastructures, leurs connexions ainsi que les combinaisons de ces différents éléments doivent faire l’objet de protections matérielles et logicielles appropriées.
Remarque : la question du dilemme relatif à la décision en situation d’accident inévitable a été traitée, mais n’a pas donné lieu à une préconisation.

Contrôle humain du véhicule :

P6 : Assurer la possibilité de reprise en main à tout moment par l'opérateur à distance pour des véhicules à conduite automatisée de transport public ou partagé supervisés, dans le respect des contraintes de faisabilité.
P7 : Prévoir des moyens d’alerte et de communication entre l'utilisateur et l’opérateur à distance d’un véhicule à conduite automatisée supervisé ainsi que des dispositifs d’assistance et de secours sur place si nécessaire.
P8 : Adapter la formation au permis de conduire de l’utilisateur d’un véhicule à conduite automatisée non supervisé après avoir mené des études sur les compétences requises, les capacités effectives d’action, les informations pertinentes, l’interface humain-machine appropriée, et plus généralement sur la conception de l’habitacle.
P9 : Prévoir systématiquement la possibilité de choix entre mode manuel ou mode automatisé de conduite d'un véhicule privé ou privatif.
P10 : En mode automatisé, n’autoriser que des choix préétablis, normés et certifiés de types de conduite d’un véhicule privé ou privatif.

Libertés des personnes :

P11 : Des mécanismes de gestion et de protection des données personnelles recueillies et traitées par les véhicules à conduite automatisée et les infrastructures devront être étudiés (information de toutes les personnes concernées, anonymisation des données, délai de destruction des données recueillies...) prenant notamment en compte les éventuels transferts de données en dehors du territoire européen.
P12 : Assurer que le verrouillage et le déplacement du véhicule à conduite automatisée ne puissent être effectués que conformément au souhait de l’utilisateur sauf requête des autorités publiques dans un cadre légal précis et pour des finalités déterminées.

Impacts sociaux et environnementaux :

P13 : Soumettre la décision d’introduction des véhicules à conduite automatisée de transport public dans une collectivité territoriale donnée à une consultation citoyenne portant à la fois sur l’évolution de la qualité de service de mobilité, l’impact environnemental, et l’impact sur l’emploi.
P14 : Soumettre à une consultation citoyenne la décision d’autorisation de circulation des véhicules à conduite automatisée à usage privatif ou partagé dans un espace territorial donné.
P15 : Établir un plan national de développement équitable des infrastructures connectées nécessaires au déploiement des véhicules à conduite automatisée.
P16 : Prévoir, pour les personnes qui en ont besoin, les moyens humains permettant l’accès effectif aux véhicules à conduite automatisée ou assurant un accompagnement durant le trajet.
P17 : L’impact du déploiement des véhicules à conduite automatisée sur l’emploi et les métiers devrait être anticipé et évalué par secteurs, afin de créer des formations adéquates dans le cadre d’une gestion prévisionnelle des emplois et des compétences, et d’investir dans les secteurs émergents.
P18 : Soumettre le déploiement des véhicules à conduite automatisée à une homologation environnementale globale qui prenne en compte le véhicule lui-même ainsi que les infrastructures
matérielles et numériques dans les différents modes d’usage et de fonctionnement.
P19 : Tirer parti de la possibilité de mise en convoi de camions sur le réseau routier, rendue possible par les technologies de conduite automatisée, pour élaborer une politique de transport de fret multimodal respectueux de l’environnement et tenant compte de l’évolution des métiers concernés ainsi que des effets sur l’utilisation du réseau routier par les différentes catégories d’usagers.