Voiture autonome : l'accident mortel d'Uber ou la « bêtise » de l'intelligence artificielle

Pour rappel, l'accrochage impliquait un piéton traversant la route avec son vélo (des photos du lieu sont disponibles par ici). Elaine Herzberg, âgée de 49 ans, est décédée des suites de cet accident. Le conducteur de test présent dans la voiture n'a souffert pour sa part d'aucune blessure physique. Il n'avait par contre quasiment pas réagi avant le choc.

Un rapport préliminaire avait été mis en ligne en mai 2018, deux mois après l'accident. On y apprenait que les radar et lidar avaient détecté le piéton environ 6 secondes avant l'impact, sans pouvoir l'identifier.

De son côté, « le conducteur du véhicule a pris le volant moins d'une seconde avant l'impact et a commencé à freiner moins d'une seconde après », pas suffisant pour éviter le drame. Problème, selon des éléments de l'enquête le conducteur de la Volvo était en train de regarder une vidéo sur son smartphone au moment de l'accident, ce qui expliquerait le délai de réaction beaucoup trop long.

• Accident mortel Uber : le rapport préliminaire du NTSB permet d'y voir (un peu) plus clair

Lidar, radar et caméra : trois « yeux » sur la route

Dans son nouveau rapport, le NTSB rappelle s'il en était besoin que l'Aide à la conduite automobile (ADAS) de Volvo était désactivée pour ne pas interférer avec le pilote automatique d'Uber. Les capteurs de la voiture modifiée par Uber avaient été calibrés une semaine plus tôt.

Avant d'entrer dans les détails, le National Transportation Safety Board pointe un élément important pour la suite : le fonctionnement de la détection d'objet sur et autour de la route. Cette fonction « est principalement effectuée par les systèmes lidars, radars et caméras, qui ont chacun des fonctions spécialisées différentes. Lorsqu'un objet est détecté, il est suivi, son cap et sa vitesse sont calculés. Ils sont classés par le système en tant que véhicules, piétons ou cyclistes, mais un objet peut aussi être classé dans la catégorie "autre" ».

Des algorithmes internes se chargent de mélanger les différentes sources d'informations pour arriver à la bonne conclusion. Une fois un objet détecté, le système tente de prédire sa direction et sa vitesse. Par exemple, un véhicule sur une voie de circulation sera généralement considéré comme roulant dans le sens de circulation de cette voie. L'historique des détections d'un objet permet d'affiner les prédictions, continuellement mises à jour en fonction des informations reçues.

Catégorisation et calcul de trajectoire des objets détectés

On touche au problème lorsqu'un objet change de catégorie : son historique n'est plus pris en compte pour le calcul des trajectoires possibles. Pour en ajouter une couche, les objets classés dans « autres » sont considérés comme n'ayant pas d'objectif particulier.  Pour ces objets, « leur emplacement actuellement détecté est généralement considéré comme un emplacement statique, à moins que cet emplacement ne se trouve directement sur le trajet du véhicule automatisé, cet objet n'est pas considéré comme un obstacle possible ». Sans être expert on voit vite arriver les problèmes potentiels... 

Le NTSB en profite pour expliquer qu'il en est de même pour les piétons se trouvant en dehors d’un passage clouté : ils n'ont pas d'objectif selon le système. Mais il peut toujours prédire une trajectoire basée sur les vitesses observées, lorsque l'objet est continuellement détecté en tant que piéton. S'il existe un risque de collision, des mesures sont prises.

Seconde par seconde, le déroulement de l'accident

Dans le cas de l'accident de Tempe (Arizona) en mars 2018, le NTSB retrace très précisément les événements :

• 9,9 secondes avant impact : le véhicule commence à accélérer (il était à 56 km/h).
• 5,8 secondes avant impact : le véhicule atteint la vitesse de 71 km/h environ, dans le respect de la limitation.
• 5,6 secondes avant impact : le radar fait une première détection et classe le piéton comme véhicule, sans identifier qu'il croise la trajectoire de la voiture.
• 5,2 secondes avant impact : le lidar détecte aussi le piéton et le classe dans la catégorie « autre », en estimant qu'il est statique. La vitesse de la voiture est maintenant de 72 km/h.
• 4,2 secondes avant impact : le lidar classe le piéton comme véhicule, sans garder l'historique des précédentes détections puisqu'il change de catégorie. Le pilote automatique le considère toujours comme statique.
• 3,9 secondes avant impact : le lidar maintient sa version d'un véhicule. Le système calcule sa trajectoire supposée et estime que l'objet se déplace sur la voie de gauche, à côté de la voiture, sans risquer de croiser son chemin.
• 3,8 à 2,7 secondes avant impact : le système alterne plusieurs fois entre véhicule et autre pour classer le piéton, perdant l'historique à chaque fois. Le piéton est considéré comme statique ou en déplacement sur la voie de gauche.
• 2,6 secondes avant impact : le lidar détecte le piéton comme un vélo, de nouveau sans avoir d'historique. La prédiction est alors qu'il s'agit d'un objet statique, qui ne croise pas la route de la voiture.
• 2,5 secondes avant impact : le lidar maintient sa version d'un vélo et le système dispose désormais d'un court historique pour estimer son déplacement. Il serait sur la voie de gauche et ne croiserait pas la route du SUV. 
• 1,5 seconde avant impact : le lidar change de nouveau sa version et classe le malheureux piéton dans « autre », sans historique ni objectif, le système considère l'objet comme statique et partiellement sur le chemin de la voiture. Une manœuvre d’évitement par la droite semble alors suffisante. La vitesse est de 71 km/h.
• 1,2 seconde avant impact : le lidar revient à sa version d'un vélo. On perd de nouveau l'historique et le système estime cette fois-ci qu'il est sur le chemin du SUV. La vitesse est de 69 km/h. Le plan d'évitement défini 300 ms auparavant n'est plus d'actualité, car dangereux ; « la suppression de l'action commence ».
• 0,2 seconde avant impact : la suppression est terminée (une seconde tout de même). La situation est toujours considérée comme dangereuse, le système baisse la vitesse (64 km/h) et envoie une alerte sonore.
• 0,02 seconde avant impact : le conducteur donne un coup de volant, désengageant le pilote automatique. La vitesse est de 63 km/h.
• Impact mortel.
• 0,7 seconde après impact : le conducteur appuie sur les freins.

Un piéton en dehors d'un passage clouté ? Ça n'existe pas voyons 

La première détection a donc eu lieu moins de 6 secondes avant l'accident, un délai en théorie largement suffisant pour anticiper et éviter le drame. Problème, « le système n'a jamais classé [Elaine Herzberg] comme piéton ni prédit correctement sa trajectoire en tant que piéton ou cycliste piétonnier - parce qu’elle traversait l’avenue en dehors des passages cloutés ».

Or, « la conception du système n'incluait pas la prise en compte des piétons traversant en dehors des passages », explique le régulateur américain. Le Code de la route est une chose, mais on le sait parfaitement : tout le monde n'a pas une conduite parfaite et ne le respecte pas scrupuleusement à la lettre. C'est valable pour les voitures, les piétons, les cyclistes, les trottinettes électriques, etc. 

De plus, le changement régulier de catégorie a également empêché une bonne détection de la direction et de la vitesse d'Elaine Herzberg par le pilote automatique. 

Lorsque la collision est formellement identifiée à 1,2 seconde avant impact, une manœuvre d'évitement aurait nécessité un changement de trajectoire et un freinage trop important, en dehors des capacités définies dans le système. Il a donc lancé la suppression de son plan, qui s'est terminée une seconde plus tard.

À ce moment-là, « le véhicule était toujours sur la trajectoire d'une collision avec le piéton et, pour l'empêcher, il fallait encore une manœuvre d'évitement extrême. De par sa conception, le système n’a pas actionné d'urgence les freins, mais a fourni une alerte sonore au conducteur du véhicule tout en diminuant la vitesse du véhicule ». La suite, tragique, on la connaît. 

37 autres accidents entre septembre 2016 et mars 2018

Pendant l'enquête, ATG (Uber) a partagé avec le NTSB l'ensemble des enregistrements de sa flotte avec au moins un accident impliquant une de ses voitures (responsable ou non) : « Les dossiers ont montré qu'entre septembre 2016 et mars 2018 (à l'exception du crash actuel), il y a eu 37 accidents impliquant des véhicules ATG, qui fonctionnaient en mode autonome ». 

Dans la grande majorité des cas (33 sur 37), un autre véhicule est venu heurter la voiture d'Uber, généralement par derrière. Dans deux cas, la voiture autonome « a été endommagée par un piéton qui passait alors que le véhicule était arrêté ».

Il reste donc deux cas. Une borne de piste cyclable occupant partiellement la voie a été heurtée dans l'un, tandis que dans l'autre, le conducteur a repris le volant pour éviter un véhicule arrivant en sens inverse, en heurtant au passage une voiture stationnée.

Uber a pris des mesures, qui auraient pu éviter le drame

Depuis l'accident mortel, l'Advanced Technologies Group (ATG) d'Uber a retiré ses véhicules autonomes pendant plusieurs mois, avant de les remettre doucement en circulation fin 2018. Le fabricant a aussi « modifié la façon dont le système fusionne les informations du capteur et prédit les chemins possibles pour prendre en compte l'historique de suivi ». Ce n'est pas tout, certains systèmes d'aide à la conduite de Volvo restent désormais actifs avec le pilote automatique Uber, notamment l'avertissement de collision frontale et le freinage d'urgence automatique.

Désormais, la phase de suppression n'existe plus en cas d'urgence (elle a duré une seconde à un moment critique pour rappel). En cas de danger immédiat, le système enclenche le freinage d'urgence, même si cela ne permet pas d'empêcher l'accident (au moins il l'atténuera). Désormais, lorsqu'un objet change de catégorie, son historique est conservé afin de calculer au mieux sa trajectoire, sa vitesse et le risque de croiser le chemin de la voiture. 

Les enquêteurs du NTSB ont demandé à Uber quelles auraient été les conséquences de l'accident de mars 2018 avec l'ensemble de ces changements sur le pilote automatique. En le simulant avec une version de septembre 2018 du logiciel (qui comporte d'autres changements que ceux mentionnés), Uber estime que le piéton aurait été détecté à environ 88 mètres, soit 4,5 secondes avant l'impact. Après analyse, la voiture aurait freiné un peu plus de 4 secondes avant l'impact, un délai qui aurait été suffisant pour éviter le drame.

Quoi qu'il en soit, nous attendons désormais les conclusions de l'enquête du NTSB sur les causes probables de l'accident. Espérons qu'il ne faudra pas un accident mortel par situation inattendue pour agir. Des changements ont été apportés sur le lieu de l'accident, avec des panneaux d'interdiction de traverser pour les piétons.

Pour rappel, Uber a très rapidement (fin mars 2018) signé un accord avec la famille de la victime, s'évitant ainsi une bataille judiciaire. « L'affaire a été résolue », affirmait simplement l'avocate de la famille.