Véhicules autonomes : une intelligence très limitée

Le comportement des automobilistes est parfois très surprenant pour nous autres humains. Il l’est encore plus pour les véhicules autonomes intégrant de l’IA. En juin 2022, à San Francisco, l’un des robotaxis de la société Cruise n’a pas réussi à anticiper correctement le comportement d’un conducteur inattentif.

Se trouvant sur une voie destinée à tourner à droite, cet automobiliste s’est finalement dirigé tout droit, trop tard pour que le taxi puisse réagir à temps. Cet accident n’a pas entraîné de blessés graves. Même si le véhicule de Cruise n’est pas en tort, cet accident confirme que les véhicules intégrant l’IA ont encore du mal à anticiper le contexte.

Les systèmes avancés d’aide à la conduite (ADAS – Advanced Driver Assistance Systems) sont basés sur les mêmes principes que le ChatGPT et d’autres grands modèles de langage (LLM- Large Language Models). Ces réseaux neuronaux utilisant d’énormes volumes de données pour comprendre le langage humain contrôlent la position latérale et longitudinale d’une voiture – pour changer de voie, freiner et accélérer – sans attendre les ordres de la personne assise au volant.

Ces deux types d’IA utilisent le raisonnement statistique pour deviner le prochain mot, la prochaine phrase ou la prochaine action de pilotage, en pondérant fortement le calcul avec les mots ou les actions récemment utilisés.

Une étude du National Highway Traffic Safety Administration (NHTSA) des États-Unis a permis de constater comment les applications réelles de l’IA dans les transports fonctionnent ou ne fonctionnent pas. De cette analyse, il ressort trois constats majeurs.

Les erreurs humaines de fonctionnement sont remplacées par des erreurs humaines de codage

Les partisans des véhicules autonomes affirment régulièrement que plus tôt nous nous débarrasserons des conducteurs, plus nous serons en sécurité sur les routes. Ils citent la statistique de la NHTSA selon laquelle 94 % des accidents sont causés par des conducteurs humains. Mais l’erreur du conducteur est « le dernier événement de la chaîne de causalité de l’accident… Elle ne doit pas être interprétée comme la cause de l’accident ». De nombreuses autres causes sont possibles, telles qu’un mauvais éclairage et une mauvaise conception de la route.

Par ailleurs, le code logiciel est incroyablement sujet aux erreurs et le problème ne fait que s’aggraver à mesure que les systèmes deviennent plus complexes. Les tests, à la fois en simulation, mais surtout dans le monde réel, sont essentiels pour réduire le risque d’erreurs, en particulier dans les systèmes critiques pour la sécurité.

Les modes de défaillance de l’IA sont difficiles à prévoir

Un module de conduite autonome interprète la scène et décide comment contourner les obstacles en faisant des suppositions, sur la base d’une base de données d’images étiquetées. Mais toutes les possibilités ne peuvent être modélisées, et les innombrables modes de défaillance sont donc extrêmement difficiles à prévoir.

C’est le cas notamment du freinage fantôme. C’est un mode de défaillance qui n’avait pas été anticipé auparavant. Sans raison évidente, une voiture autopilotée freine brusquement, ce qui peut provoquer une collision avec le véhicule qui la suit et d’autres véhicules plus éloignés. Le freinage fantôme a été observé dans les voitures autonomes de nombreux constructeurs et dans les voitures équipées d’ADAS.

En mai dernier, la publication allemande Handelsblatt a fait état de 1 500 plaintes concernant des problèmes de freinage sur des véhicules Tesla, ainsi que de 2 400 plaintes concernant des accélérations soudaines. Il apparaît aujourd’hui que les voitures autopilotées subissent environ deux fois plus de collisions par l’arrière que les voitures conduites par des personnes.

La maintenance de l’IA est tout aussi importante que sa création

Les réseaux neuronaux ne pouvant être efficaces que s’ils sont formés sur des quantités importantes de données pertinentes, la qualité des données est primordiale. Mais dans des environnements dynamiques comme la conduite, les modèles doivent être constamment mis à jour pour refléter les nouveaux types de voitures, de vélos et de scooters, les zones de construction, les schémas de circulation, etc.

Lors d’un accident en mars dernier, au cours duquel une voiture Cruise a percuté l’arrière d’un bus articulé, les experts ont été surpris. Ils pensaient que de tels accidents étaient pratiquement impossibles pour un système doté d’un lidar, d’un radar et d’un système de vision par ordinateur. Cruise a attribué l’accident à un modèle défectueux qui avait deviné où se trouverait l’arrière du bus en se basant sur les dimensions d’un bus normal, mais pas articulé !

Cet exemple souligne l’importance de la mise à jour des modèles d’intelligence artificielle. Cela signifie notamment que les LLM ne peuvent pas apprendre un nouveau phénomène tant qu’il n’apparaît pas assez souvent pour être incorporé dans l’ensemble de données.

De cette étude, il ressort que l’IA a encore un long chemin à parcourir dans les voitures et les camions. L’utilisation de l’IA présente des avantages évidents et il est irresponsable de demander une interdiction, ou même une pause, de l’IA. Mais une surveillance accrue de la part des pouvoirs publics et une réglementation plus précise (notamment sur les responsabilités en cas d’accidents) semblent indispensables.