Pour commencer, nous vous proposons de vous imaginer au volant d’un magnifique véhicule traversant l’autoroute. Vous avez activé le mode automatique depuis deux heures maintenant, et vous êtes à mi-chemin. Sur le trajet, vous croisez châteaux, montagnes et nature. Nul besoin de faire de pause car vous n’avez pas eu à vous concentrer sur la route pendant tout le trajet. La nuit tombant, vous décidez de prendre un livre dont vous reportez la lecture depuis des mois. Vous savez qu’en cas d’accident, la loi vous porte comme responsable car vous êtes l’humain à bord qui doit reprendre le commandement en cas d’exception que l’ordinateur de bord ne saurait gérer.
Ah ces lois… vous faites confiance au vendeur qui vous a expliqué dans le détail que ce véhicule est capable de reconnaître un ralentissement brusque sur la route, un être humain ou un animal traversant la route, et toutes ces choses qui sont normalement difficiles à gérer pour un être humain. Notre pauvre cerveau reptilien est lent à la réaction et le véhicule autonome est la solution pour éliminer les accidents de la route.
Seulement voilà, l’exception se produit ! Quelque chose de brillant vole devant le véhicule qui est incapable de prendre une décision. Il réactive brusquement la conduite manuelle et vous demande d’agir dans les 10 secondes. Vous jetez votre livre sur le siège arrière, tentez de voir ce que l’ordinateur a vu sans comprendre et vous pensez au pire. En l’espace de 2 secondes, vous prenez la décision de freiner et de vous arrêter sur le bas côté. Malheureusement, le véhicule était sur la voie la plus rapide et vous percutez le véhicule de droite…
C’est l’un des grands enjeux des véhicules autonomes qui laissent à un moment ou l’autre la main au pilote ou conducteur. Sur des trajets mêmes courts, la concentration de l’être humain est perturbée par le fait qu’il ne soit pas proactif dans la conduite. C’est ainsi que l’on a des scènes improbables où les avions rendent la main au pilote, où le pilote interprète mal les informations qui lui sont affichées, et où le pilote se bat contre le système de vol qui pourtant stabilisait correctement l’avion. Cela amène à la conclusion de l’erreur humaine lors du crash alors qu’il s’agissait d’une problématique dite de « facteur humain ».
Qu’est-ce que les facteurs humain ?
Les facteurs humains sont le mélange de principes ergonomiques, psychologiques et physiologiques pris en compte lors de la conception d’un produit, d’un processus ou d’un système. Il s’agit de la considération de réalités qui opposent la façon dont on aimerait que les choses fonctionnent à la façon dont elles fonctionnent dans la réalité. C’est une discipline qui existe dans la plupart des secteurs d’activité où des humains interagissent. Dans l’automobile, ce sont les personnes qui pensent par exemple à l’agencement des dispositifs de conduite et de divertissement pour maximiser l’attention du conducteur sur la route. Pour les trains semi-autonomes, ce sont les personnes qui ont imaginé qu’il fallait occuper le conducteur pendant les périodes creuses en le faisant appuyer sur un bouton à un rythme aléatoire. Pour les avions, ce sont les personnes qui tentent de limiter le nombre d’alertes apparentes sur le tableau de bord pour amener le pilote à prendre la bonne décision le plus rapidement possible.
La vidéo ci-dessous montre un pilote qui parle d’un problème de communication entre les membres de l’équipage. C’est une problématique qui relève du facteur humain.
Mais il ne s’agit pas simplement de l’objet piloté et des personnes humaines. L’infrastructure a également son importance. Imaginez-vous maintenant conduire un véhicule complètement manuel en pleine ville. Vous devez prêter attention aux feux tous les cent mètres, parfois cachés par un camion de livraison arrêté sur le bas côté, faire attention aux priorités à droite, aux bus et scooters qui arrivent sur la droite lorsque vous voulez tourner, aux piétons et cyclistes qui peuvent décider de traverser la voie que vous empruntez à tout moment, aux autres véhicules qui roulent très proche de vous parfois à une allure élevée, aux panneaux de circulation posés tout au long de votre trajet, aux panneaux de signalisation clignotants qui indiquent les dangers les plus importants, etc. L’attention lorsque l’on conduit dans une grande ville est extrême, ce qui génère un stress constant. Imaginez maintenant que la ville décide d’accepter l’installation de panneaux publicitaires très lumineux le long de la route, sur le même axe que les panneaux de signalisation habituels. Votre attention est perturbée et la probabilité de l’accident s’accroît. C’est également du facteur humain.
Un dernier exemple, celui des normes. Les normes sont le fruit d’une réflexion entre des entreprises impliquées dans l’application de celles-ci. Leurs intérêts peuvent être très divers : imposer une technologie nouvelle sur un marché, créer une barrière à l’entrée pour de nouveaux concurrents, augmenter le niveau de sécurité pour protéger les populations, partager de bonnes pratiques, des savoirs et savoir-faire, etc. Les normes sont donc rédigées par un petit nombre de personnes décisionnaires, et appliquées par le plus grand nombre. Elles peuvent être sources de stress, le manque d’implication de ceux qui les appliquent ensuite peut amener à des situations très cocasses, et leur complexité devient sujet à débat.
Certaines normes sont référencées par la loi et donc rendues obligatoires. D’autres sont simplement exigées par le donneur d’ordre. Que se passe-t-il en cas d’exception où la norme n’est pas applicable ? Imaginons un entrepreneur dans le secteur du bâtiment. Sa seule connaissance des bonnes pratiques est cette norme qui se présente comme une notice sans donner d’explications sur le pourquoi du comment. La maîtrise de la norme n’est pas au niveau de l’entrepreneur (celui qui l’applique), la décision est donc compliquée. Soit il choisi de faire une exception et de ne pas respecter la norme et le cache, soit il tente de se repositionner dans les conditions d’application de la norme. Quelle est la conséquence d’une divergence ? En cas d’accident du à une erreur d’application de la norme, c’est celui qui a réalisé les travaux qui est rendu responsable : erreur humaine.
Nous comprenons donc que dans le cas de l’automatisation ou l’application automatique d’instructions, la considération des facteurs humains est importante et parfois vitale. C’est pourquoi nous vivons aujourd’hui une transition – le passage de l’humain comme pilote à la voiture comme pilote – avec l’installation d’une assistance à la conduite de plus en plus sophistiquée. L’automatisation se fait progressivement en intégrant constamment l’humain dans la chaîne de décision, ce qui permet de relever les problématiques progressivement sans mettre en danger les personnes.
L’ensemble des véhicules passe donc par chacune des étapes d’autonomisation dites « GOA » (nous l’évoquions dans l’article sur les trains autonomes de type UTO).
Le reportage ci-dessous donne le détail de la discipline des facteurs humains dans l’aéronautique.
Retour sur l’accident du véhicule de Uber
Le 18 mars 2018, un prototype de véhicule autonome de la société Uber percute un piéton qui traversait la route.
Chaque véhicule autonome est doté d’un conducteur chargé de reprendre la main en cas de problème. C’est lui qui est nommé responsable en cas d’accident. Malgré tout, une enquête a été menée pour savoir si la responsabilité réelle était du côté du véhicule autonome ou du côté du conducteur qui aurait du reprendre la main. En l’occurrence ici, la conductrice regardait une émission de télévision sur son Smartphone au moment de l’accident. Les conclusions de l’enquête placent donc cette personne comme coupable.
Mais lorsque l’on sait que les facteurs humains ont un rôle important à jouer pour gérer ce type de situation, la conclusion n’est pas aussi simple qu’il n’y paraît. Nous avons expliqué plus tôt que pour permettre à un conducteur de reprendre la main en cas de coup dur, un mécanisme doit être mis en place pour conserver l’attention du conducteur. Ce mécanisme n’a été évoqué dans aucune publication sur la toile, nous n’aurons donc pas la réponse.
Les facteurs humains généralisés
Daniel Kahneman, auteur de Thinking fast and slow, est le seul psychologue a avoir reçu le prix Nobel d’économie. Il a étudié ce que l’on appelle les biais cognitifs ; il s’agit d’événements comparables aux illusions d’optique, mais appliqués à notre pensée. En lisant son livre, on se rend compte à quel point notre vision du monde est déformée et irrationnelle. C’est pourtant sur elle que nous nous basons pour prendre des décisions…
Les facteurs humains sont également considérables dans beaucoup d’autres situations. Voici une vidéo qui permettra d’ouvrir la réflexion et de conclure cet article.
