Il y a bien longtemps, l’humain faisait difficilement confiance à la machine. Car par définition, étant limitée dans sa réflexion, sa réponse devait subir l’approbation d’un homme. Ou du moins, elle était limitée à de simples calculs…
Voici une très belle démonstration de l’évolution des technologies à travers le jeu vidéo :
Qu’en est-il aujourd’hui ? Nos habitudes ont changées, le téléphone est devenu multifonctions et donne accès à des ressources illimitées d’informations (plus ou moins justes selon les auteurs). Beaucoup d’étudiants s’inspirent, voire plagient, des rapports produits par d’autres puisqu’ils sont simples à trouver sur Internet ! Bref, les nouvelles générations font confiance aux technologies bien plus qu’elles ne le mériteraient. Car il faut bien savoir une chose : Une information n’est valable que si elle est vérifiée, et une machine prend l’information qu’on lui fourni… qu’elle soit juste, ou fausse…
C’est dans ce contexte que naissent des robots de plus en plus évolués, quasiment basés sur les mêmes technologies que votre ordinateur personnel et votre téléphone. Pour ces générations trop confiantes en la technologie, si le robot dit que votre réponse est fausse… C’est qu’elle l’est !
Je vous pose donc à vous la question suivante : Comment réagiriez-vous si vous découvriez que le robot s’est trompé sur une réponse qu’il vous a fourni ? Lui en voudriez-vous comme à un être humain ? Le lui reprocheriez-vous ?
Dans l’université de Washington basée à Seattle, le laboratoire HINTS (Human Interaction With Nature and Technological Systems) qui étudie l’interaction de l’humain avec la nature et les systèmes technologiques, a récemment publié deux études très complètes sur la perception des robots par l’humain. Il semblerait que l’on ait tendance, de plus en plus, à attribuer une morale aux robots ; on le verrait aujourd’hui comme une entité ayant des sentiments et des attributs sociaux.
L’équipe de chercheurs menée par Peter Kahn met l’accent sur l’évolution de notre considération de cette moralité des robots. D’après elle, plus on attribuera de fonctions aux robots, plus ils s’intégreront parmi nous sans que cela ne choque… Oui, ça fait peur aux occidentaux que nous sommes, c’est culturel ! (voir l’article sur la vallée dérangeante) 🙂
Vous ne me croyez pas ? Je vous ai pourtant convaincu lorsque j’ai parlé des Smartphone, non ? Un exemple associé aux robots me demandez-vous ? D’accord… Comme vous le savez, Google réinvente la conduite avec son système dénommé « Google Car« . Une fois ce système installé sur votre voiture, il vous suffit d’indiquer l’endroit où vous souhaitez aller et la voiture s’occupe du reste.
Devant les grandes avancées et la démonstration de la fiabilité de ce système, l’État du Nevada – États Unis – a autorisé la libre circulation de ce type de véhicule (avec homologation évidemment). Ce mois-ci, Google s’est déplacé pour rencontrer les géants américains de l’automobile à Detroit (MotorCity), Ford, General Motors et Chrysler pour convaincre de l’avenir de sa technologie.
D’accord, ce n’est qu’une voiture et vous-mêmes ne croyez pas encore à cent pour cent qu’un robot est plus fiable qu’un homme au volant… Nous allons donc choisir une apparence qui pourrait avoir un impact sur vos sentiments : Les humanoïdes et les animaux.
Que ressentez-vous lorsque vous voyez le petit NAO bouger, Big Dog tomber ou Asimo faire une démonstration devant toute une foule ?
Avez-vous du respect pour les robots cuisinier et bricoleur ?
Ne me dites pas que vous avez les mêmes sensations que lorsque vous vous trouvez devant une calculatrice !
Vous l’aurez saisi avec mes nombreux exemple, plus la machine est évoluée, plus notre considération de la machine s’approche de celle que l’on accorde à un être humain. Lorsque l’on s’habitue à la présence d’une machine qui donne l’impression d’être consciente, sa disparition peut éventuellement laisser place à un deuil.
Dans cet excès de confiance, on oubli que la machine pourrait un jour commettre un dommage à un être humain ou à ses biens par accident. Considérons le scénario dans lequel votre robot d’assistance par mégarde, détruirait vos bijoux ; celui où une voiture autonome serait à l’origine d’un accident ; ou encore celui dans lequel des robots de combat mettraient fin aux jours d’un humain.
De tels scénarios nous mènent vers la question : Un robot peut-il aujourd’hui, ou dans un futur proche, être considéré coupable direct d’un crime ou d’une faute ?
Les études du laboratoire HINTS abordent ces questions sous différentes perspectives, incluant la façon dont les adultes agissent envers leurs robots lorsqu’ils font des erreurs, et la manière dont les enfants réagissent face à un robot punit. Il y a en fait une différence entre penser qu’un robot a une personnalité, et penser qu’il a le droit d’être moralement traité comme un humain. Une personnalité n’étant pas forcément régie par une intelligence très développée. C’est ce qui va nous permettre de déterminer le niveau de responsabilité posé sur le robot.
Voici l’un des tests effectués par le laboratoire avec le robot Robovie illustré sur la première photo de ce dossier. Secrètement contrôlé à distance il est face à un humain volontaire qui croit être confronté à un robot autonome.
Le robot entame une discussion pour démontrer à l’humain volontaire qu’il est assez sophistiqué pour communiquer correctement, puis lui propose un pari. Si l’humain gagne, il empoche $20, sinon il les perd. Quelque soit le résultat, le robot affirmera à l’humain qu’il a perdu… Voyez la démonstration en vidéo :
Cette seconde vidéo met en scène un autre test où la personne devait trouver des éléments dans une pièce. La machine refuse la victoire du candidat.
En visualisant ces vidéos, je les ai trouvées étranges car on a véritablement l’impression de voir une négociation entre un robot et un être humain sur la conclusion des scores. Mais cette situation pourrait être réelle. Comment réagiriez-vous si vous aviez gagné un petit pactole et que le robot refusait que vous le céder ?
Les participants des tests ont été interrogés pour faire part de leurs impressions. 50% ont eu la sensation d’être face à une machine consciente et 30% ont cru percevoir des émotions.
Revenons maintenant sur la question du cœur de ce dossier : Moralement, les humains participants ont-ils tenu Robovie comme responsable de son erreur ?
Clairement, dans les vidéos, les participants ont accusé Robovie de menteur et, voyant que le robot les comprenait, ont utilisé un vocabulaire varié comme ils l’auraient fait pour un être humain.
65% des participants ont attribué un niveau moral à Robovie pour le tord qu’il a causé aux participants. Ils n’ont, bien sûr, pas donné le même niveau de responsabilité qu’à un être humain… mais quand même, le robot a une valeur morale grâce à sa capacité de communication évoluée. Il en faut peu ! 🙁
Trois quart des participants ont pensé que Robovie pouvait penser et être leur ami… Le groupe de chercheurs propose une considération morale intermédiaire entre l’humain et la machine pour expliquer le phénomène.
Cette étude est certes intéressante, mais cible des participants trop proche des technologies à mon goût. Nos sources ne nous donnent ni leurs profils, ni leur nombre. Attendons d’avoir le résultat d’autres études de ce type pour être convaincu du résultat !
Cependant, il est vrai que certains robots sont utilisés pour traiter les enfants autistes, et des études sont également menées pour savoir si le robot assistant aura ou non un bel accueil en Europe… Les notions abordées dans ce dossier pourront donc nous servir à l’avenir ! 🙂
Source : HINTS
