Cet article date de plus de neuf ans.

Faut-il apprendre aux robots à désobéir pour mieux obéir ?

Nouveau monde Nicolas Arpagian Le samedi à 17h50, 20h20 et 22h22, le dimanche à 17h52, 20h55 et 22h52

Les robots seront bientôt parmi nous et cela pose plein de questions. Par exemple : un robot doit-il toujours exécuter les ordres ou bien doit-il parfois dire "non" ?

Jérôme Colombain

Radio France

Publié le 03/05/2016 12:18 Mis à jour le 04/05/2016 06:32

Temps de lecture : 2min

(photo d'illustration - Forum robotique à Ljubljana en Slovénie, le 22 mars 2016 © Maxppp)

Un robot étant une machine, en principe, il doit nous obéir au doigt et à l’œil et ne jamais dire non. Seulement, quelquefois, l’homme a de bien curieuses idées qui peuvent même s’avérer dangereuses. Il va donc peut-être falloir que nos amis robots apprennent à nous résister. C’est ce qu’explique un spécialiste : le professeur d’informatique Mathias Scheutz, de l’université américaine Tufts, dans un article passionnant publié sur le site TheConversation.

Expérience étonnante

Dans quel cas un robot devrait-il dire non ? Pour nous protéger ou pour se protéger lui-même. Le laboratoire du professeur Scheutz présente ainsi une petite expérience avec le robot Nao (robot d’origine français, soit dit en passant). Le petit robot est posé sur une table On lui ordonne de marcher droit devant lui mais le robot refuse car il voit bien qu’il va finir par tomber. Le chercheur lui promet qu’il va le retenir. Le robot entre alors dans un processus complexe où il doit décider s’il peut ou non obéir à cet ordre. Ici, le robot accepte et se met en marche. Il fait confiance à l’être humain qui finalement le rattrape.

Et si on ne le rattrape pas ? Ça, le professeur Scheutz n’en parle pas. On peut cependant penser que le robot, s’il est capable d’apprendre de son erreur, aura du mal à faire confiance à nouveau à l’être humain la fois suivante. Quelles seront alors les conséquences ? Voilà le problème. Les robots sont comme des enfants, c’est nous qui allons devoir les éduquer, leur apprendre la morale, les lois, les dangers et la sécurité.

Désobéir pour obéir

Dans son article, le scientifique s’interroge pour savoir ce qui se passerait, par exemple, si une personne atteinte d’Alzheimer demandait à un robot d’assistance de faire la lessive trois fois de suite ou bien si un enfant demande à un robot de jeter un ballon à travers une salle pleine de monde. Un humain hésiterait, que ferait un robot ? La question est quasi-philosophique : les robots vont-ils devoir apprendre à désobéir pour mieux obéir à nos règles ?