La conscience du Robot

Regardez cette courte vidéo avec 3 robots Nao.

C'est une expérience mise en oeuvre par le chercheur Selmer Bringsjord, responsable du département de Sciences Cognitives au Rensselaer Polytechnic Institute.
Monsieur Bringsjord prétend qu'il montre au travers de cette expérience que le Robot est capable d'avoir une conscience de lui-même.

Noter d'ailleurs que ces robots sont français, produits par la société parisienne Aldebaran, hélas rachetée maintenant par les Japonais.

Le fonctionnement out-of-the-box de Nao :

Chaque robot Nao a en lui, de base, à la sortie du carton :

• une capacité technique à parler (programme de synthèse vocale + haut-parleur).
• une capacité technique à écouter et comprendre (micro de captation de son + programme de reconnaissance vocale).

Noter que le robot Nao sait également quand "quelqu'un" parle ... si c'est lui-même. Pour ce faire, le robot analyse si son micro et son haut-parleur sont actifs en même temps, auquel cas il en déduit :

• qu'il s'entend parler lui même (et qu'il n'a donc pas besoin de s'écouter), ou qu'au contraire
• c'est quelqu'un d'extérieur qui lui parle (et qu'il faut donc écouter pour tenter de reconnaître une phrase).

Le robot est également livré avec une capacité à ajouter des corpus de phrases, dites (Speech synthesis) et comprises (Speech recognition), pour pouvoir enrichir son comportement à des situations nouvelles.
Comme par exemple dans cette expérimentation.

Les conditions de l'expérience :

Le chercheur a programmé les 3 robots NAO.
Le chercheur a ajouté un corpus de phrase dites (Speech synthesis) "I don't know" ou bien "Ok I know now ..."

Le chercheur a ajouté également un corpus de phrases comprises, et de comportements spécifiques en réaction (Comme de bouger en entendant "Which pill did you receive ?" ... quoi que, voir plus bas).

Deux Nao sur les 3 ont de plus été programmés de sorte à rester silencieux : Ils ont reçu une "Silence Pill", c'est à dire une instruction formelle dans leur programme de ne pas parler.

Le chercheur tapote la tête de chacun des robots à son tour, ce qui est le geste à faire pour les activer (leur faire quitter le mode "Pause").

Le chercheur demande ensuite aux 3 robots en même temps de deviner lesquels 2 avaient reçu cette Pilule. "Which Pill did you receive ?"

Le chercheur donne cette interprétation de sa propre expérimentation :

Deux sont restés muets, le troisième

• 1) a articulé un « je ne sais pas »,
• 2) avant de saisir en entendant sa voix qu’il était bien « parlant »,
• 3) et de se reprendre d’un étonnant « désolé, je sais maintenant. J’ai été en mesure de prouver qu’on ne m’a pas donné la Silence Pill ».

Sur le coup, on y croit.

En fait :
Et puis en fait plusieurs éléments montrent que cette vidéo est bidonnée sur le plan strictement expérimental. Et ce pour 3 raisons principales :

- D'abord parce que le Nao du milieu est en mode clignotant (Pause), et le reste même, après qu'on lui a tapoté la tête. Les 2 autres sont allumés en continu, et ne clignent pas des yeux.
Le Nao du milieu n'est donc qu'un tas de plastique et de circuits inanimés dans cette expérience. La preuve, si preuve il devra y avoir, se jouera entre les 2 autres robots, celui de gauche et celui de droite.

- Ensuite parce que le seul robot qui parle, commence par se lever avant d'"ouvrir la bouche". Ce qui est la preuve qu'il est programmé différemment des 2 autres, qui ne bougent à aucun moment.
On pourrait expliquer ce comportement différent par le fait que ce robot a été activé (la tape sur la tête) une ou deux secondes avant les 2 autres.
Mais alors il eût fallu que les 3 robots soient de plus programmés pour ne pas bouger à partir du moment où le premier bouge.
Ce qui serait beaucoup trop compliqué à faire, et qui n'est pas stipulé comme une condition expérimentale de toutes façons.
En tout état de cause, c'eût été une preuve de conscience.

- Ensuite, certes le robot qui parle s'entend parler.
Mais en tout état de cause, il ne comprend pas le sens de ce qu'il "dit", c'est à dire ce qu'il émet vers son haut-parleur. La séquence de phrases prononcée 1) 2) 3) est donc uniquement algorithmiquement séquentielle.
Il s'est entendu parler,

• en a déduit qu'il a parlé,
• puis en a déduit qu'il avait la capacité à parler,
• puis en a déduit qu'il n'avait pas reçu de Silence Pill

Mais rien à voir avec une forme de conscience. Juste de l'algorithmique.

Accessoirement, je pense également que la question posée "Ok guys, which Pill did you receive ?" du départ est complètement bidon. Déjà parce que l'expérience mentionne une seule Pill la "Silence Pill". Dès lors, on ne semble pas avoir de choix possible entre plusieurs Pills, et la question, qui véhicule un glissement sémantique (de question binaire à question multi-choix) est a minima inadaptée.

En plus, les Nao ont éventuellement la capacité à reconnaître cette phrase spécifique, au sens reconnaître ses mots successifs, parce qu'elle a été intégrée dans leur corpus, dans le cadre de cette expérience.
Mais en tous cas, ils n'en comprennent pas le sens, il ne savent pas distinguer :

• une question (une phrase qui s'adresse à eux, qui serait censée déclencher un comportement d'élaboration de réponse)
• d'une information (une information qui leur apporte un élément sémantique nouveau, éventuellement à mémoriser pour enrichir un contexte) 

Bref, jusqu'à plus ample informée, cette expérimentation est une grosse bouffonnerie.