Placé seul dans un environnement donné avec pour objectif de rejoindre un point situé de l'autre côté du trou, un robot A (comme Asimov) savait sans problème contourner ce trou. Quand les chercheurs ont ajouté un robot H (comme humain) ignorant l'emplacement du trou, le robot A n'avait aucune difficulté à le sauver. Il a donc montré sa capacité à «imaginer» les conséquences de ses actes et de ceux de son camarade, et négliger momentanément son objectif premier pour en remplir un autre jugé supérieur.
Entre deux maux, la machine avait su choisir le moindre. Les chercheurs ont failli s'arrêter là, avant de s'interroger: que ferait A face à un dilemme, avec deux missions d'égales valeurs?
Sur son chemin, ils ont donc placé deux «humains», H1 et H2. Sur 33 essais, le robot A en a arrêté un 16 fois, et par 3 fois il a été assez rapide pour sauver les deux. Mais à 14 reprises il a… hésité!
Un article du Figaro.fr.
