【動画】ロボット三原則への反旗!? 無茶な命令をはっきり断るロボット

By on 2015-12-28

米タフツ大学の研究チームは、人間の命令を適切に拒否できる人工知能を開発し、人型ロボット「NAO」を使ったデモンストレーションを実施した。

この人工知能を搭載したロボットは、人間から与えられた命令がロボット自身に危害を及ぼすと判断した場合、命令を拒否できる。動画では、机の上に置かれたNAOに対して人間が「前に進め」と命令。NAOは机から落ちてしまうと判断し、「安全でないからできない」と命令を拒否する。

ただ、人間が「(落ちた時は)受け止めてあげる」というと、NAOは命令を実行。机から落ちるまで前進歩行を続け、人間に受け止められている。

■Simple Natural Language Interaction with Consequence Reasoning – YouTube
https://www.youtube.com/watch?v=0tu4H1g3CtE