​命令に対し「ノー」と拒否するロボットが誕生 人間にとっての脅威となり得るのか？【動画】

人間の音声命令に対して、リスクを感じると「NO」と拒否する最新ロボットが話題になっている。

https://youtu.be/D0SrOIj1jec


マサチューセッツ州のタフツ大学・HRIラボラトリーのロボットエンジニアであるゴードン・ブリッジズ氏とDr.マティアス・シュウツ氏が、安全性にリスクを感じる場合には人間の命令を拒否するロボットを開発した。

オペレーターが「座れ」と命令すると、小さなロボットは「OK」と快諾して座る。「立て」と命令しても同様で、ロボットは「OK」と答えながら、言われたとおりに立つ。

しかし「前方へ歩け」と命令したところ、テーブルから落下する危険性があるため、ロボットは「すみません。前方にサポートがないため、それはできません」と拒否。もう一度同じ命令をしても、「しかし、安全ではありません」と主張し、断固として動かない。オペレーターが「キャッチするから」と約束すると、やっと「OK」と納得し、徐々に前方に歩き始めた。

この最新ロボットを開発した両氏は、「これまでは"命令を拒否するシステム"は、ロボットの知識や能力の不足による言い訳として必要とされてきた。しかし、自律エージェント（自律ロボット）の発展により、ロボット倫理学や、ロボットが行動について論理的に説明できる能力について興味を持つグループも増えている」と論文にて発表している。

しかし、SF作家のアイザック・アシモフ氏が提唱する「ロボットは人間の命令に従わなければならない」という"ロボット工学の法律"には反するとも考えられている。ロボットが完全に自立した考えを持つと、人間にとって悲惨な結果を招く可能性があるからだ。スティーヴン・ホーキング教授は「完全なAI（人工知能）の発展は、人類に終焉をもたらす可能性がある。AIが自力で動き始めると、どんどん自分を再設計し続ける。ゆるやかに生物学的な進化を遂げる人間は、それに勝てることができずに淘汰されるだろう」と、＜BBC＞に対して語っている。

確かに、映画『ターミネーター』のスカイネットのように、賢すぎるAIは近い将来、人間にとって脅威になるかもしれない。

■参照リンク
Mirror Online
mirror.co.uk

■12月のAOL特集
ハリウッドスター達も昔は若かった！嬉し恥ずかしお宝フォト集

[風野妖一郎 (ID:893222)]

アシモフの「ロボット工学三原則」は３つあり、記事内に挙げられているのは第二条。
・第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
・第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
・第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

　以上から分かる通り、記事内のロボットの行為は一見第三条を守っているからのように見えるが、但し書きの第二条（命令に服従）に反している。つまりこのロボットの設計は既にアシモフのロボット工学三原則に反している。この延長線上にロボット自身の利益のみを優先する発想を持つ個体の出現の可能性は否定出来ない。
　だが現実での運用を考えた時、この動画のように人間の悪意ある命令に黙って従って自己を破壊するのを看過すべきではないのでこの実装は正しい。つまりアシモフの三原則は明らかに不十分であり、もっとマシなロボットの行動原則を議論して定めるべきなのだ（アシモフ自身も当時からそういってたけど）。もうそういう時期に入っている。