アシモフの「ロボット工学三原則」は3つあり、記事内に挙げられているのは第二条。 ・第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。 ・第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。 ・第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。 以上から分かる通り、記事内のロボットの行為は一見第三条を守っているからのように見えるが、但し書きの第二条(命令に服従)に反している。つまりこのロボットの設計は既にアシモフのロボット工学三原則に反している。この延長線上にロボット自身の利益のみを優先する発想を持つ個体の出現の可能性は否定出来ない。 だが現実での運用を考えた時、この動画のように人間の悪意ある命令に黙って従って自己を破壊するのを看過すべきではないのでこの実装は正しい。つまりアシモフの三原則は明らかに不十分であり、もっとマシなロボットの行動原則を議論して定めるべきなのだ(アシモフ自身も当時からそういってたけど)。もうそういう時期に入っている。
フォロー
AOLニュース
(ID:893222)
アシモフの「ロボット工学三原則」は3つあり、記事内に挙げられているのは第二条。
・第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
・第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
・第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
以上から分かる通り、記事内のロボットの行為は一見第三条を守っているからのように見えるが、但し書きの第二条(命令に服従)に反している。つまりこのロボットの設計は既にアシモフのロボット工学三原則に反している。この延長線上にロボット自身の利益のみを優先する発想を持つ個体の出現の可能性は否定出来ない。
だが現実での運用を考えた時、この動画のように人間の悪意ある命令に黙って従って自己を破壊するのを看過すべきではないのでこの実装は正しい。つまりアシモフの三原則は明らかに不十分であり、もっとマシなロボットの行動原則を議論して定めるべきなのだ(アシモフ自身も当時からそういってたけど)。もうそういう時期に入っている。