「the first robot」は、SF作家アイザック・アシモフによるロボット三原則の第一条（the first law）「ロボットは人間に危害を加えてはならない」を破るために生まれたロボット。米国カリフォルニア在住のAlexander Rebenさんが開発した。


「the first robot」の機能は、所定の場所に指を置くと、その指先に針を刺し小さな怪我を負わすことだ。細い針で刺されたダメージは、思った以上に大きいという。そして「the first robot」は、指に針を刺してくるときと、刺してこないときがある。




「the first robot」の武器は、所詮は細い針。しばらくすれば血は止まり、痛みもなくなる。このロボットの怖さは針という凶器を持っていることではなく、意思決定プロセスを持っていることにあるのだ。


Rebenさんによれば、無人攻撃機はすでに実用化されているが、これは人がリモートコントロールしているためロボットと呼ぶことはできないという。一方で地雷は人の手でコントロールされてはいないが、そこに独自の意思決定プロセスは無く、乗りあげたものすべてを無差別に破壊しており、これもロボットや人工知能と呼ぶことはできないとしている。



だが「the first robot」はリモートコントロールされているわけでも、無差別攻撃をしているわけでもない。「the first robot」が針を指に刺すか刺さないかの選択は、「the first robot」の意思決定プロセスによってなされているのだ。これは、ロボットが自分の意思で、人間を攻撃するかどうかを決定していると言える。「the first robot」が、ロボット三原則の第一条を破った“最初のロボット”と名付けられた理由はここにある。

自分の指が血を流すかどうかを、ロボットや人工知能が決定するというのは想像しただけで気味が悪い。でもなぜRebenさんはこのようなロボットを開発したのだろうか？

Rebenさんによれば、ロボットや人工知能開発上の倫理的な懸念を表明し、それに対する真剣な議論を巻き起こすためだという。

例えば自動運転車に搭載された人工知能は、自殺志願者が自動運転車に飛び込もうとしたときに、自殺志願者を守るか、それとも搭乗者の安全を守るか？といった判断をしなければならない。その判断をするには、人工知能に対して人間の倫理観を組み込む必要がある。だが人類は複数の倫理観を持っているため、その選択が難しい。


少し前、ある人工知能に対し「戦争をなくすにはどうしたら良いか？」と質問したところ、「人類を全滅させれば、戦争は起こらない」という回答がでたとしてニュースになった。「病気を無くすにはどうしたら良いか？」という質問にも同様の答えが返ってきたという。

この人工知能には、「人類を全滅させてはいけない」という判断が可能な倫理観を組み込む必要がある。そしてその倫理観の選択には十分な検討が必要だ。偏った倫理観を組み込まれた人工知能は、全滅ではなく、一部を滅ぼしてしまえと判断してしまうかもしれないからだ。

そうなると、自分が血を流すことになるのかそうでないのかを、人工知能によって知らないうちに決定されてしまうことになりかねない。その人工知能やロボットが、針以上の武器を持っていたとしたら脅威だ。

「the first robot」は、そんなことを考えさせてくれるロボットだ。