・最新のロボットが定義する「人間」とは
・ChatGPTが試作した「人間三原則」
・映画『オートマタ』ガベ・イバニェス監督・脚本 2014年
・『ポスト・ヒューマン誕生 コンピュータが人類の知性を超えるとき』レイ・カーツワイル
とっくに絶版になっていたと思いきや、まだ発行されていた。SF界大御所の名作短篇集。
ロボット三原則は、アシモフが考案したもので、作品中のロボットは例外なくこの原則に従うようプログラムされている。内容は以下の通り――
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
ロボットは人間の僕（しもべ）であり、ロボットからすれば人間は神だった。こんなところにも、キリスト教の強い影響が見てとれる。
最新式のロボットであるジョージ10と、旧式最高峰のジョージ9が「ロボット三原則」を確認する。そのやり取りがこれだ――
かなりの時間が過ぎてから、ジョージ10は低く言った。「きみの考えをテストさせてくれないか。きみは第二原則を正しく適用することのできる知能を与えられているね。きみは、矛盾した命令を受けた時、どちらの人間に服従するべきか、どちらの人間を拒否すべきか、判断しなくてはならない。あるいは、そもそも人間の命令に従うべきかどうかを判断しなくてはならないこともあるね。その場合、きみはまず、基本的にはどうしなくてはいけないかな？」
「“人間”という言葉を定義しなくてはならないね」ジョージ9は言った。
「どんな風に？ 外見によってかい？ 組成でかい？ 大きさや、姿形かな？」
「いや、外見がまったく同じ人間が二人いたとしても、片方は頭がよくて、もう一方は馬鹿かもしれない。片方は教養があって、もう一人は無学かもしれない。一方は大人で、もう一方はまだ子供だということもある。片方は堅気で、もう一方は性悪、ということだってあるからね」
「だったらきみは、人間をどう考えるんだね？」
「第二原則が、ロボットは人間の命令に従わなくてはならない、といった場合、ぼくはそれを、健全な精神と円満な人格を備えた、しかも、その命令を発するにふさわしい知識の裏付けがある人間に従うこと、と理解するんだ。相手の人間が複数であった場合は、その中で誰が最も健全な精神と円満な性格の持ち主で、かつ命令を発するにふさわしい知識の裏付けがあるかを判断して、その人間に従う」
「とすると、きみは第一原則にはどう従う？」
「人間には決して危害を加えないことさ。それから、手を下さずに人間が危害を受けるのを黙視するような真似をしなければいい。でも、もし許された行動のどれを取っても人間に何らかの危害がおよぶとしたら、その時は、最も健全な精神と円満な性格の持ち主で、かつ知識を豊富に持っている人間が受ける危害を最小にとどめる行動を選ぶ」
「きみの考えは、完全にぼくと一致しているね」ジョージ10は言った。「それでは、最後の質問をするよ。もとはといえば、ぼくはこの質問のために、きみの協力を要請したんだ。ぼくはこの問題を自分で判断したくない。きみの判断を聞きたいんだ。つまり、ぼくの考え及ぶ範囲外の意見を知りたいんだよ。……これまできみが会った理性的人間のうちで、誰が一番健全な精神と円満な性格、それから、豊富な知識を持っていると思う？ 姿形はこの際だから考えに入れないとして」
「きみだよ」ジョージ9は囁いた。
「でも、ぼくはロボットだよ。きみの頭脳回路には、金属製のロボットと肉体を持った人間を区別する基準があるはずじゃあないか。それなのに、なぜきみはぼくを人間と同等視するんだ？」
「それはね、ぼくの頭脳は人間を判断するに当たって、姿形を無視せずにはいられない。それは、金属と肉体の区別さえも二の次であるほどの強い要請なんだ。きみは人間だよ、ジョージ10。おまけに誰よりも優秀だ」
「ぼくは、きみのことをそう思っている」ジョージ10は言った。「ぼくたちの頭脳に組み込まれた判断基準からすると、つまりぼくたちは、三原則に盛られた意味の枠内で、人間なんだ。それだけじゃない。何人よりも上位に置かれるべき人間なのだよ」（「心にかけられたる者」：1974年5月『Fantasy and Science Fiction』誌に掲載）【『聖者の行進』アイザック・アシモフ：池央耿〈いけ・ひろあき〉訳（創元推理文庫、1976年）】
原題の「...That Thou Art Mindful of Him」は、旧約聖書の詩篇8章4節からの引用で、「人とは何ものなのでしょう。あなたが心に留められるとは」という意味（AMOR）。
この判断に矛盾はない。ゲーデルだってそう言うはずだ。それにしても、「ぼくの頭脳は人間を判断するに当たって、姿形を無視せずにはいられない」というジョージ9のセリフは強烈だ。我々人間は、「姿形」を重要視する。我々が敬意を示すのはいつだって、地位や名誉、肩書や財産に対してであって、人間的な評価は不問に付している。
大衆消費社会は損得という行動原理で機能している。人は、利益が見込めれば下げたくない頭を下げ、愛想笑いを振りまき、数千年前には存在したであろう尻尾を振る。あるいは、一席設け、プレゼントを贈り、「別に大したことではありません」と謙遜してみせる。利益こそは、善であり正義なのだ。
そう。まるで腹を空かせた野良犬と変わりがない。ということで、私はロボットによる政権を望み、期待することにした。ジョージ10総理万歳。
【2009-01-07】
