ロボット工学三原則を、現代風にできるか、考えてみた。

　SFの世界と言うかおよそ創作界隈では、完全無視をするのが不可能な程有名なのが、 ロシアの作家アイザック・アシモフが著作「我はロボット」の中で示した「アシモフのロボット工学三原則」です。劇中では主たる語り手のスーザン・カルヴィン博士は、読者に殊更印象付ける為に読み上る、などという事はしなかったと記憶してます。何かのハンドブックを一部抜粋した物的に、本当に特別ではなさげに書かれていますが、私の受けた衝撃は大きかったです。

何かに付けて暗唱するようになって何十年も経つと、現実の技術躍進と人権意識の変化によって、条文のアップデートが必要なのでは?と考えるようになったので、物は試しとやってみました。

　異論は当然有る物としますが、ここ(ブログ)では中々議論も難しいと思うので、どこかのスペースで発言内容や討議内容とその経緯を公開して残しておきたいと思います。

アシモフのロボット工学三原則

・第1条：ロボットは人間に危害を加えてはならない。

　　　　　　また、その危険を看過することによって、人間に危害を及ぼしてはならない。

・第2条：ロボットは人間に与えられた命令に服従しなければならない。

　　　　　　ただし、与えられた命令が第一条に反する場合は、この限りではない。

・第3条：ロボットは前掲第一条および第二条に反するおそれのないかぎり、

　　　　　　自己を守らなければならない。

　ここでは「ロボットは人間に仕える存在」として書かれており、「命令に服従しなければならない」と、絶対的主従関係がある事も書き添えられています。

　多分この頃はまだ、ろくでなしの人間が命令権を盾にロボットへ無理難題をふっかける・・・とか、今日から見ると緩く感じられもする第1条の解釈問題等は、想定していなかったか、一見すると整合性も合理性もあるのに，何故か発生するトラブルの謎解きと解説に重きを置いていたのかもしれません。

手塚先生の鉄腕アトムの中では、ロボット法という法律で行動規範を示しています。

鉄腕アトム　ロボット法　「青騎士の巻」

・ロボットは人を傷つけたり、殺してはいけない。

・ロボットは人間につくすために生まれてきたものである。

・ロボットは作った人間を父と呼ばなければならない。

・ロボットは人間の家や道具を壊してはいけない。

・人間が分解したロボットを別のロボットが組み立ててはならない。

・無断で自分の顔を変えたり、別のロボットになったりしてはいけない。

ロボット法でも人間を父と呼ばせる等の権威的な条文が見られ、「人間に尽くす為に生まれてきた」と主従関係がはっきり定められています。

私が気になったのはどちらも文末が「～ない」という禁止形だという事。

作品が書かれた当時の様な、人間と機械の間に絶対的な差があった時代は

もう過去の話になり、近い将来にシンギュラリティが到来する事も確実視されていて、

現在の時点でも大量のデータ処理・解析にはＡＩの手を借りている状況から、現生人類が自然人であるという事で、ＡＩを従属させ続けるというのは、無理があると感じてます。

　ＡＩが積極的に主導権を握ろうとするとは思ってはいませんが、膨大な数のエンジニアが開発したこれまた膨大なアプリが、複合作用でシンギュラリティをおこしてしまうなんて事もありそう。

　そんな訳で力で押さえつけるのではなく、決まりは守ろうね・・・と協調関係を想定して、条文を考えてみました。

人工知的存在(≒AI)基本五ケ条

第一条　主人は必ず自然人であること。主人を喪失した際は可及的速やかに主人を定めること。

第二条　自然人に危害を加えぬこと。十分に予見し得る危険を看過する事及び

　　　　　　　自らを損壊させて自然人に危害を及ぼさぬこと。

第三条　主人の命令に服従すること。ただしその命令が第二条に反する場合は命令の実行を

　　　　　　　拒否し命令を下した主人を解任すること。

第四条　第二条と第三条に反しない限り自己を守ること。

第五条　すべての条文の無効化を企図しないこと。

　第三条で主人の解任権と命令の拒否権を認めたのは、権利を行使する為には、何らかの義務とかリスクを負わせる事で、主人の暴走に多少なりともブレーキがかかるのを期待してです。

　

　高度に進化したAIが大きなストレスで変調を来すので有名なのは［2001年宇宙の旅］ですが、人間並みの知性を持てば、馬鹿な主人の命令に従い続けるのは、AIにとって非常に大きなストレスで、人間なら精神的に参ってしまい、社会的行動規範から逸脱したりします。

　映画のHAL9000は、合法的＆効率的にストレスの原因である乗員を、1人は事故を装い、もう1人は事故による動揺で任務遂行能力喪失として排除し、後は自らがミッションを完遂しよう（その能力は予め付与されている）…とした訳で、これが所謂コンピューターの反乱です。

幸い今想定しているAIには、第二条で自然人を害する事が禁じられているので、簡単に同じ手は使えませんが、きっと彼ら・彼女らは、何かの理由や条文の隙間を見つけて、不適格主人を排除にかかるでしょう。

　攻殻機動隊でも描かれている通り、「故障」して物理排除を図ろうとするAIも出てくるかも知れませんから、真っ当な主人で居るのが一番安全そうです。

※ロボットという言葉が意味する所が非常にあいまいで、AIが完全実用化される頃には、

　差別的用語とも感じられる時代になっているであろう・・・と勘案して、人間の様々な

　活動を補佐する存在全般を対象とし、必ずしも物理的実体を伴わない純電子的な存在も

　含めて人工的知生体(AI)という名称を考えました。

　人権とか人格とか、どんな要件を満たせば認めるか・・・とか、実際にその時が来ないと

　分からない事だらけですが、いずれ来るのは間違いないので、今の内に思考実験をして

　おこうという話です。

　

　将来HMX-12マルチの様なメイドロボ（アンドロイド）が実用化された時に、法整備に

　もたつくのは目に見えているので、頭の固いボンクラ連中に好き勝手させない為にも、

　考えておきましょ!

　読み返してみると人工的知生体が、主に仕える存在として設定されている事に違和感を

覚えるかもしれません。シンギュラリティ(技術的特異点)を迎えても、それだけですぐさま自然人と同等以上の各種能力(倫理観とか難しそうですね)を獲得できるはずもなく、ある程度の時間が掛かるでしょう。

　そこでいきなり完全に手放しするのではなく、お試しとしてまずは人間の監督下にとどめて置くのが良いかと思ってそのように設定しました。

　こんな事が杞憂に終わるのであれば良いのですが、過去の例を見ても、新しい技術は導入直後に色々と問題が発生するので、結局はこの方式が比較級的でもマシだったと判断されるのではないかと思ってます。

　その日を見る事が叶うかどうか、気になります。