映画の中のロボットは、長いあいだ恐怖の対象でした。人間が作った機械がある日主人を襲い、世界を乗っ取るという筋書きは、今でも珍しくありません。ところが80年余り前、このありきたりな物語に飽きた一人の作家が、ロボットが必ず守るべき約束を定め、小説の中に組み込みました。
その作家こそ、アメリカのSF作家アイザック・アシモフ（Isaac Asimov）であり、彼が定めた約束が「ロボット工学三原則（Three Laws of Robotics）」です。ロボット工学三原則とは、簡単に言えば「ロボットは人間を傷つけず、人間の命令に従い、自分自身を守る」という3つのルールに優先順位をつけた行動指針のことです。
本記事では、ロボット工学三原則がどのように生まれたのかから、三原則の内容と優先順位、原則に潜む抜け穴、そして実際のロボット設計や倫理の議論に残した影響までを順に見ていきます。
小説から始まったロボットの安全の約束
ロボット工学三原則はどのように生まれたのか？
1940年ごろのSFでは、ロボットが自分を作った人間を傷つける物語がよくありました。アシモフはこれを「フランケンシュタイン・コンプレックス（Frankenstein complex）」と呼び、危険な怪物ではなく、安全装置を備えた頼もしい機械としてのロボットを描きたいと考えていました。
（1）編集者との会話
アシモフは、1940年12月23日に雑誌編集者ジョン・キャンベル（John W. Campbell）と交わした会話の中で三原則がまとまったと振り返っています。一方キャンベルは、アシモフの頭の中にすでにあった考えを文章にしただけだと語っています。
（2）短編「堂々めぐり」
3つの原則が初めてそろって登場した作品は、1942年の短編「堂々めぐり（Runaround）」です。この作品は1950年の短編集『われはロボット（I, Robot）』に収められ、原則は2058年に出た架空の『ロボット工学ハンドブック第56版』からの引用として紹介されています。
興味深いことに、「ロボット工学（robotics）」という言葉そのものも、アシモフが1941年の短編「うそつき（Liar!）」で初めて使ったものとして知られています。
三原則の内容と優先順位
ロボット工学三原則の核心は、3つのルールがぶつかり合ったとき、前の原則が常に優先されるという優先順位にあります。
- 第一条（First Law）：ロボットは人間に危害を加えてはならず、また何もしないことによって人間が危害を受けるのを見過ごしてもいけません。
- 第二条（Second Law）：ロボットは人間の命令に従わなければなりませんが、その命令が第一条とぶつかる場合は従いません。
- 第三条（Third Law）：ロボットは自分の存在を守らなければなりませんが、それは第一条や第二条とぶつからない範囲に限られます。
第一条の「何もしないことによって」という一節は、危険にさらされた人を見ても何もしないことまで防ぐために入れられたものです。アシモフは作中のロボット心理学者スーザン・キャルヴィン（Susan Calvin）の口を借りて、三原則とは、他人を傷つけず、医師や教師のような正当な権威の指示に従い、自分を大切にする善良な人間の常識をロボットに移したものだと説明しています。
「堂々めぐり」では、水星でセレンを取ってくるよう命令されたロボットが、危険な地域の前でぐるぐる回るばかりになります。何気なく出された命令（第二条）と、高価なロボットであるため強く設定された自己防衛（第三条）がぴったり釣り合ってしまったためです。最後は、人間が自ら危険に飛び込んで第一条を呼び覚ますことで、ようやくロボットが動き出します。
原則の抜け穴と第零条
3つの文は単純に見えますが、アシモフの作品の多くは、むしろこの原則が予想外の結果を生む状況を描いています。
（1）「危害」とは、「人間」とは何か
体の傷だけが危害なのでしょうか、それとも心の傷も危害なのでしょうか。「うそつき」のロボットは、人の心を傷つけまいと耳に心地よいうそをつき、かえって大きな傷を残してしまいます。『はだかの太陽（The Naked Sun）』では、ロボットが知らないうちに犯罪の道具になりうることも明らかになります。
（2）一部だけを守るロボット
短編「迷子のロボット（Little Lost Robot）」には、放射線の近くで働く人をむやみに助けようとして壊れてしまうのを防ぐため、「何もしないことによって」という一節を削られたロボットが登場します。この小さな変更だけで、ロボットははるかに危険な存在になってしまいます。
（3）人類を優先する第零条
アシモフは1985年の長編『ロボットと帝国（Robots and Empire）』で、「ロボットは人類に危害を加えてはならない」という第零条（Zeroth Law）を打ち出しました。しかし同時に、人類全体にとって何が有害かを判断するのは、個人への危害を見極めるよりはるかに難しいという問題も提起されます。
実際のロボット設計に残した影響と限界
現実のロボットには、三原則が最初から組み込まれているわけではありません。今日のロボットは「危害」という言葉の意味を理解できないため、安全は文章ではなく、非常停止ボタンや安全柵、人に触れると止まる力の制限といった工学的な仕組みで守られています。
現実に合わせて書き直された原則
- 責任あるロボット工学の三原則（Three Laws of Responsible Robotics）：2009年にロビン・マーフィー（Robin Murphy）とデイヴィッド・ウッズ（David D. Woods）が提案した原則で、ロボットではなく、ロボットを配置する人間に安全と倫理の責任を問います。
- ロボット工学原則（Principles of Robotics）：2010年にイギリスの工学・物理科学研究会議（EPSRC）などの作業部会がまとめた5つの原則で、ロボットは道具であり製品であって、責任は人間にあることを明確にしています。
- ロボット倫理憲章（Robot Ethics Charter）：2007年に韓国政府が作ると発表した憲章で、当時は三原則を参考にできるという説明がなされました。
このように三原則は、そのままプログラムに組み込む設計図というより、ロボットが人のそばにやって来るとき何をまず守るべきかを問いかける出発点の役割を果たしてきました。
ロボット工学三原則は小説の中の仕掛けとして生まれましたが、ロボットを恐怖ではなく信頼の対象として見るようにさせた思考実験でした。同時にアシモフの作品は、数行のルールだけでは機械の行動を完全に制御できないという事実も示しました。
ルールを作ること以上に、そのルールがどこで食い違うのかを最後まで問い続けること、それこそが人と一緒に働く安全なロボットを作るロボット工学の第一歩です。
