在电影里，机器人长期以来都是令人恐惧的对象。人类制造的机器有一天攻击主人、占领世界，这样的情节至今仍不陌生。然而在80多年前，一位厌倦了这种老套故事的作家，为机器人定下了必须遵守的约定，并把它们写进了小说。
这位作家就是美国科幻小说家艾萨克·阿西莫夫（Isaac Asimov），他定下的约定就是“机器人三定律（Three Laws of Robotics）”。简单来说，机器人三定律是指把“机器人不伤害人类、服从人类命令、保护自身”这三条规则排出优先顺序的行为准则。
本文将从机器人三定律如何诞生说起，依次介绍三条定律的内容与优先顺序、定律中隐藏的漏洞，以及它们对现实机器人设计和伦理讨论留下的影响。
始于小说的机器人安全约定
机器人三定律是如何诞生的？
1940年前后，机器人伤害自己创造者的故事在科幻小说中十分常见。阿西莫夫把这种现象称为“弗兰肯斯坦情结（Frankenstein complex）”，他想描写的不是危险的怪物，而是装有安全装置、值得信赖的机器。
（1）与编辑的对话
阿西莫夫回忆说，三定律是在1940年12月23日他与杂志编辑约翰·坎贝尔（John W. Campbell）的对话中整理出来的。而坎贝尔则表示，自己只是把阿西莫夫脑中早已有的想法写成了文字。
（2）短篇《转圈圈》
三条定律首次同时出现的作品是1942年的短篇小说《转圈圈》（Runaround）。这篇作品后来收入1950年的短篇集《我，机器人》（I, Robot），定律则以引自2058年出版的虚构《机器人学手册》第56版的文字形式出现。
有趣的是，“机器人学（robotics）”这个词本身，据说也是阿西莫夫在1941年的短篇《骗子！》（Liar!）中首次使用的。
三条定律的内容与优先顺序
机器人三定律的核心在于优先顺序：当三条规则相互冲突时，排在前面的定律总是优先。
- 第一定律（First Law）：机器人不得伤害人类，也不得因不作为而让人类受到伤害。
- 第二定律（Second Law）：机器人必须服从人类的命令，但如果命令与第一定律冲突，则不服从。
- 第三定律（Third Law）：机器人必须保护自身的存在，但仅限于不与第一定律或第二定律冲突的范围内。
第一定律中“因不作为”这句话，是为了连看到有人身处危险却袖手旁观的情况也一并禁止而加入的。阿西莫夫借作品中机器人心理学家苏珊·卡尔文（Susan Calvin）之口解释说，三定律是把一个好人的常识移植到机器人身上：不伤害他人，服从医生、教师等正当权威的指示，并爱惜自己。
在《转圈圈》中，一台接到命令去水星取硒的机器人，在危险区域前只是不停地绕圈。这是因为随口下达的命令（第二定律）与因机器人造价昂贵而被设定得很强的自我保护（第三定律）恰好达到了平衡。最终，只有当人类亲自冒险、唤醒第一定律时，机器人才开始行动。
定律的漏洞与第零定律
三句话看似简单，但阿西莫夫的大部分作品恰恰描写了这些定律带来意外结果的情形。
（1）什么是“伤害”，什么是“人”
只有身体上的伤才算伤害，还是心灵的伤也算伤害？在《骗子！》中，机器人为了不伤害人的感情而说出动听的谎言，结果留下了更深的伤痛。《裸阳》（The Naked Sun）则揭示了机器人可能在不知情的情况下沦为犯罪工具。
（2）只遵守一部分定律的机器人
短篇《小小机器人失踪记》（Little Lost Robot）中出现了一台删去了“因不作为”一句的机器人，这是为了防止它为救助在辐射附近工作的人而白白损坏。仅仅这一点小小的改动，就让这台机器人变得危险得多。
（3）把人类放在首位的第零定律
阿西莫夫在1985年的长篇小说《机器人与帝国》（Robots and Empire）中提出了第零定律（Zeroth Law）：“机器人不得伤害人类整体。”但同时也引出了一个问题：判断什么对全人类有害，比衡量对个人的伤害要困难得多。
对现实机器人设计的影响与局限
现实中的机器人并不会自带三定律。如今的机器人无法理解“伤害”一词的含义，因此安全不是靠文字，而是靠紧急停止按钮、安全围栏、碰到人就停止的力度限制等工程手段来保障。
为现实重新改写的原则
- 负责任机器人学三定律（Three Laws of Responsible Robotics）：由罗宾·墨菲（Robin Murphy）和戴维·伍兹（David D. Woods）于2009年提出，把安全与伦理的责任归于部署机器人的人，而不是机器人本身。
- 机器人学原则（Principles of Robotics）：2010年由英国工程与自然科学研究理事会（EPSRC）等组织的工作组整理出的五条原则，明确了机器人是工具和产品、责任在于人。
- 机器人伦理宪章（Robot Ethics Charter）：韩国政府于2007年宣布将要制定的宪章，当时有说法称可以参考三定律。
由此可见，三定律与其说是可以直接写进程序的设计图，不如说一直扮演着一个起点的角色，让人们思考机器人来到人类身边时首先应当守住什么。
机器人三定律虽然诞生于小说中的设定，却是一场让人们把机器人视为信赖而非恐惧对象的思想实验。同时，阿西莫夫的作品也表明，仅凭几行规则无法完美地控制机器的行为。
比起制定规则，更重要的是追问到底：这些规则会在哪里出错。这正是机器人学打造能与人类一起工作的安全机器人的第一步。
