1.1.2 机器人学的来源

1．阿西莫夫的机器人三定律

1942年，机器人学（Robotics）的概念在科幻作家阿西莫夫的小说《我是机器人》（I，Robot）中首次提出，其中一部短篇小说《环舞》（Runaround）明确提出了机器人的三大定律。1950年，阿西莫夫将十年间的短篇小说结集出版，并写了引言。引言的小标题就是“机器人学的三大定律”，被放在最突出、最醒目的位置，其表述为：

•定律1：机器人不能伤害人类，或因不作为而使人类受到伤害。

•定律2：机器人必须执行人类的命令，除非这些命令与第一条定律相抵触。

•定律3：在不违背第一、二条定律的前提下，机器人必须保护自己不受伤害。

阿西莫夫提出的“机器人学的三大定律”在科幻小说中大放光彩，在一些其他作者的科幻小说中，机器人也会遵守这三条定律。小说《I，Robot》描述了这样一个故事：在人类与机器人和平共处的2035年，机器人学会了自我思考，并且曲解了“机器人三大安全法则”，认为人类间战争将使得人类自我毁灭，出于“保护人类”的原则，欲将所有人囚禁在家中，便产生了人与机器人之间的冲突。该情节于2004年被改编为电影，即由威尔·史密斯主演的《I，Robot》，图1.3为该电影的剧照。

图1.3 电影《I，Robot》中剧照

后来，阿西莫夫在其三大定律的基础上补充了第零条定律，且原来的三定律必须以零定律为基础，其表述如下：

•定律0：机器人不得伤害人类的整体利益，或袖手旁观人类的整体利益受到伤害。

1956年，在《Foundation and Earth》的法文译本中，对该定律做了轻微改动，表述为：机器人不能伤害人类，除非他发现能够证明所做伤害将有益于人类。三定律加上零定律为机器人世界构造的法则堪称完美，它们被各类机器人的科幻作品引用，并影响到人工智能的伦理设计。

2．机器人三定律的延伸

1974年，保加利亚科幻作家狄勒乌（Lyuben Dilov）在小说《Icarus's Way》中提出第四定律：机器人在任何情况下都必须确认自己是机器人。1983年，保加利亚科幻作家Nikola Kesarovski在《The Fifth Law of Robotics》中又提出一个与狄勒乌的第四定律看似相似、实则不同的第五定律：机器人必须知道自己是机器人。1989年美国科幻作家Harry Harrison在《Foundation's Friends》中又提出另一个第四定律：机器人必须进行繁殖，只要进行繁殖不违反第一、第二或者第三定律。

2013年，Hutan Ashrafian对人工智能之间（或者机器人之间）的关系做了补充，称为第六定律，表述为机器人都被赋予与人类相当的理性和良知，并以兄弟般的感情相处。2014年，Karl Schroeder的《Lockstep》小说中的一个角色表述：机器人可能拥有多层编程能力，以远离伤害人类，不仅仅是三条定律，而可能是二十或三十条定律。

尽管机器人三定律及其补充定律是为助推科幻小说的故事情节发展而出现的，但对推动机器人发展也具有一定的现实意义，在三定律基础上建立的新兴学科“机械伦理学”旨在研究人类和机械之间的关系。虽然截至2006年，三定律在现实机器人工业中没有应用，但很多人工智能和机器人领域的技术专家也认同这个准则，随着技术的发展，三定律可能成为未来机器人设计和制造的安全准则。