审判机器人
上QQ阅读APP看书,第一时间看更新

第一章 机械犯罪人的起源

第一节 对机械人的无尽探索

一、人工智能的历史和史前史

自人类诞生之时起,我们便一直在寻找工具以更易于生存。石器时代,工具由石头制作而成。后来随着人类逐渐发现金属的优势,金属便代替了石头。随着知识的拓展,工具数量也随之增加,并在人类日常生活中发挥着越来越重要的作用。由于任务日渐复杂,工具也面临着不断挑战。一旦工具不能应对挑战,更复杂的工具便应运而生;如果工具成功应对挑战,那么这些工具便会面临更多全新挑战,周而复始,延续至今。自古以来,机械装置一直都为人类生活提供便利。公元1世纪,亚历山大人士海伦(Heron)一生发明无数,曾设计当时世界上第一台蒸汽机和风力发电机。见,例如,A AGE GERHARDT DRACHMANN, THE MECHANICAL TECHNOLOGY OF GREEK AND ROMAN ANTIQUITY:A STUDY OF THE LITERARY SOURCES(1963);J.G.LANDELS, ENGINEERING IN THE ANCIENT WORLD(rev.ed.,2000)。然而,直至18世纪第一次工业革命,机器才首次大批量投入使用。

随着对人类所具有的创造理性思考的系统性方法之能力逐步洞察,思考机器的想法也随之成熟。1637年,笛卡儿(Descartes)首次开启人类对系统性方法的探索,René Descartes, Discours de la Méthode pour Bien Conduire sa Raison et Chercher La Vérité dans Les Sciences(1637)(Eng:Discourse on the Method of Rightly Conducting One’s Reason and of Seeking Truth in the Sciences).尽管他自己并不相信机械设备可以实现理性。Terry Winograd, Thinking Machines:Can There Be?Are We?,THE FOUNDATIONS OF ARTIFICIAL INTELLIGENCE 167,168(Derek Pertridge and Yorick Wilks eds.,1990,2006).但是,笛卡儿却为现代符号处理机器奠定了基础。1651年,霍布斯(Hobbes)将理性描述成符号运算。THOMAS HOBBES, LEVIATHAN OR THE MATTER, FORME AND POWER OF A COMMON WEALTH ECCLESIASTICALL AND CIVIL III.xxxii.2(1651):“当一个人进行推理时,他所做的不过是在心中将各部相加求得一个总和,或是在心中将一个数目减去另一个数目求得一个余数……这些运算法并不限于数字方面,而是所有可以相加减的事物全都适用……逻辑学家在语词系列、两个名词相加成为一个断言、两个断言相加成为一个三段论法、许多三段论法形成一个证明。”17世纪时,莱布尼茨(Leibniz)希望能够找到数学、科学以及形而上学的一种通用语言,这种通用语言可以用计算来代替思考。帕斯卡(Pascal)设计了加法机和乘法机,甚至可能是第一台机械计算机,GOTTFRIED WILHELM LEIBNIZ, CHARACTERISTICA UNIVERSALIS(1676).这些机器完全由人类操作,并不能思考。自然而然,我们并不期待这些机器能够独立思考。

一般认为,思考机器的现代理念与诗人拜伦勋爵(Lord Byron)的女儿阿达·洛夫莱斯(Ada Lovelace)有关,她曾赞助查尔斯·巴贝奇(Charles Babbage)发明设计分析机(analytical engine)——第一台机械编程计算机,可惜未能完成。1843年,在接触巴贝奇的工作之时,阿达·洛夫莱斯曾经询问巴贝奇,他的机器是否能够真正地“思考”。在那个年代,机械思考的观念可谓天方夜谭,但是这个问题本身却启迪人们对非自然的或“人工的”智能可行性的思考。

但是,直到电力和电子计算机成为现实,人工智能的理念才最终得以在现实中进行检验。20世纪50年代,机器—机器翻译的重大发展使计算机之间的相互交流成为可能;随后,人—机器翻译的发展使人类操作员开始与计算机进行有限沟通成为可能。在此之后,计算机科学家学会了分析推理和用符号来代表知识,进而推动人工智能的重要领域——知识表达的大力发展。N.P.PADHY, ARTIFICIAL INTELLIGENCE AND INTELLIGENT SYSTEMS 4(2005,2009).

电子计算机储存大量信息并高速处理信息的能力激励科学家创造能够展示人类能力的系统。从20世纪50年代起,电子机器已经不断获取并实现人类的技能和能力。随着个人计算机的不断发展和普及,这些能力对很多人而言,都是可以负担的。如今,计算机的内存容量、速度和可信度不断增加,个人计算机行业生机盎然,正在世界范围将人工智能工具引入桌面系统。

20世纪50年代计算机领域进展迅速,与此同时,人工智能作为一项融合技术调查、逻辑学以及最终的控制论的独立研究领域,也逐渐发展成为处理人机沟通及其他事项的交叉学科领域。20世纪20年代和30年代,逻辑学研究促进了推理方法的形成,并产生了一种名为命题与谓词演算的新型逻辑形式,这种逻辑形式得益于无数前辈的研究成果,比如:邱奇(Church)、哥德尔(Gödel)、波斯特(Post)、罗素(Russell)、塔斯基(Tarski)、怀特海(Whitehead)以及克莱尼(Kleene)等。DAN W.PATTERSON, INTRODUCTION TO ARTIFICIAL INTELLIGENCE AND EXPERT SYSTEMS(1990).20世纪50年代,心理学、神经学、统计学以及数学等领域的发展也给人工智能研究领域的不断进步提供了巨大支持。GEORGE F.LUGER, ARTIFICIAL INTELLIGENCE:STRUCTURES AND STRATEGIES FOR COMPLEX PROBLEM SOLVING(2001).

20世纪50年代后期发生几项重大进展,标志着人工智能将会广泛进入公众生活。其中意义最为非凡的两项发展就是棋类博弈程序以及通用问题解决方案(GPS),后者可以解决从符号组合到文字谜题的各种问题。这使得满腔激情的公众开始关注人工智能的能力,与此同时,对人工智能产生了不切实际的期待,而第一部关于机器人反抗人类并试图控制人类的科幻小说也随之产生。J.R.MCDONALD, G.M.BURT, J.S.ZIELINSKI AND S.D.J.MCARTHUR, INTELLIGENT KNOWLEDGE BASED SYSTEM IN ELECTRICAL POWER ENGINEERING(1997).

人工智能研究主要围绕两个方向展开:研发与数字计算机相结合的物理设备,以及发展符号表达。第一项努力促进了机器人学的诞生;第二项努力追求训练感知力,以确定某些特定模式是相似还是相异。人工智能研究假设常识性知识问题是可以解决的,如果人类可以解决该问题,那么机器也同样可以。该问题可以理解为,在信息提供不充分时利用常识收集事实的能力。多年以来,该假设都阻碍了理论人工智能的发展,并将人工智能研究导向联结主义(神经网络模式)。STUART J.RUSSELL AND PETER NORVIG, ARTIFICIAL INTELLIGENCE:A MODERN APPROACH(2002).

直到20世纪70年代,人工智能的重要性才在全球大多数地方凸显出来。发达国家和发展中国家政府都正在寻求长期资源投入来资助人工智能的深入研究项目。Patterson, Supra note 7.政府和私人组织经常会就机器人、软件以及各种计算机产品领域的发展项目展开合作。这些项目之所以能够推动,是因为人们意识到发展系统来展示人类某些能力(如理解语言和虚拟场景、学习并定义知识,以及作出独立决策的能力)已经具备可行性。

20世纪70年代伊始,工业领域拥抱人工智能技术。某些人工智能的能力,如自然语言处理能力,至今尚未完全实现,但是,人工智能却成功地被越来越多的工业领域所采用。STEVEN L.TANIMOTO, ELEMENTS OF ARTIFICIAL INTELLIGENCE:AN INTRODUCTION USING LISP(1987).这些行业包括生物医学显微技术、材料分析和机器人技术。成功采用人工智能技术的领域已经变得完全依赖人工智能技术,因为普通人的能力不如这些人工智能工具精准、快速和高效。

20世纪80年代,人工智能研究在医学、金融和人类学领域专家系统的设计和开发方面取得了巨大进步。专家系统的最主要挑战是在相应领域研发合适的知识表达。为适于访问,知识的储存方式必须能使其由系统界面、人类或其他实体进行自动检索或展示。很多专家系统都已成为非常成功的工具,随着新知识的产生不断拓展,可借助更优的启发算法(heuristics)不断改进。见,例如,Edwina L.Rissland, Artificial Intelligence and Law:Stepping Stones to a Model of Legal Reasoning,99 YALE L.J.1957,1961—1964(1990);ALAN TYREE, EXPERT SYSTEMS IN LAW 7—11(1989)。

第二个挑战是在专家系统投入使用后短期之内,将新技术融入专家系统之中。专家系统的研发引起了机器学习和问题解决行业的深入研究,这在很多全新领域已扩大了专家系统的使用范围,因为研发工作正超出学术研究范围,并且人工智能技术也正日益取代传统的人类能力。ROBERT M.GLORIOSO AND FERNANDO C.COLON OSORIO, ENGINEERING INTELLIGENT SYSTEMS:CONCEPTS AND APPLICATIONS(1980).随着人工智能研发的行业需求日益高涨,人工智能技术的优势早已不再是争论焦点。

工业领域越来越多地介入人工智能研究的原因包括以下三点。首先,人工智能的成就,尤其是在知识工程领域的成就是毋庸置疑的。其次,硬件的进步使人工智能工具更具可行性,而且用户更易获得人工智能产品。最后,为了提高生产效率,工业对更加便捷、更加完善的问题解决工具的需求不断增长。因此,很多工业领域已采用人工智能技术,比如,工厂自动化、编程、办公自动化以及个人计算。Padhy, Supra note 6,at p.13.

人工智能技术的提升能力、人类的好奇心以及工业需求是人工智能技术在全球范围扩大使用的主要原因。由于更多传统的人类功能正逐渐被人工智能技术所取代,该趋势会一直延续至第三个千禧年。例如,韩国政府现在正使用人工智能机器人作为士兵戍守在韩国和朝鲜边境,作为老师在学校教学,以及作为监狱守卫(自2012年起)。Nick Carbone, South Korea Rolls Out Robotic Prison Guards, http://newsfeed.time.com/2011/11/27/south korea debuts robotic prison guards/(最后访问日期:2019年1月10日);Alex Knapp, South Korean Prison To Feature Robot Guards, http://www.forbes.com/sites/alexknapp/2011/11/27/south korean prison to feature robot guards/(最后访问日期:2019年1月10日)。

2016年,一位法国女性与她用3D打印机“打印”出来的机器人订婚,并想要和它结婚。https://www.ynet.co.il/articles/0,7340,L 4898298,00.html(最后访问日期:2019年1月10日)。2017年5月,配备人工智能技术的自动驾驶汽车获得授权在美国公路行驶。然而,2018年3月18日,一名妇女在亚利桑那州坦佩市被一辆自动驾驶汽车撞击身亡。Daisuke Wakabayashi, Self Driving Uber Car Kills Pedestrian in Arizona, Where Robots Roam, The New York Times(最后访问日期:2018年3月19日);https://www.nytimes.com/2018/03/19/technology/uber driverless fatality.html(最后访问日期:2019年1月10日)。2018年12月,以色列警方开始使用人工智能技术来监控囚犯,并逮捕警方有权逮捕或拘留的嫌疑人。Itzik Saban, Artificial Intelligence in the Police Service, Israel Hayom 35(最后访问日期:2018年12月25日)。

《2009年—2047年无人驾驶飞机系统飞行计划》报告长达82页,详细阐述了无人驾驶飞机的未来应用。其中,美国空军写道:“无人驾驶飞机是提升效果的关键,同时可能降低成本、前沿基础和风险。”该报告称,与今日可战胜技艺精湛的棋局大师的棋类程序一样,未来无人机一定能够比人类飞行员更加反应敏捷。但与此同时,该报告也提到潜在的法律问题:“日复一日,人们将不再是‘在圈子之中’,而是‘在圈子之外’——监管着某些决策的执行……能否授权机器作出致命的战斗决策,取决于政治和军事领导人能否解决法律和道德问题。”W.J.Hennigan, New Drone Has No Pilot Anywhere, So Who’s Accountable?Los Angeles Times, January 26,2012.See also http://www.latimes.com/business/la fi auto drone 20120126,0,740306.story(最后访问日期:2019年1月10日)。

二、定义人工智能以及对机械人的无尽探索

自人工智能诞生之时起,研究者们一直试图研发出能真正“思考”的计算机。这是人工智能研究的“圣杯”。EUGENE CHARNIAK AND DREW MCDERMOTT, INTRODUCTION TO ARTIFICIAL INTELLIGENCE(1985).但是,在研发思考机器之前,必须首先定义什么是思考。事实证明,对研究人员而言,如何定义思考才能既适于人类又适于机器,是一项非常复杂的任务。研发具有独立思考能力的机器,对人类来说是一项非常重要的事件,人类一直声称其已垄断“独立思考”的高级思维技能。发明一个真正思考的机器等于地球上出现一个新物种——机械人(machina sapien)。

但是,问题是,人类的科学想要发明新物种吗?自远古时期起,人类一直试图通过《圣经》中提到的首个预防步骤来扮演上帝。《创世纪》3:1—24。现代科学研究某些特征含有类似的幻想元素,包括克隆人、生物医学工程、追求抗衰老,等等。探索发明新物种符合该趋势。尽管发明新物种可能造福人类,但是这并不一定是人工智能研究背后的动机。原因可能更加深刻,触及人类探索的最深处。根据《圣经》,人类因其原罪而被禁止进行这些探索。

发明机械人的第一步是定义人工智能。先贤们曾经提出过多种定义。贝尔曼(Bellman)将人工智能定义为“与人类思考相关联的自动活动,如作出决定、解决问题和学习……”。RICHARD E.BELLMAN, AN INTRODUCTION TO ARTIFICIAL INTELLIGENCE:CAN COMPUTERS THINK?(1978).豪格兰(Hauge land)认为人工智能是“让机器思考的一项非常激动人心的全新尝试……即完全字面意义上的具有思想的机器”。JOHN HAUGELAND, ARTIFICIAL INTELLIGENCE:THE VERY IDEA(1985).查尼亚克(Charniak)和麦克德莫特(McDermott)认为人工智能是“通过使用计算模型实现心理官能的研究”。Charniak and McDermott, Supra note 21.

沙尔科夫(Schalkoff)认为人工智能“是一门寻求通过计算过程来理解和模仿智能行为的研究学科”。ROBERT J.SCHALKOFF, ARTIFICIAL INTELLIGENCE:AN ENGINEERING APPROACH(1990).库兹威尔(Kurzweil)将其定义为“一种可以实现机能的机器发明艺术,这些机能要求人类智力方可完成”。RAYMOND KURZWEIL, THE AGE OF INTELLIGENT MACHINES(1990).温士顿(Winston)认为人工智能是“一种对计算方法的研究,这种算法让理解、理性和行为成为可能”。注1卢格尔(Luger)和斯塔布菲尔德(Stubblefield)将人工智能定义为“和自动智能行为相关的计算机科学的一个分支”。注2里奇(Rich)和奈特(Knight)认为人工智能是“一项关于如何使计算机完成目前人类更加擅长事项的研究”。注3

注1PATRICK HENRY WINSTON, ARTIFICIAL INTELLIGENCE(3rd ed.,1992).

注2GEORGE F.LUGER AND WILLIAM A.STUBBLEFIELD, ARTIFICIAL INTELLIGENCE:STRUCTURES AND STRATEGIES FOR COMPLEX PROBLEM SOLVING(6th ed.,2008).

注3ELAINE RICH AND KEVIN KNIGHT, ARTIFICIAL INTELLIGENCE(2nd ed.,1991).

乍看起来,这些定义令人更加疑惑,而非澄清疑虑。可是,根据上述及其他定义,可以将人工智能系统大致分为四类:(1)像人类一样行为;(2)像人类一样思考;(3)理性思考;以及(4)理性行为。Padhy, Supra note 6,at p.7.

1950年,经过英国数学家提出的图灵测试(Turing test)验证可以像人类一样行动的人工智能系统,这为智能提供了一个操作性定义。Alan Turing, Computing Machinery and Intelligence,59 MIND 433,433—460(1950).图灵将智能行为定义为能够在所有认知任务上实现人类水平机能的能力,从而使人类询问者无法区分人类行为和机器行为。图灵测试还涉及人类“倾听”人类通过文字与机器之间进行的对话。若人类交谈者不能分辨出人类行为和机器行为之间的差异,则该机器被视为通过图灵测试。Donald Davidson, Turing’s Test, MODELLING THE MIND 1(1990).图灵测试预设,所有人类的认知能力完全相同,尽管一台机器和一名儿童、一名智力残障人士、一名极度疲惫之人以及机器设计员之间的对话可能明显不同。Robert M.French, Subcognition and the Limits of the Turing Test,99 MIND 53,53—54(1990).

为了确认人工智能系统是否能够像人类一样思考,首先必须对人类的思考作出定义。人工智能技术作为普通问题解决方案进行研发,是为了使其能够根据相同的信息作出与人类相似的决定。MASOUD YAZDANI AND AJIT NARAYANAN, ARTIFICIAL INTELLIGENCE:HUMAN EFFECTS(1985).现代认知科学的发展为机械思考(mechanical thinking)和机器思考测试提供了实验路径。图灵提出的另一个测试中,实验人员的目标是在对话中分辨出男性和女性。该测试对人类参与者交流技能的依赖程度,与对机器的交流技能的依赖程度一样高。STEVEN L.TANIMOTO, ELEMENTS OF ARTIFICIAL INTELLIGENCE:AN INTRODUCTION USING LISP(1987).

原始图灵测试的有效性已经受到质疑,尤其是针对强人工智能(此时,计算机具有与人类相似的大脑)。2014年,一台机器曾被认为已经通过图灵测试,但这受到了批判。Nick Shchetko, Did“Eugene Goostman”Pass the Turing Test?,THE WALL STREET JOURNAL(10.6.2014).约翰·瑟尔(John Searle)在他著名的中文房间思维试验中,JOHN R.SEARLE, MINDS, BRAINS AND SCIENCE 28—41(1984);John R.Searle, Minds, Brains&Programs,3 BEHAVIORAL&BRAIN SCI.417(1980).描述了一个不懂中文的人独自呆在一个房间里,接收大量书面中文信息。这个试验对象拥有一本以其母语写成的规则手册,他可以通过汉字字形来查找汉字,然后使用这本规则手册来回复信息。图灵测试的实验人员在房间外面,确信房间里的人懂得中文。

在这个思维试验中,房间里的人只是简单地遵照手册的说明,但是无论是这个人还是这本手册都不懂中文,尽管两者都可以假装懂中文。在这种情况下,这本手册就是一个电脑程序。那么,人们懂得一门外语又是什么意思呢?如果不先对理性(rationality)作出定义,就很难辨认人工智能系统是否能够理性地思考。如果理性意味着“正确”(right)思考,那么可以用形式逻辑表示,因而一旦提供正确的信息,机器的目的就在于产生正确的结论组合。例如,如果知道所有西红柿都是红色的,而且,X是西红柿,那么,机器就能得出结论:X是红色的。绝大多数现代人工智能系统支持形式逻辑,并且知道该如何根据这些逻辑行事。

理性行为的人工智能系统是理性思考的人工智能系统的高级变体。后者作为局外人能够根据正确的信息得出正确的结论,而前者则能够参与到事件中,并根据正确的信息采取正确的行动。例如,足球比赛中,看到足球快速接近球门的人工智能守门员,不仅能够计算出足球接近的速度和角度,还可以确定阻挡足球所需的行动,并采取行动,阻止球进门。

然而,对机械人的探索并不止于上述分类和定义。如果探索成功,这将能回答是什么让人类具有智能的问题,并将促进智能机器的设计。从20世纪80年代末开始,一般认为,可以根据某属性来辨别智能思考,尤其是以下五点属性:(1)交流;(2)内部知识;(3)外部知识;(4)目标驱动的行为,以及(5)创造力。Roger C.Schank, What is AI, Anyway?THE FOUNDATIONS OF ARTIFICIAL INTELLIGENCE 3,4—6(Derek Pertridge and Yorick Wilks eds.,1990,2006).下面逐一探讨这些属性。

交流(communication)被认为是定义智能实体最重要的属性,因为我们可以与智能实体交流。注意,我们不仅可以与人类交流,也能够和某些动物交流,尽管这种交流的范围与人类相比较为狭窄,而且并不是所有想法都能表达出来。例如,你可以让你的狗知道你有多生气,但是你并不能向它解释中文房间思维试验。与一名两岁儿童进行沟通的情况也大抵如此。交流对象的智能越强,与之进行的交流就越复杂。

交流假定能够正确理解其中的信息,并且能利用交流来测试对复杂想法的理解能力。但是交流并不能总是证明理解能力。一些高智商的天才并不善于交流,而一些自闭的天才甚至根本不会交流。与此同时,大多数正常人都具有出色的交流技能,尽管只有很少的人能够探讨复杂的事物,比如,爱因斯坦的相对论、量子力学、平行世界以及指数方程。

交流不仅可以通过语言来完成,还能通过其他途径,包括文字。因此,即使机器缺乏语言能力,它们仍然能够具有非常高的智能,类似于聋哑人。虽然交流属性对于智能而言非常重要,但是仍然会存在许多例外。图灵测试便是以该属性为基础的,但是,如果人类的交流并不是十分准确,我们怎么能相信可以通过交流来识别人工智能呢?

内部知识指的是实体对于自身的知识。这和自我意识相似。智能实体应该知道自身的存在,理解自身是以某种方式发挥功能的,知道自身是以何种方式融入现实之中的,等等。形式逻辑推理通过自我参照展示了人工的内部知识。DOUGLAS R.HOFSTADTER, G?DEL, ESCHER, BACH:AN ETERNAL GOLDEN BRAID 539—604(1979,1999).我们可以使计算机编程看起来“知道它们自己”,而且它们理解何为“知道它们自己”。但是,很多研究者认为这过于武断,而且坚称难以确定这些计算机是否真的“知道它们自己”。然而,迄今为止仍然没有提出测试内部知识的替代方案。问题是,怎么可能了解到其他人的内部知识呢?

外部知识指的是关于外部世界和事实真相的事实数据。在知识具有商品功能的年代,特别是和专家系统相联系时,外部知识属性就变得至关重要。见,例如,DONALD A.WATERMAN, A GUIDE TO EXPERT SYSTEMS(1986):“直到20世纪70年代末,人工智能科学家才开始意识到一些非常重要的事情:程序解决问题的能力来自它所拥有的知识,而不仅仅来自它使用的形式和推理方案。概念上的突破已经取得,并且可以非常简单地予以陈述。要使一个程序变得智能,就要为它提供关于某些问题领域的高质量、具体的大量知识。(原文强调)”DONALD MICHIE AND RORY JOHNSTON, THE CREATIVE COMPUTER(1984);EDWARD A.FEIGENBAUM AND PAMELA MCCORDUCK, THE FIFTH GENERATION:ARTIFICIAL INTELLIGENCE AND JAPAN’S COMPUTER CHALLENGE TO THE WORLD(1983)。智能实体应该知道如何发现外部世界的数据,并了解自己所处的事实真相的事实构成。这一属性假定实体拥有记忆技能,以及将信息按照貌似相关的种类进行分类的技能。人类用这种方法积累生活经验并从中学习。如果每次对待所有事实要素都如对待新鲜事物,就很难成为智能实体。尽管每次事实事件都有新鲜之处,但这些事件中也包含共同特性,而智能实体应当能够识别出来。

例如,根据疾病症状进行疾病诊断的医学专家系统,能够判断出千变万化的病例中包含的共同特性。缺乏这种能力的实体与患有失忆症的人相似。虽然他们在给定的环境下表现得当,但是他们并没有将行为累积到经验中。这就是简单机器的操作方式:完成某项任务的同时不能意识到任务已经完成,无法吸收经验指导未来任务。所以,问题在于,如果可以将经验匮乏之人视为智能,为什么不能将具有相似行为的机器也视为智能?

目标—驱动行为标志着随意或任意行为和有意行为之间的差异。目标—驱动行为要求有可操作的计划来实现预期的目标。对大多数人来说,目标—驱动行为可以理解为目的(intention)。如果饥饿的人看到苹果,吃苹果就是目标—驱动行为,目标是缓解饥饿。目标—驱动行为并非人类独有。如果一只狗看到障碍物后面有一根美味多汁的骨头,它就会计划绕过障碍物去取得骨头。执行这项计划就是这只狗的目标—驱动行为。

不同生物可能会有不同类型且不同复杂程度的目标。实体越智能,目标就越复杂。在主人遇难时,狗的目标只限于寻求帮助,而人类的目标可能包括登上火星。计算机能够计划火星着陆,机器人和自动驾驶车辆也已经能探测火星并搜索数据。还原论(reductionist)的目标—驱动行为是将一个复杂的目标解构为多个简单目标的行为;实现简单目标可以看作是目标—驱动行为。目标及其实现计划或许可以编入计算机程序中。可并不是所有人随时随地都会追求复杂的目标。问题在于,机器需要达到什么复杂程度的目标才能视为智能的?

创造力包括发现新的理解方式或行为方式。所有智能实体都被假定具有一定程度的创造力。如果一只苍蝇试图逃离一个窗户紧闭的房间,它会翻来覆去地撞击窗户玻璃,一成不变、徒劳无功地进行相同的尝试。这和创造力背道而驰。可是,某个时刻这只苍蝇确实找到了另一种出路,人们会认为这更具有创造性。狗可以在较少的尝试中找到出路;人类则可以在更少的尝试中找到出路。计算机可能被编程为不得多次重复相同行为,而是寻求其他方法解决问题。这种行为类型对于通用问题解决软件至关重要。

创造力并非同源同质,而会有程度和等级之分。并非所有人都被视为具有创造性,有很多人日复一日地以相同方式完成日常任务。很多彩票玩家会年复一年买从未中过奖的相同号码。是什么让他们的创造力和苍蝇的创造力产生不同?苍蝇撞破窗户的概率并不低于彩票玩家中大奖的概率。很多每天几小时完成相同操作的工厂工人仍是智能实体。问题在于,要达到什么程度的创造力才能称得上智能?

并不是所有人类都具有这五个属性。那么,为什么我们要用不同的标准来衡量机器和人类的智能呢?每次一些新软件成功攻克某一特定属性时,其成果都会因为缺乏真实、交流、内部知识、外部知识、目标—驱动行为或创造力而遭到否决。见,例如,对威诺格拉德(Winograd)文的批判,上注3,第178—181页。因此,提出新测试方法就是为了保证有关人工智能技术实现真正的智能。Schank, Supra note 39,pp.9—12.

其中某些测试方法是关于知识表达(机器知道的知识)、解码(将知识从事实真相译成相应表达)、推断(提取知识内容)、控制组合爆炸(预防相同问题的无尽计算)、索引(安排和分类知识)、预测(评估可能现实事件的概率)、动态调整(根据经验自行改变程序)、概括(现实事件的归纳解释)以及求知欲(思考现实事件或试图寻找事件的原因)等。

从生物学意义上来说,上述所有属性都是人类大脑的表现。没有任何人质疑这一事实。这些属性都是能识别和量化的大脑神经元活动的表现。若是如此,如果可以用激活神经元的方式激活三极管的功能,为什么不能用三极管来再现这些特征呢?见,PHILLIP N.JOHNSON LAIRD, MENTAL MODELS 448—477(1983);亦见COLIN MCGINN, THE PROBLEM OF CONSCIOUSNESS:ESSAYS TOWARDS A RESOLUTION 202,209—213(1991)。答案很简单:因为人工智能实体不是人类。

如果特定人工智能技术成功通过之前设计的测试,提出新测试的过程让人类对机械人的探索永无止境。这个原因更是心理原因,而非技术原因。谈及人工智能时,我们一定不能设想一个拥有机器人金属外表的普通人。可我们却会满足于此,HOWARD GARDNER, THE MIND’S NEW SCIENCE:A HISTORY OF THE COGNITIVE REVOLUTION(1985);MARVIN MINSKY, THE SOCIETY OF MIND(1986);ALLEN NEWELL AND HERBERT A.SIMON, HUMAN PROBLEM SOLVING,(1972);Winograd, Supra note 3,pp.169—171.忘记人工智能正是人工的,而非自然的。如果人工智能技术最终成功通过某项测试,这就表明问题不在技术,而在测试。因为人类思维过于复杂,根本不能通过简单的测试检验,所以我们替换了测试,在测试过程中我们更多地了解人类思维,尤其是思维的“官僚性”和目的性,MAX WEBER, ECONOMY AND SOCIETY:AN OUTLINE OF INTERPRETIVE SOCIOLOGY(1968);Winograd, Supra note 3,pp.182—183.而非技术。Daniel C.Dennett, Evolution, Error, and Intentionality, THE FOUNDATIONS OF ARTIFICIAL INTELLIGENCE 190,190—211(Derek Pertridge and Yorick Wilks eds.,1990,2006).

对“将机械人定义为拥有真正智能人格的机械及其可行性”持否定论的论点模板主要如下:

(1)实体若想拥有人格,必须具有属性X。

(2)人工智能技术不能具有属性X。

(3)“人工智能技术行为被认定为具有属性X”表明,它能对该属性进行模仿或模拟。

(4)模拟属性X并不等于属性X。

所以,人工智能技术并非真正智能。有的学者将这个论据模板称为“空壳战略”。注4注意,论点(2)及其结论会导致“第22条军规”的困境:因为人工智能技术不能具备智能属性,所以人工智能实体不是智能的。

注4Lawrence B.Solum, Legal Personhood for Artificial Intelligences,70 N.C.L.REV.1231,1262(1992);OWEN J.FLANAGAN, JR.,THE SCIENCE OF THE MIND 254(2nd ed.,1991);John Haugeland, Semantic Engines:An Introduction to Mind Design, MIND DESIGN 1,32(John Haugeland ed.,1981).

属性X的内容可能完全由高级智能测试编造而成,就此而论,智能测试反映了智能仅为人类特有的信念。只有人类是智能的,所以机器不能具备智能。结果是个悖论。尽管人工智能技术已取得瞩目进步,但人工智能技术能力仍困难重重,因为人工智能研究的进展强调其对人类思维的模仿程度,以及人类思维仍待探索的神秘程度。

20世纪50年代,人们难以相信计算机能在棋局中战胜人类,如果真的发生这种情况,计算机就被视为真的“智能”。可是,1997年,计算机程序(深蓝)在棋局中击败了世界冠军,人们却不认为它是智能的。MONTY NEWBORN, DEEP BLUE(2002).2011年,另一个计算机程序(沃森)在电视上击败了两位“危险边缘(Jeopardy)游戏”的顶级玩家,人们仍然不认为它是智能的。STEPHEN BAKER, FINAL JEOPARDY:MAN VS.MACHINE AND THE QUEST TO KNOW EVERYTHING(2011).尽管这台计算机没能理解节目中的几个笑话,但它赢得了比赛。沃森的研发技术后来经过改编应用在高级专家系统上,尽管这项技术已经足够完善到可以诊断疾病,仍有很多人不认为它是智能的。

人工智能技术为机器学习开辟道路,机器学习是一种归纳学习法,计算机会分析各种事例及其发生情况,然后通过概括,产生事实图像供将来使用。VOJISLAV KECMAN, LEARNING AND SOFT COMPUTING, SUPPORT VECTOR MACHINES, NEURAL NETWORKS AND FUZZY LOGIC MODELS(2001).类似的知识在人类社会称为专业知识,可人类并不愿意称这些计算机系统是智能的。随着人工智能技术的每次进步,似乎人类离机械人的创造反而越来越远,不过人工智能研究却激发了人类对新物种创造的无尽追求。

有两种方法可以积极地并建设性地应对人类对机械人的无尽追求。第一种是通过技术研究,寻找缩短机器和人类之间差距的方法。从1950年起,人工智能研究人员就选择这个方法,遵循对机械人的原始追求,他们相信未来某一天技术能模仿人类思维。人工智能研究在采取该方法后已经取得非凡成就。注5

注5例如,2009年11月,在俄勒冈州波特兰市举行的超级计算会议(SC 09)上,IBM科学家等研究人员宣布,他们成功创建了一种名为“蓝色物质”(Blue Matter)的新算法,这种算法具有猫的思维能力。Chris Capps,“Thinking”Supercomputer Now Conscious as a Cat, http://www.unexplainable.net/artman/publish/article_14423.shtml(最后访问日期:2019年1月10日);国际高性能计算、网络、存储和分析会议(SC 09),http://sc09.supercomputing.org/(最后访问日期:2019年1月10日)。该算法从具有并行和分布式连接的诸多单位中收集信息。这些信息被整合在一起,形成一个完整的感觉信息、感知、动态行为和反应以及认知的图像。B.G.FITCH ET AL.,IBM RESEARCH REPORT, BLUE MATTER:AN APPLICATION FRAMEWORK FOR MOLECULAR SIMULATION ON BLUE GENE(2003).这个平台模拟大脑的能力,最终,它应该能够模拟真实的思维过程。该算法的最终应用不仅包括模拟和数字电路(金属或塑料),还包括基于蛋白质的生物表面。

另一种是工业方法。正如下文说明,工业对人工智能在所有细节上都模仿人类思维并不感兴趣。确实,工业宁愿使用无法展现某些人类品质的人工智能实体。因此,机器的劣势——有限的机器模仿人类思维的方式——成为工业的优势。将机器的缺点转化为优点使工业能够增加人工智能实体的使用率和一体化。人工智能技术的工业化应用是导致机械犯罪人出现的催化剂。

三、化劣为优:人工智能的工业化和私人化

人工智能技术的工业应用并不新奇。如上所述,参见本章第一节第一段。自20世纪70年代起,先进工业就已引入人工智能技术。不过,开始使用人工智能技术是因为它和人类思维相似,后来使用人工智能技术则因为它和人类思维不同。工业很快便了解,尽善尽美地模仿人类思维并不如部分模仿人类思维有用,所以只要人工智能技术并未完整模仿人类思维,工业就会激励人工智能技术发展。另外,因为完整模仿人类思维仍然遥不可期,所以工业和人工智能研究继续合作。

工业是如何将缺点转化为优点的?考虑一下计算器。如果我们在计算器上重复输入“3÷3=”,哪怕重复成千上万次,我们得到的结果无一例外都是“1”。计算器每次激活的过程都是相同的。可如果我们问一个人相同问题,我们可能会在第一次询问——除非这个人认为他正被戏弄——或许再多几次询问后,得到答案,但绝不会在上千次询问后,依然得到答案。在某个时刻,人类会停止回答,因为他感到无聊、愤怒、紧张,或者仅仅因为他失去了回答的欲望。

在人工智能研究人员看来,这就是一个重大问题。它强调这样一个事实:出于非理性等的原因,人类思维可能是专断的。然而,很难想象计算器会拒绝回答哪怕是一千次“3÷3=”的问题。为了完成这类任务,工业更倾向于使用不会因我们的要求或奇想而感到无聊的实体,不会因我们的问题而感到恼怒的实体,工业会继续使用无论我们多少次重复询问相同的问题都会一如既往提供服务的实体。

绝大多数人类似乎都因为具有人类思维而缺乏这些能力。然而,还不能成功完整模仿人类思维的机器却可以为我们提供这种服务。当然,刚刚提及的例子只是理论上的,因为没有人会真的在计算器上输入上千次“3÷3=”,这项任务本身就要求非人类的技能。可绝大多数工业正是需要这种性质的机器技能。

想想为成百上千位客户提供服务的客服代表,他们必须礼貌地为各种要求提供有用的回答。在完成一次电话服务之后,这些代表会怎样回答呢?上百次之后呢?上千次之后呢?电话客服的数量将如何影响服务的质量?因技术能力不足而不会感到无聊、恼怒或疲倦的机器,对工业而言百利无一害。自动客服系统能自始至终保持礼貌、耐心、效率和精确地为客户提供服务。

专注于医疗诊断的专家系统不会因给不同病人重复提供相同诊疗方案而感到无聊。警察机器人不会因拆卸危险爆炸装置而心生恐惧。工厂机器人不会因为一天内重复操作上千次相同的活动而心生烦闷之感。工业已发挥人工智能实体非人类品质的杠杆作用,将人工智能技术的传统劣势(至少在人工智能研究人员看来)转化为当代工业的优势。TERRY WINOGRAD AND FERNANDO C.FLORES, UNDERSTANDING COMPUTERS AND COGNITION:A NEW FOUNDATION FOR DESIGN(1986,1987);Tom Athanasiou, High Tech Politics:The Case of Artificial Intelligence,92 SOCIALIST REVIEW 7,7—35(1987);Winograd, Supra note 3,at p.181.

在实践中,这些劣势不只有利于工业。人工智能技术的研究和工业化使该技术也可供私人消费。基于人工智能技术的个人机器人助理已经上市,人工智能技术有望在家庭生活和私人生活中出现,包括最为亲密的情形。有人认为“性爱机器人”或许是比性交易更好的且更有利于社会健康的替代方案。DAVID LEVY, LOVE AND SEX WITH ROBOTS:THE EVOLUTION OF HUMAN ROBOT RELATIONSHIPS(2007).使用人工智能替代品,不会产生羞辱、虐待、精神或生理伤害,而且这不会引起真正的社会变化。

家用机器人不会因重复完成相同行为的指令要求而感到冒犯,更不会要求休假、提出加薪或寻求帮助。教师机器人不会教授没有编入程序的外部课程,而监狱守卫机器人也不会收受贿赂而使犯人逃狱。这些非人类的品质让使得人工智能技术因满足工业需求和私人需求而深受欢迎。

我们可以得出结论:满足工业需求和私人需求的人工智能技术无需尽善尽美地模仿人类思维,而只需拥有一些人类技能并能够部分模仿人类思维即可。如此而成的人工智能实体并不是机械人,但是它们拥有一些人类解决问题的技能,并能模仿人类思维的一些能力。人工智能技术的现有能力正被用于满足工业需求和私人需求,这些能力如今已经被纳入机械犯罪人之中。