第1章 科学(1)

危险的人工智能？

文/赵洋

比核武器还要危险

“我们需要对人工智能（A.I.）超级小心，人工智能可能比核武器还要危险。”

“希望我们不要在生物学上成为数字超级智能的启动加载程序。不幸的是，这种可能性越来越大。”

以上是身为特斯拉汽车和太空探索这两家高科技公司CEO、人称现实版“钢铁侠”的埃伦·马斯克2014年8月在twitter上发的两条推文。

或许是感到仅靠一个人对人工智能将消灭人类的可能性发出警告影响力不足，2015年1月12日，以马斯克为首的企业家及发明家与以物理学家霍金为首的科学家联名发表公开信，警告公众不能忽视人工智能的安全性及对社会的负面影响。他们呼吁业界在制造人工智能时，须确保其“系统依照我们的指令行动”。这封由生命未来研究所（Future of Life Institute）发出的公开信强调，“必须确保人工智能能够按人的意志工作。人工智能研究一直在稳步发展，对社会的影响也在逐渐增加，潜在的收益是巨大的。过去人类文明的所有产物都来源于人类的智慧，但在人工智能的协助下人类的智慧可以被放大到什么水平，我们无法预测，或许有一天，疾病和贫穷可以因此永远消弭。因为人工智能的潜力巨大，确保它带来收益的同时避免潜在风险，就显得至关重要了。”信中还附上了一篇研究论文，里面给出了许多致力于使人工智能社会收益最大化的例子。

空谈无益，马斯克随后还宣布向生命未来研究所捐赠一千万美元，以帮助这家机构进行能确保让人类“受益”的A.I.相关研究。所谓受益，指的就是当A.I.智慧高过人类之时，它们仍会听命于我们而非发动革命。截至目前，工业界和政府投资已经让A.I.从小众的学术研究演变成了可能改变世界的技术，但并没多少人愿意投入资金，以确保其最终能为人类带来积极的改变。因此，这笔首开先河的捐款将产生深远影响。

所谓“人工智能可能比核武器还要危险”，绝非耸人听闻，因为核武器不一定能消灭所有人类，但失控的人工智能却可以。科幻影片《终结者》里的“天网”、《黑客帝国》里的“母体”，都是人类制造的超级强大的人工智能，最后都发展到以将人类赶尽杀绝为己任。这是谁都不愿看到的未来。

从解放体力到容纳灵魂

其实，埃伦·马斯克很了解人工智能及其载体——机器人。他拥有的特斯拉汽车制造厂在生产线上就大量使用了工业机器人。生产线上灯火辉煌，快速移动的机器人被漆成明快的特斯拉招牌红色，每个机器人都有一条多关节的单臂。大多数机器人都有两三米高，有点像吓人的“终结者”。当这些机器臂伸到一个平台上、换只“手”来完成一项不同任务时，虽然动作看上去很怪异，但却有点像人。许多汽车制造厂的机器人只能从事单一工种，但在特斯拉的新工厂，一个机器人最多能完成四项任务：焊接、铆接、粘接，以及安装零部件。每辆车在装配线的各个工位停留时间只有五分钟，八个机器人围绕着它像跳芭蕾舞似的施展才华。如果工厂要生产其他款式的汽车，只需将机器人重新编程，就可以在同一条装配线上生产。

解放人类体力是发明机器人的初衷。1921年，捷克剧作家卡尔·恰佩克在名为《罗素姆万能机器人》的戏剧作品中创造了“robot”（机器人）一词。这个词源于捷克语的“robota”，意思是“苦力”。在该剧的结尾，不甘心只做苦力的机器人接管了地球，并毁灭了它们的创造者。

现实中，机器人仍主要充当苦力的角色。目前机器人已经改变了制造业的面貌，并正在改变世界各地其他劳动密集型行业。其中之一是配送行业，机器人能以世界短跑冠军的速度将货物存放、取出或包装起来以备运输，大大高于人的工作效率。无人驾驶汽车则是一种不像机器人的机器人，它能够把卡车和出租车司机从乏味的工作中解放出来，代价是司机们需要掌握从事新工作的技能。

白领工作也日益面临来自人工智能和机器人的挑战。飞行员在驾驶飞机的大部分时间里依靠自动驾驶仪；广告销售员因为自动网络广告竞价系统的出现而被迫转行；医生要依靠面部表情识别软件来了解患儿的疼痛水平。制作美食也不再是人类的专属：泰国政府引进的一种机器人，能够确定泰国食物的口味是否足够正宗，是否需要再加点辣酱。甚至连音乐家和艺术家也能被机器人取代，机器人已经可以创作音乐了，还有人早就写出了诗歌创作程序。

幸好，人类的某些技能可能是机器永远无法替代的，比如常识、适应性和创造性。甚至那些已经自动化的工作也同样需要人类的参与，比如所谓的计算机辅助镇静系统就需要医生在一边待命，协助自动化麻醉师。

如果说与人类抢饭碗可能会导致人工智能与机器人的发展受阻，那么用人工智能延长人类寿命的可能性将彻底瓦解这种阻力，特别是把寿命延长到“无限长”。

永生有很多种形式，但最具可行性的当属“人体的机器人化”。当你能够拥有一副更强、更快、更健康的身体，能够让你远离死亡时，你为什么还坚守有机肉身呢？2013年6月，俄罗斯企业家德米特里·伊茨科夫提出了“2045项目”，其目标是将人类意识转移到机器人身上，通过机器人化身实现人类永生的梦想。他曾公开展示过一个以自己为模型的机器人头颅。他的计划是先用机器身体替代人类躯体，进而在人死后进行人工大脑和性格移植。伊茨科夫承认“2045项目”面临两大挑战：理解大脑和部分理解人类的意识，其中后者的难度远胜于前者，因为“理解了意识，就基本上理解了宇宙”。

自主学习、自我进化

以高科技公司为代表的企业界是人工智能当仁不让的推手。2011年初，IBM的超级计算机“沃森”就在电视益智节目《危险边缘》中战胜人类，获得了年度总冠军。2013年12月，Facebook建立了一座新的人工智能实验室。2014年前后，谷歌收购了十几家机器人公司，全球速度最快的四足机器人、能够独立地从Youtube的海量图像中学习“猫”的概念的人工智能等，都已经归谷歌所有。曾任谷歌人工智能主管的吴恩达用1000万张猫的图像对“谷歌大脑”（由1.6万台电脑组成的神经网络）进行训练后，教会了它识别猫的形象。而此前“谷歌大脑”从未被输入过识别猫科动物的规则。这不同于在电脑计算领域占主导地位的基于规则的算法。现在，吴恩达已经被中国搜索引擎百度招至麾下，掌管百度的深度学习实验室。当下，谷歌正在开发人工智能的另一个应用——无人驾驶汽车，能够识别穿过马路的猫将是这种汽车的基本功能。