第4章 励精十年，奇点可期

基于人类在过去的千百年间取得的所有重大技术进步来推算在不远的将来人类的各种核心技术趋势，文奇、库兹韦尔等人认为达到人类水平的通用人工智能即将来临，我们也有理由相信超级人工智能将比多数人预想的更早到来。

对未来的这种客观的、推理性的预测有其优点，值得鼓励。不过我认为也有必要从主观、心理层面去思考，以人文的角度对通用人工智能和奇点仔细考量；我们究竟想要什么，如果我们下定决心为之努力，将能够取得什么样的成绩。

2006年的Trans Vision未来主义大会上，在名为“励精十年，奇点可期（如果我们真的努力去做）”（Ten Years to a Positive Singularity (If We Really Really Try)）的会谈中，我从上述角度提出了奇点和先进的通用人工智能的时间线问题。当时会议在芬兰赫尔辛基举行，我无法亲自到场，于是用视频发言——你如果感兴趣的话，可以上网查看。

那次会谈的主题是如果社会将投放于战争和电视节目的资金和注意力放在创造奇点上，结果将十分美好。2008年秋，金融危机爆发后，我在另一个场合发表了一次类似的讲话，引述如下：

看看美国政府如何应对这次金融危机——突然间，他们能够这里筹到10000亿美元，那里筹到10000亿美元。如果将这笔巨资用于人工智能、机器人、寿命延长、纳米技术和量子计算呢？就目前情况来看，这听起来未免有些奇怪，但这完全合情合理。

如果奇点真的成为社会关注的焦点，我认为只需10年，甚至用不了10年就完全能够迎来奇点。

从现在起10年后就是2020年，如果从2007年（那次会谈举行的时间）算起，10年后就是2017年，也就是现在起7年后。在众所周知的库兹韦尔的2045年预言之前，人们觉得不管10年还是7年都不算短。为何会有这么大的差距呢？

库兹韦尔所言的2045年是猜测奇点“最可能来临的日期”。而“10年后”则是在资金充足、各方协力的前提下对奇点最快可能到来的时间的猜测。因此，它们的意向是不同的。

我们认为库兹韦尔预测的2045年是根据目前发展趋势做出的合理推断，但我们也认为奇点到来的时间可能比这更早或更晚。

奇点为何会来得很迟呢？我们可以预设一些极端情况。万一恐怖分子用核武器摧毁世界的主要城市呢？万一反技术的宗教狂热分子接管各国政府呢？但是就算不发生这类极端事件，结果也可能是一样的。人类历史可能不会朝着大规模技术进步前进，而是走上一条截然不同的道路，并将发展重心放在战争、宗教等事务上。

或者（尽管我们认为可能性很小），我们可能会遇到一些意料之外的障碍。我们可能会发现，不管是通过分析神经科学数据还是创建智能系统，人脑都很难解开智能之谜。

受客观发展水平限制，摩尔定律等所指的增速可能减缓，为多核结构设计软件可能非常困难；脑部扫描仪的更新速度也可能放缓。

另外，奇点如何才能更早来临呢？这需要正确的人将注意力集中在正确的事情上。

10年迎来奇点之说始于一个著名的励志故事，主人公名为乔治·丹齐格（George Dantzig，与重金属歌手格伦·丹齐格无关！）。1939年，丹齐格在加州大学伯克利分校攻读统计学博士学位。一天，他上课迟到，发现黑板上写着两道题，他以为这是家庭作业，就抄了下来，回家后开始解题。他觉得这些题目非常困难，但他下了很大功夫，最后解出来了，第二天将答案带到老师的办公室。原来，老师将这些题目写在黑板上是要向大家介绍这些“无解”的统计难题，实际上这两道题是世界数理统计学领域最棘手的两大未解难题。6周后，丹齐格的教授让他准备一下公开解答其中一道难题。最后，丹齐格将这些解答方案写入了自己的博士论文。

丹齐格坦言：“如果当初我知道这些问题不是家庭作业而是统计学领域的两大未解难题，我很可能不会这么积极，很可能没有信心，也永远解不出它们。”

丹齐格解答出了这些难题是因为他相信它们能够被解答出来，他以为早就有人解出了这些难题。他当时仅把它们当作“家庭作业”，认为班里其他同学也在解答这些问题。

好胜心能给人无穷的力量。体育教练知道士气的力量，如果一支队伍连连获胜，他们每进行一场比赛就都想赢，而信心使他们获胜的机会更大。有信心的队伍不会在乎小失误，而如果一支队伍接连战败，每场比赛他们就都会担心出差错。一个失误就能让他们整场比赛士气低沉，这样更容易接连失误。

再举个例子，看一下“曼哈顿计划”（Manhattan Project）。美国人在德国人之前就想到要研制核武器。他们认为这是可能实现的，迫切想率先研制出核武器。遗憾的是，他们殚精竭虑研制的却是杀人武器。但是，无论你怎么看这个问题，曼哈顿计划中科学技术进步的速度都是不可思议的，如果美国科学家不是认为德国科学家已抢先一步，他们可能永远研制不出核武器，而从某种程度上说，他们研制的杀人武器推动了人类的进步。