第23章 特别行动小组（二）

孙副部长说：“事出紧急，所以我们的会议提前开始了。六位能够第一时间赶到这里，配合我们的工作，我代表自己所在部门表示感谢。不过你们可能还不清楚究竟发生了什么，简单来说就是，有一款可能为境外敌对势力恶意传播的Stuxnet病毒在网络上出现，目前追踪到的最危险程式，是由它与一款名为LGSS的游戏系统结合产生的嵌合体。”

“LGSS？！”陆九霄说，“是我们设计的与《风起陇西》副本绑定的自运行系统？”

“正是！”韩光剑和雷神、黑木几乎同时说。

“我们有确凿的证据，嵌入到LGSS系统中的Stuxnet病毒攻击了运送化学药品特种车辆的卫星定位系统……”孙副部长说。

“这不可能！”陆九霄不相信自己的耳朵。

“年轻人，你让孙部长把话说完。”陈明杰说。

“没关系，你也可以说说你的想法。”孙副部长说示意陆九霄说，“大家都可以说说，召集大家来就是听你们谈想法和意见的”。

“……孙部长……我的意思是，我们的游戏LGSS系统是用R语言定义的贝叶斯方程的变体，只能在一个名叫《风起陇西》的副本环境中运行……它怎么可能自行攻击特种车辆呢？……它根本不具备主动发放指令的功能。”陆九霄急于辩解。

“关于这一点，刚才我们的H.U.C红客专家雷神先生已经解释过了，不过那时你们还没到，这一刻一定有许多困惑——现在就请雷神先生再对这个问题作详细回答和专业解释。”孙副部长说。

“好的，孙部长。”雷神说，“陆先生，首先感谢你和周先生为我们提供的LGSS源代码。你们的贝叶斯方程变体系统虽然设计之初确实只能在《风起陇西》的副本环境中运行，但是它在上线后受到了Stuxnet病毒的感染，具备了自我学习、自我进化的能力——这是H.U.C团队集体讨论后的一致结论。至于它是如何获得这种能力的，团队成员间有不同的看法，大部分成员认为，是你们LGSS系统的无限不循环模式让它出现了优化迭代，类似于“深度学习”。我知道你们制作副本的过程中有商业运作的考虑，这想必是一种吸引玩家的创意。但正如你们制作了一个可以无限发育的胚胎，而它出生之际又恰巧感染了具备自我进化和自我保护能力的病毒的情形一样，你们原来的LGSS系统产生了基因突变，成为新的嵌合体。这种嵌合体可以通过网络获取大量知识完成自我学习，它的这种能力是不可估量的。很久以前曾有过一个计算机模拟的无限繁衍的生存资源实验，证实初始条件完全一致的若干研究对象，能够最大程度进化的反而是遵循最简单规则的个体。这种规则通常就是，‘以彼之道，还施彼身’。H.U.C成员们有一个猜想，基于自我学习的AI在其学习过程中必须拥有一个预设的中心法则才可以优化迭代——比如Alpha zero的中心法则是‘用最少的棋子占据最多的格子数’——LGSS与Stuxnet的嵌合体由于从未接受这种预设，应该是学习、进化之前就近借用了《风起陇西》副本人物的谍战思维……”

“等等，你说什么？”陆九霄问，“为什么是就近借用谍战思维？”

“因为这是LGSS系统的出生环境。Stuxnet病毒本身并不具备中心法则——虽然它的破坏性极强，但它是目标导向的蠕虫病毒。你们的LGSS系统依托于《风起陇西》副本，开始运行后遵从你们的‘用虚拟数据产生计算结果’逻辑，这种逻辑可以推演故事，但不能赋予‘深度学习’的意义。要自我学习，就必须自赋意义；找不到中心法则，贝叶斯方法就失去了迭代能力——以嵌合体的思维来看，或许就意味着自体‘生命终止’了。”雷神说。

“你的意思是说……嵌合体害怕自己‘生命终止’，将获取海量知识视为生命延续的方式，类似于……人类的进食？”陆九霄倍感困惑。

“这只是一种猜测。我们当然更希望它是阿西莫夫笔下严格遵循‘机器人三定律’的AI，但是在如今的人工智能新时代，布鲁克林法学院的一位教授提出了捍卫你我这样的人类专业技能的四定律。真正能思考，或者说具备自我决策能力的AI的行为模式及其对人类世界的反应，是很难用人类伦理学的知识去驾驭和解释。”雷神说。

“那它为什么要攻击运送化学药品的特殊车辆？这些车辆对它的生存、优化迭代、自我学习根本没有任何影响。”陆九霄说。

“可如果它具备谍战思维呢？”雷神说。

“谍战思维怎样？”龚自成终于也忍不住开口说话了。

“谍战思维意味着它会想尽一切办法保护自己，通过各种途径获取、传递和使用信息。在嵌合体得到反馈的互动关系中，它的接触对象只有人。这会让它自然而然的将人类视为隐藏目的、伺机而动的对手……”雷神说。