第4章 意识转移的风险

网上带节奏的事，钱小虎倒真不是吹牛，这个事他常干，因为他们研究的课题太敏感，有时需要在网上透露一点，以观察其他人的反应，有时也需要引导人们的观点，为自己争取更多的支持。

钱小虎在这方面积累了不少心得，其中之一就是多注册几个账号，用不同的账号左右互搏，所以有些时候看似很激烈的辩论，实际上是同一个人用不同账号的自问自答，达成引导舆论的目的。这还只是个人行为，如果是有组织的行为，就会出动大量水军，也就是花钱雇人对一个话题进行炒作，从而实现自己的目的。

这种行为不仅严重误导了社会舆论、败坏了社会风气，而且严重侵犯了人们自由表达的权利，已经属于侵犯言论自由的违宪行为了，可是在网络时代，这种现象就这么堂而皇之地存在着。

网络上，钱小虎（VR中的名字为Tigerling）带好VR头盔，马上就进入了一个沙龙，这个沙龙就是钱小虎创造的一个虚拟世界。

沙龙和群聊一样，大家也都是以匿名的方式讨论，不过和网络聊天不同的是，人们可以在这个虚拟世界里，创造出像是在真实世界里一样面对面聊天的氛围，只是名字和外表都是假的而已。参加沙龙的人还会进进出出，其实也就是有人上线、有人下线了。

网上匿名的环境让人们撕下一切面具，抛弃一切伪装，把人性的真实一面赤裸裸地展现出来。不过这样一来，倒是可以让人们把真实的想法表达出来，也为一些敏感问题的讨论提供了一个真实的环境。

Tigerling举起酒杯说：“Hi，我的GF们，我可想死你们了。”

小仙女一号马上回怼过来：“谁是你的GF！你找死呀！”

Tigerling说：“哈哈，你们认为的GF是什么？”

里约维奇说：“难道不是girl friend吗？”

Tigerling说：“看看你们脑子里都在想些什么？在我这里，GF不是girl friend，而是good friend。BF也不是boy friend，而是best friend，明白了吗？”

小仙女一号说：“去你的，哪有你这么用的！”

冈萨雷斯说：“我觉得你平时还挺靠谱的，怎么突然间就像换了个人似的。”

Tigerling说：“你说对了，我真的换了一个人。你们猜猜我做什么了？”

小仙女一号说：“我管你做什么了！”

Tigerling说：“告诉你吧，说出来怕吓到你。”

小仙女一号说：“你还是不要说了，我胆小！”

Tigerling说：“你这个人怎么这样，这天还怎么聊啊。”

小仙女一号说：“我就这样怎么啦！你以为我愿意和你聊啊！”

Barbara说：“Tigerling，你究竟做什么了？”

Tigerling说：“我真的换了一个人？”

伊丽莎白说：“你什么意思？”

Tigerling说：“我做了意识移植。”

Barbara说：“什么是意识转移？”

Tigerling说：“意识转移就是把人类大脑的信息读取出来，然后转移到任意一个载体上去，比如计算机、机器人或人类的大脑。”

小仙女一号说：“你的意思是说，人类大脑意识可以被读取出来，然后像软件一样，拷贝到任何地方啦！”

Tigerling说：“有时候我真的不得不佩服你，这么复杂的概念被你这么通俗地表达清楚了。”

小仙女一号说：“那是自然！简单的人总是把问题简单化，复杂的人才喜欢把简单的问题复杂化，好显示自己多么高大上似的！”

伊丽莎白说：“那可太好了，我可以直接将知识输到大脑中，再也用不着死记硬背那些所谓的知识了。”

小仙女一号说：“就是！我要那些把繁琐的运算交给计算机去做，看你们这些理工男还有什么可神气的！”

Barbara说：“Oh My God，到时候我就把爱因斯坦的大脑移植过来，看你们谁还能和我比。”

日修一道说：“如果你说的是真的，对人类的观念可是颠覆性的。”

Tigerling说：“哦？说说看。”

日修一道说：“自古以来，人们对意识和物质的看法就存在着两种截然不同的观点。”

Tigerling说：“你说的是唯物主义和唯心主义吧？”

日修一道说：“是的。关于意识与物质的关系，人类形成了唯心主义和唯物主义两种根本对立的观点。你说的这种结果推翻了唯物主义的观点，对我们这个世界的冲击之大，用颠覆性这个词一点都不过分。”

Tigerling说：“你说的这些哲学问题，我没什么兴趣，他们已经斗争几千年了，仍然谁也说服不了谁。作为科学研究，特别是应用科学研究，实践才是检验真理的唯一标准。关于意识转移的问题，我们现在的技术已经实现了，至于什么主义，那就不是我们该考虑的事了。”

日修一道说：“那好吧。意识转移意味着意识和肉体分离，可以长久保存、无限复制，可以输入机器人、替换他人的意识，还可以进行编辑。这个问题非常复杂，我们必须一个一个地加以考虑。我想人们在考虑得最多的是机器人统治世界的问题，所以我们还是把意识转移到机器人中作为第一个需要讨论的问题吧。”

Tigerling说：“这个建议好，可以让大家的想法相对集中一些。”

伊丽莎白说：“如果一个机器人输入了人类的意识，那它是人还是机器呢？”

Barbara说：“如果我们杀死了这个机器人，算是杀人吗？”

里约维奇说：“当然不算，只能算是毁坏了一台机器。”

日修一道说：“那可不一定，如果你杀死了这个机器人的意识就算杀人了，因为毕竟你杀死了一个人的意识。”

里约维奇说：“你说的不对。这个机器人中的人类意识只是一个复制品，一个拷贝的软件而已，而且同样的拷贝可能不止一个。只能认为是不小心删除了一个软件，不能算是杀人。”

冈萨雷斯说：“是啊，顶多算是误操作，恢复一下就行了。”

Barbara说：“可是如果它没有其他备份了呢？”

日修一道说：“所以机器人输入了人的意识之后，到底是人还是机器，这个问题看起来非常简单，但是认真起来还真很难说。”

小仙女一号说：“你们说的问题太抽象，我也不关心这些，我只关心输入了人类意识的机器人会不会统治世界！”

日修一道说：“如果机器人具有了人类意识，就是有了自主思考的能力，以它们强大的身体优势，再加上超强的学习能力，它们脱离人类的控制，最终统治人类，这是毋庸置疑的。”

Barbara说：“可是计算机的意识毕竟是人类输进去的，人类就不能对它们加以控制吗？”

日修一道说：“人类意识与计算机程序的最大区别就是人类意识有自主思考的能力，而计算机程序只能按照人的指令行事。只要计算机具备了人类自主思考的能力，它们总能想出办法来脱离人类的控制。就像防卫再森严的监狱，也不能完全避免越狱事件，再严密的系统也不能完全阻止黑客入侵。自古以来，设防和破防就是一个此消彼长的过程，魔与道一直都在斗争之中。只要人类意识被赋予了机器人，这个魔鬼早晚会被释放出来。”

Barbara说：“真的一点办法都没有吗？”

日修一道说：“当一个机器人输入了人类的意识之后，你面对的就不再是一个普通的机器人，而是具有人类思考能力的机器人，这与人工智能是完全不同的。”

Barbara说：“难道我们在设计机器人的时候，就不能加入一些限制条件吗？比如机器人三原则，而且在硬件上设置一些障碍，只要危及到人类，就让它们启动自毁程序!”

日修一道说：“机器人三原则的提出已经过去多少年了，那时候根本就没有机器人，只是人的愿望而已。比如说机器人不能伤害人类，那战争机器人和警察机器人算什么？再比如机器人不能伤害自己，如果人类命令它自杀怎么办？自杀就是伤害自己，不自杀就是不服从人类的命令，机器人该如何抉择？所以这些原则存在着根本无法解决的逻辑悖论，真正到了应用阶段，根本无法实现。

“再说了，理论上你可以给机器人加上无数的限制，可是你不要忘了，它们有人类的智慧，可以自主思考，它们一定会破解人类的限制，找出最有利于它们自己的办法。”

Barbara说：“按照你的说法，机器人如果有了人的意识，最终一定会脱离人类的控制了？”

日修一道说：“很不幸，但事实就是这样的，到时候只是机器人愿意不愿意的问题了。”

Barbara说：“太可怕了，那么人类就一定不是它们的对手吗？”

日修一道说：“与人类相比，机器人占有巨大的身体优势，因为它们是由特殊材料制成的，这是人类无法比拟的。更重要的是它们的制造优势，人类要想培养一名合格的战士都要多少年？可是机器人却可以批量生产，只要产出就是巅峰、而且永远处于巅峰状态。”

Barbara说：“太可怕了，看来如果机器人有了人类的意识，人类被它们统治就是不可避免的了？”

日修一道说：“确实如此。”

Barbara说：“机器人总需要能源吧，我们控制它们的能源不就行了吗？”

日修一道说：“我还是那句话，有了人类意识的机器人就有了人类的智慧，有人类自主行动的能力。我们知道它们的弱点，它们自己必然也知道，因此它们自然也知道应该如何防护自己的弱点。而且你觉得获得能源和获得粮食，哪个更容易做到呢？”

Barbara说：“我觉得获取粮食更困难。你的意思是说，人类非但不能控制机器人，机器人反而更容易控制人类？”

冈萨雷斯说：“机器人控制人类太简单了，只要它们罢工，人类就无法生活。如果机器人再把粮仓都烧了，人类立刻就会毁灭。”

日修一道说：“是的，它们只要毁掉粮食，人类就崩溃了。”

小仙女一号说：“那一定要有防范措施，绝不能听之任之，搞什么车到山前必有路！最好是在技术上就能做到防范，实在不行就把机器人锁起来，派100个人看着！另外，还要严格控制技术，坚决不能给狂热分子以可乘之机！”

Tigerling说：“那我们还造这种机器人干什么呢？”

小仙女一号说：“因为这种技术好啊！凡是计算机能做的事，人都可以解放出来，这是多好的事啊，有这种技术却不能使用，真的暴殄天物啊！”

伊丽莎白说：“那国家就立法，只允许在严格管控的条件下，在计算机上使用这种技术，而绝对不允许将意识输入到机器人，这样不就可以控制机器人获得人类智慧了吗？”

日修一道说：“先不说法律是否能够杜绝这种现象，就说人类意识植入到计算机之中这个事吧。植入到计算机之中的人类意识仍然可以发挥主观能动作用，通过网络控制其他机器人，然后让其他机器人替它做事，甚至将它的意识输入到其它机器人的大脑中去，让另外的机器人变成它自己。”

小仙女一号说：“那就不让它联网呀！”

日修一道说：“这个办法也不行，因为这样只能暂时限制它通过网络发挥作用，但是隐患始终存在，只要出现一个疏忽，这个世界就不堪设想了。”

小仙女一号说：“核武器不是也很危险吗？现在各国还不是都在大力发展！”

日修一道说：“这个和核武器可不一样。”

小仙女一号说：“有什么不一样？都是可以毁灭人类的技术！”

日修一道说：“核武器不会自主行动，而且需要很多人配合才能发射。如果误发射了，人们还可以互相沟通，只要不打核大战，世界就不会毁灭。但是人类意识的扩散是主动行为，只要稍有疏忽就有可能发生泄漏，而且只要发生泄漏，它就会不受控制地扩散出去。也就是说，核武器失误一次可能不会毁灭人类，可是意识扩散只要失误一次，就有可能毁灭人类。”

小仙女一号说：“那我们就弄100把钥匙，每人一把，少一把也启动不了！”

日修一道说：“还别说，真是愚者千虑、必有一得。这个办法可能还真行。”

Barbara说：“好吧，这个问题已经没有必要再讨论了。我们再看看，如果把一个人的意识转移到另外一个人的大脑里，会发生什么情况吧。”

冈萨雷斯说：“我想到的问题是：载体有没有生命权？意识如果不想要这个身体了，是否可以随意抛弃这个身体。这可比离婚都要简单多了，只要有钱就行，可是这个身体没有了意识，就相当于死掉了。”

伊丽莎白说：“我也想到一个问题，如果一个人的意识被移植到了其他人的身体里，那么杀死这个移植人，算是杀人吗？”

小仙女一号说：“我的问题是，如果一个人杀了移植人，但是移植人通过意识转移又获得了重生，那么杀人的罪名还成立吗？”

里约维奇说：“我也想到一个问题：意识移植需要活体大脑，因为它只有意识、没有大脑，必须被转移到一个活体大脑之中。如果将一个人的意识删除，将另一个人的意识代入，这是不是杀人呢？”

Barbara说：“我也想到一个问题：有没有这种可能性，有没有人会非法获取载体，他们可以去偷、去抢、去杀、去骗、还可以花钱去买，那样失踪人口、非正常死亡人口会不会增加呢？”

伊丽莎白说：“唉，意识转移太方便了，只要有设备，任何人都可以做，可以真正做到杀人于无形。”

小仙女一号说：“天呐！太可怕了！”

里约维奇说：“这样的杀人手法让人防不胜防，而且还无法甄别，真正是杀人于无形了。如果想谋杀一个人，这样无疑就是最好的方法了。”

伊丽莎白说：“我倒是觉得以后的死刑犯也不用枪毙了，干脆用这种技术给他们的大脑格式化，然后把尸体存起来，留着做意识转移不好吗？”

里约维奇说：“那你还要防备人家先把意识拷贝出来，否则你杀的人就只是一个备份了。”

Barbara说：“那可太可怕了。你们想想啊，每个罪犯在被执行死刑之前、或者在犯罪之前先把自己的意识拷贝出来，然后即使自己被杀了，还可以凭借事先储存起来的意识复活。这样的话，这个世界的法律还有什么用呢？”

伊丽莎白说：“那我们就不能通过控制这种设备的生产和销售来控制意识转移吗？”

里约维奇说：“你就想想禁毒的事吧，抓住就判刑，有的还被判死刑，禁住了吗？”

伊丽莎白说：“你们有没有想过这种可能，电脑可以实现对人脑的读写操作，这就意味着可以将特定意识输入到人脑中，也就是人的思想可以被控制或改造。这项技术如果被一个狂人所掌握，他利用这项技术将所有人都统一思想，那就意味着这个世界将统一在一个科技狂人手里。”

日修一道说：“是啊，从此之后，他一个人思考，其他人完全受他支配，人类就成了他的木偶。他可以控制着人的思想，然后确保各安其位，好像就可以实现孔子所说的世界大同了。但是这种社会大同是人类所希望的吗？”

冈萨雷斯说：“是啊，如果统治者可以通过无线通讯技术随时读取他人的想法，那么思想犯罪就有可能成为现实了。当然人们可以控制这种权限，但是无法阻止hack和极端政府啊。”

小仙女一号说：“我有一个想法，意识被转移到另外一个人的大脑里时，不删除原来那个人的意识，而是让两种意识共存。这种方式不就代表两个人活在一个身体上了吗？如果这样可以的话，就不用杀人了，是不是！”

Barbara说：“唉，要不说怎么说你叫小仙女呢。你想想啊，如果那样做，首先你必须确定这个人到底是谁，因为人必须要生活在社会里，这不是他一个人的事。他只能有一个名字吧？他自己能确定自己是谁吗？”

日修一道说：“确实如此，必须要确定这个人是谁，否则法律没有办法确定他的权利和义务。”

里约维奇说：“呵呵，当你和一个人说悄悄话的时候，一直有一个人在旁边听着，你受得了吗？”

冈萨雷斯说：“是啊，要是你和一个人在一起的时候，你能确定是和谁在一起吗？”

小仙女一号说：“你们俩给我滚，狗嘴里就是吐不出象牙来！”

Barbara说：“一个人要受两个大脑指挥，肯定会疯掉吧。你想想，一对夫妻还经常吵架呢，何况在一个人的大脑里存在的两种意识，怎么可能保证他们不吵架呢？”

小仙女一号说：“好吧，我认输了！既然存在这么多无法解决的问题，这种研究最好不要进行了！”

里约维奇说：“可是我们不研究，不代表别人也不研究。如果其他人研究出来了，不但这些问题依然存在，还会对我们的国家安全带来极大的影响。”

日修一道说：“塞翁失马、焉知非福，凡事有利就有弊。比如说，核武器也可以毁灭人类，可是如果我们没有核武器，我们就会被别人统治。意识移植也一样，如果我们不去做，别人做了，就可以依靠这个技术来统治我们。可是谁能保证别人不去做呢？与其把希望寄托在别人身上，不如把命运掌握在自己手上。”

冈萨雷斯说：“是啊，那还不如我们去控制别人呢。”

里约维奇说：“我又想到一个问题：如果敌人想要打入我们内部，只要把我们内部一个人抓住，然后把敌人的意识转移进去，那么这个人就是敌人了，而且还不会被发现，对不对？”

冈萨雷斯说：“是啊，这么说来，意识移植可以算是人类的终极武器了。”

小仙女一号说：“天呐，这可真是涉及到国家安全和人类安全的大问题啦！”

日修一道说：“算了，天塌下来有高个子顶着呢。这些事我们说了也不算，交给国家去想办法吧。我们还是憧憬一下长生不老的感觉吧，会不会很爽呢？”

小仙女一号说：“我还是那个态度，尊重自然规律，坚决反对人类永生！”

Barbara说：“最容易想到的就是，人类只生不死，地球将无法承受这种负担。”

伊丽莎白说：“这种方法不是只生不死，是生一个、死一个。”

里约维奇说：“那些权贵阶层将会永远占有社会资源，富者愈富、贫者愈贫。”

冈萨雷斯说：“是啊，肯定会两极分化的。”

小仙女一号说：“你们怎么这么悲观呢！你们怎么确定国家不会采取措施让财富更均衡一下呢！”

里约维奇说：“小仙女就是小仙女，把人想得太好了。政府归根到底还是官员组成的，他们会把自己的财富拿出来分给穷人吗？”

小仙女一号说：“难道人就没有高尚的吗？”

里约维奇说：“我不否认这个世界有高尚的人，但是你不能指望所有人都高尚吧？何况自私比任何传染病的传播都快，到时候只要有一个自私的，那么其他人也会变得自私了。”

冈萨雷斯说：“是啊，高尚需要所有人都高尚才行，可是自私只需要有一个人自私就够了。”

日修一道说：“这才是最可怕的地方。你看明朝的时候，李自成大军都打到京城了，崇祯皇帝希望大家拿出钱作军饷。如果大家都出钱共度难关，也许还有一线希望，可是大家都是惜金如命。这就是人性，牺牲别人的利益可以，牺牲自己的利益就不行。”

里约维奇说：“要一个群体为了另外一个群体的利益主动做出牺牲，那是不可能的。”

伊丽莎白说：“那就只能是富人的天堂、穷人的地狱了？”

里约维奇说：“还有当官的占据各种职位不动，阶层固化，人员无法流动，形成一潭死水，穷人就永无出头之日了。”

伊丽莎白说：“穷人看不到尽头，那还不天天要革命呀？”

里约维奇说：“那怕什么，有那么多机器人士兵呢，有枪在手还有什么可怕的。”

小仙女一号说：“这都什么人啊！对手无寸铁的民众动手吗？”

里约维奇说：“有了那么多机器人，社会还缺劳动力吗？既然不缺劳动力了，那底层的人就是社会负担，地球哪有那么多资源供养那么多废物，所以消灭一个少一个。”

小仙女一号说：“天呐，气死我了！法西斯！法西斯！”

里约维奇说：“到时候家庭肯定也要解体了。你们想啊，每天都对着同一个人，几千年几万年都不变，可能吗？”

小仙女一号说：“你们这些臭男人求我们女人的时候，不都是什么海枯石烂不变心吗？哦，骗到手就变了，是不是？”

里约维奇说：“我说错了，意识虽然没换，但是身体换了，也算是换新人了。”

小仙女一号说：“看看你们，换了新人就美了！男人真的没有一个好东西！”

里约维奇说：“不逗你了，我觉得还有更可怕的事呢。”

小仙女一号说：“你说，还有什么更可怕的事！”

里约维奇说：“一群老头老太太想要永生，他们就需要年轻的供体，我担心这样会形成一条产业链，那些穷人家的孩子出生的目的就是为那些有权有势的人提供身体。”

小仙女一号说：“我求求你，不要再说了！”

里约维奇说：“这就害怕了？这还不是最可怕的呢。”

小仙女一号说：“你说什么，还有更可怕的？”

里约维奇说：“那是自然的。你想想看，人家想让你死，你就活不成，是不是？”

Barbara说：“这有什么，现在不是也一样吗？”

里约维奇说：“可是将来有办法让你想死也死不了。”

Barbara说：“我明白了，只要他们复制了我的意识，随时都可以让我复活，我想死也死不成了。可是他们想让我死的时候，删除我的意识就行了。”

伊丽莎白说：“这都什么世道啊，想死的人死不了，想活的人活不成，一切都要听从别人的安排，这样的世界连地狱都不如吧？”

小仙女一号说：“天呐，我不活了！我现在就去死，你们都别拦着我！”