第一章　人工智能时代的新问题

何以为人：人工智能与基因编辑的未来

2018年11月26日，南方科技大学副教授贺建奎在一次会议上宣布，一对基因编辑双胞胎于11月在中国出生，这对双胞胎的一个基因经过修改，意在使她们出生后即能天然抵抗艾滋病毒感染，如果成功，她们将成为世界首例免疫艾滋病的基因编辑婴儿。贺建奎的“成果”引发全球科学界的普遍谴责，多位世界基因研究先驱指出其研究牵涉的医学道德伦理问题，中国医疗与科研监管部门也马上对其立案调查。这是有史以来全球第一次被修改过基因的人类个体出生，被科学界普遍认为是不道德的，是对人类尊严和科学精神的践踏。

从技术上说，贺建奎使用的CRISPR基因编辑成为人们关注的焦点，由此引发了关于操纵人类种系的伦理道德的重大辩论。社会极为关注的是：在将CRISPR研究安全地转化为治疗方法之前，科学家需要更好的方法来避免技术的潜在破坏性目标效应。CRISPR的问题在于：利用CRISPR-Cas9编辑工具切割双链DNA后，DNA会自行修复，但有时会在此过程中引入突变。有的科学家认为这些错误取决于几个因素，包括靶向序列和指导RNA（gRNA），但它们似乎也遵循可重复的模式。2018年，Wellcome Sanger研究所的研究人员表示，他们已经使用机器学习技术开发了一种工具，可以预测CRISPR可能引入的细胞突变。他们相信该技术可以提高CRISPR研究的效率，并简化将其转化为安全有效的治疗方法的过程。该研究发表在2018年11月27日Nature Biotechnology杂志上。该研究小组合成了一个包含41 630对不同gRNA和靶DNA序列的文库。他们使用不同的CRISPR-Cas9试剂在一系列遗传方案中研究它们，以分析DNA的切割和修复方式。总而言之，研究人员生成了超过10亿个突变结果的数据，并将其输入机器学习工具。其结果是产生了一个名为FORECasT的计划（Cas9目标修复事件的优势结果），它可以预测修复的结果，无论是单碱基插入还是遗传物质的小缺失。可以看到，人工智能技术的加入使得基因编辑技术更加有效和安全了。

可以看到，基因编辑技术彻底打破了传统医疗的限制，如果应用不当，将以一种无法控制的态势彻底颠覆人类社会现有格局，甚至可能会成为人类毁灭的源头，这也是贺建奎事件引起全世界如此大的关注的原因。我们需要谨慎对待基因编辑技术的发展与应用；但不可否认的是，相比于基因编辑技术的强大影响力，传统的医疗手段其实对人的帮助非常有限。

从本质来看，虽然传统医疗技术还在不断发展，但是“传统医疗仅仅支持生命的自我修复”这一本质无法改变。美国医生萨斯（Thomas Szasz）说：“在宗教强盛而科学无力的从前，人们误将神的力量当作医疗；在科学强大而宗教弱势的今天，人们又误将医疗当成神力。”事实上，医生们都知道但秘而不宣的“真相”是：真正治好病的是病人自己，所有的医疗行为都只是起到了支持的作用。换言之，生命的自我修复能力才是关键，医疗的支持就是给自我修复赢得时间、创造条件，等待自我修复最终发挥作用并战胜疾病。

而如今的基因编辑技术则改变了传统医疗的行为逻辑，直接探索改进人类存在方式的手段。对试管中的人类胚胎进行基因操控，不仅可能预防遗传性疾病，还可能改变人类的身高、智力等其他特质。在这样的技术浪潮下，未来极有可能出现“超级优生学”：人类会通过基因操控、优质基因筛选、克隆和传统方式进行交叉繁殖，彻底地改变我们对医疗的理解，也会直接改变人类社会的未来。除此之外，通过脑机接口等方式增强人类感觉敏锐度、拓展人类运动控制的范围也是一种改变人类的方式。

通过这样的“人类增强”方式改变医疗的本质，在伦理上受到了很大的反对，原因就在于很多学者认为这样的做法使得人类就像工艺品一样缺乏“自然性”，有损于人类的尊严。不过这个理由似乎越来越受到挑战，尤其是当人类面临无法预知的灾难而现代医疗手段又束手无策时，大家往往会想到求助于这样的技术解决方案。这里的矛盾之处在于，面对各类事件，我们有选择地主张人类尊严。然而医疗缺陷、疾病和提升基因能力本质上是一回事，只是人类在伦理和情感上很难将其对等看待。换句话说，人工智能与基因编辑技术的结合挑战了“何以为人”的根本性伦理问题。

我们可以看到，从经济学和社会学视角来看，“人类增强”面临着很大的挑战，主要是因为这项技术可能会服务于那些经济能力更强的人群和家庭，从而导致社会不平等的永久性，也就是“自由优生学”的扩张。那些占据大量资源的富人可以通过编辑基因来改造自己的后代，使得后代在智力、外貌、身高，甚至寿命方面取得对普通人压倒性的优势，继而垄断所有的资源，一个由富豪组成的“基因贵族”阶层由此形成。而此时普通人与“基因贵族”相比没有任何优势，将被淘汰到社会底层，甚至有可能沦为奴隶或灭绝，使得阶层固化越来越严重。

极端情形下，人为判断基因的优劣，可能导致像纳粹那样对他们不认可的种族实行灭绝。正如英国作家阿道司·赫胥黎在1932年出版的长篇小说《美丽新世界》中所描写的那样：取消自然胎生，婴儿由实验室孵化出来，直接就被预定了命运、设置了条件。这些婴儿在出生之前，就已被划分为阿尔法(α)、贝塔(β)、伽马(γ)、德尔塔(δ)、厄普西隆(ε)5种“种姓”或社会阶层。一切条件设置的目标都是让人们喜欢他们无法逃避的社会命运。5种“种姓”分别培养。其中，阿尔法和贝塔是领导和控制各个阶层的高级人物；伽马是普通阶层，相当于平民；德尔塔和厄普西隆是智力低下、只能做普通的体力劳动的最低贱的人。如是，不仅长期形成的社会伦理关系发生了颠覆，整个社会公平也无从谈起，终将导致人类社会的分裂。

除此之外，我们目前可以看到的是，从技术层面和人类自身驱动力来说，这些“人类增强”技术会将我们带到“后人类时代”。“后人类主义”这个术语进入当代社会科学的时间是20世纪90年代中期，但是它的源头则至少可以上溯至20世纪60年代。哲学家福柯在《词与物》中也提到：“人是近期的发明，并且正接近其终点……人将被抹去，如同大海边沙地上的一张脸。”这句话总括为他对“人之死”的宣言。在人类的一切古老神话中，人与神之间的区别就在于：人是有寿命的，而神是不朽的，当人突破自身的生物学限制并获得永生的时候，人类也就变成了神。

后人类主义将经过技术改造的新人类称为后人类（posthuman），并从两种研究路径对其进行反思：一是基于科学技术开发和利用所做的总结与展望，期待新技术推动人类走向完美；二是立足于反思和批判的立场，对后人类及其时代提出质疑。虽然这两种路径有一个前后相继的大致次序，但它们都将关注的焦点放在科技高度发展情境下“人”的边界、“人”的形态的变化及由这种变化带来的多重维度的思考上。

在这个意义上，后人类主义可以看作对人文主义的解构，从身体和物种层面消解人类在自然界中的特殊性。后人类有3种进化模式：一是借助基因工程或无性繁殖（如克隆技术）；二是通过技术种植或人工种植；三是利用虚拟技术制造虚拟主体、改造现实主体，将虚拟世界和现实世界、虚拟人和现实人合二为一。它们突出地表现于一种人机结合样态——赛博格中。

著名哲学家尼克·波斯特洛姆在《来自乌托邦的信》一文中极力宣扬了后人类时代的收益，并总结了以下3个后人类状态的特点。

第一，大多数人可以利用类似脑机接口等技术完全控制自己的感官体验，模拟的生活和现实的生活将没有任何区分。

第二，大多数人将不再有心理上的痛苦，抑郁、恐惧和自我厌恶等情绪将消失。这里带来的问题是我们无法了解这些痛苦的体验是否跟个人的成就感和自尊心之间存在天然的联系，以及我们是否能够接受“人造的”幸福感带来的收益。

第三，大多数人将拥有远长于自然年龄的生命。长寿时代不只是老龄化、延迟退休和劳动力短缺，带来的新问题是使得冗长乏味和不负责任成为一种普遍现象。

《来自乌托邦的信》描绘的是后人类欢乐的一面和令人振奋的场景：让某些旧的束缚荡然无存，进而重新思考人类的意义，并且是以崭新的方式。但从辩证角度来看，人类的这种“进化”需要从内部进行转变，从而获得一种新的文化形态，否则个人便会成为时代的废弃之物。特别是当人类日益技术化之后，带来的是对“技术可以取代人类”以及“技术无法取代人类”的争论，前者导致了离身性的后人类主义，后者导致了具身性的后人类主义。

离身性的后人类主义强调，身体仅仅是生命的次要附加物，生命最重要的载体不是身体本身，而是信息化编码信息。这种观点强调心灵可以摆脱身体的束缚，而虚拟的身体也可以认为是心灵创造的实质，游走在信息中的实质又可以反过来对心灵与虚拟身体产生影响，并且高科技的虚拟身体不会与物质身体产生相互作用。

而具身性的后人类主义将虚拟的身体看作人类的一种新形态，它是对边界的一种跨越。必须说明，这种观点并非否认身体的存在，更深层的是对另一种“身体”意义的包裹。即技术哲学家唐·伊德提出的第三类身体（考虑技术因素，以技术构建的身体），承认身体在生命认知过程中发挥的关键作用，认定具身是主体身份的必要条件。

在了解了科技哲学家们关于后人类的观点后，我们回到现实案例。过去几年在资本力量的推动下，一些商业医院而非公立医院不断尝试基因编辑技术，类似贺建奎这样的学者会冒着很大的伦理风险做基因实验，其本质是基因实验背后的资本与权力的博弈。一方面，生物基因知识就是资本，而知识的资本化带来了权力，在海外很多医院通过生产盈利，并以专利的形式支付给大学的费用。换言之，生命体的生命基因编码都转化为收入，人类自身慢慢失去了对自身基因控制的主导权，即资本推动了生产的知识系统，推动了人类中心位置的偏离，进而导致了伦理和价值观的错位。另一方面，科技伦理系统正在产生，原来的自然和人的对立系统将逐渐演化为一种由世俗文化与启蒙主义主导的技术伦理系统。

著名科学家斯蒂芬·霍金在《对大问题的简明回答》一书中表达过此类担忧：“法律能禁止人类编辑基因，但人类无法抵挡诱惑。”如何摆脱资本的束缚，推动公民社会的建构，成为社会亟待解决的难题。人们对技术有着非常大的期望，正如1971年诺贝尔物理学奖获得者丹尼斯·加博尔所说的那样：“所有在技术上能够被实现的，无论要为之付出怎样的道德成本，都值得被实现。”而在技术和市场的交叉作用下，人们开始朝着这个方向越走越远。

我们可以看到很多国家和商业机构开始建立各种伦理委员会来审查科技成果的可接受性，以使得产品实施符合伦理学要求，但是其根本困难在于“市场的本质就在于通过创新突破一切桎梏”，伦理的先进性始终滞后于科技的先进性。人类正在成为造物者，凭借未来实验科学的进步从自然界获取力量，但是没有为这种力量设定限制。美国未来学家雷·库兹韦尔在《人类2.0：改变的圣经》中讨论了生物技术、机器人技术和人工智能融合后产生的“技术奇点”，通过对效率和技术跃迁行为的探讨来表达一种侵略性的未来个人主义思想。

最终我们回到对人的存在的思考上，法国哲学家米歇尔·福柯在20世纪70年代提出，我们理解的人文学科不是由人文主义的普世主张构成的，而是由一套清晰的关于“人”的假设构建的，这种假设受历史和语境局限。人是由生命、劳动力和语言等结构构建的，是一个“经验主义—超验主义的双重结构”，并处在永恒的发展中。

事实上，我们在这样一个技术高速发展的时代，也要重新对这个问题进行探讨，考虑技术、社会、伦理、经济之间的关系，注重经济效益之外的社会价值和伦理价值。这种价值对于商业本身也有决定性的影响，这一切也是我们正在面临的真实的商业世界：科技和资本改变了世界，而接下来伦理将改变商业和资本的走向。

将基因编辑技术从“治疗”扩展到“预防”，就模糊了基因编辑的边界，而“预防”和“改善”则只有一步之遥，如果一个家庭想要使自己的后代具备某些特质（高颜值、好身体、高智商）等，就带来了巨大的危机。如果说“贺建奎们”开启了一段“历史”，而这段“历史”的危险就在于基因编辑很有可能会带来人类文明的终结，包括破坏人类基因库的多样性、塑造永恒的不平等等很多问题，而这也是人类文明正在面临的选择和挑战。“何以为人”的问题不仅在重新定义我们的技术文明的发展历史，也在重新定义整个“人类纪”的历史，不同的选择会导致人类进入完全不同的进化路径和文明进程之中，这是我们这一代人的重大历史使命，我们需要以一种特别审慎的态度去对待这一问题，以避免造成巨大的风险和不可预知的未来。