序一　从人工智能技术伦理到可持续发展

在过去数十年中，我们看到信息化的技术革命正在飞快地改变着我们的生活，让我们的工作、学习乃至相处方式发生了翻天覆地的变化。随着大数据技术的使用日益深化，人工智能的研究成果正经历指数级增长，开始应用于安全、环境、研究、教育、卫生、文化和贸易等越来越多的领域中。在2020年全球面临新冠肺炎疫情的大背景下，人工智能技术的多项应用也是中国在抗击新冠肺炎疫情过程中取得重大成果的必不可少的技术基础之一，这也加快了中国进入智能社会的步伐。

虽然人工智能是我们的社会实现负责任发展的一项惊人资产，但也带来了重大的伦理问题。我们如何确保算法不侵犯隐私权、数据保密权、选择自由权和良心自由权等基本人权？如果我们的意愿可以被预测并受到牵引，我们的行动自由能否得到保障？我们如何确保人工智能系统不会带有社会和文化成见，特别是性别歧视问题？这些成见是否会被复制？能否对价值观进行编程？由谁来编程？当决定和行动完全自动化时，我们如何确保落实问责制？我们如何确保世界各地的所有人都可以享受到这些技术的惠益？我们如何确保人工智能以透明的方式开发，以便生活受到影响的全球公民对人工智能的发展有发言权？要回答这些问题，我们必须将人工智能对社会的直接影响，即我们已经能察觉到的后果，与其长期影响区分开来。这要求我们树立共同的愿景，共同制订战略性行动计划。

本书正是看到了人工智能发展过程中的这些机遇与风险。一方面，本书从黑镜这个隐喻谈起，深入探讨了人工智能伦理背后的技术哲学的逻辑以及人类与计算机之间的伦理命题，追本溯源地对人工智能伦理这一重大学术问题的本质进行了深入讨论，从技术伦理、哲学、法学、经济学等多个方向对这一问题进行了深入解读，构建起对这一复杂问题的全面而深入的系统思考的逻辑；另一方面，本书对人工智能领域的产业实践、相关政策以及涉及人工智能立法的相关问题进行了前瞻性的研究，结合产学研的思考，立意新颖，独树一帜。我个人特别关注的是本书在探索相关问题时的全球视野。据麦肯锡咨询公司估计，到2030年，人工智能会在全球范围内创造近130亿美元的额外经济产值，占世界GDP增长的1.2%。各国政府也注意到这一技术对人类社会的渗入。在某国际智库发布的《建设人工智能的世界——国家和区域人工智能政策报告》中提到，全球已有18个国家或地区发布了关于人工智能的针对性战略和政策，包括科技、法规、伦理、社会治理等多方面。而此时正是需要一本像本书这样的书，基于全球视野来讨论人工智能伦理和政策的问题，同时展现中国学者在这一领域创新性探索的重要方向。能够在一本书中通过多个学术领域的跨学科研究来回答这一重大问题，本书作者在这一领域的思考和勇气无疑是令人敬佩的。

纵观全球各国政府和产业界关注的人工智能伦理重点，其核心都是以人为本，把人类社会的福祉作为最终的目标愿景。具体来看，人工智能伦理主要聚焦在安全可控、公平和普惠共享、隐私保护、责任分担以及可能造成的失业问题等方面，而本书作者作为数字经济学家，对相关问题也进行了深入的讨论。

根据麦肯锡咨询公司的预测，到2030年，随着人工智能等技术的进步，多达3.75亿个劳动者可能需要更换职业类型。然而，自动化对就业人员的替代并不是一个新问题。从工业革命起，人类被机器取代的问题就一直纠缠着我们。每当一种新技术得到大规模运用时，这个问题就会被重新提起。19世纪初期，由于自动纺织机的运用，在英国，大批纺织业者失业，爆发了以捣毁机器为手段的自发工人运动——卢德运动。20世纪30年代，因为大萧条造成持续性失业，曾有经济学家提出“技术性失业”的概念，建议通过暂停技术进步的方式缓解失业问题，甚至有人还提出对机器征税的议案。但历史一次次证明，旧职业被淘汰的同时，总会有新职业出现，劳动力也从农业向工业和服务业不断迁移。很多专家相信，如同互联网的创造并繁荣了大量的新职业一样，人工智能新技术也会创造更多新的职业，例如，面对人工智能的飞速发展和强大需求，数据标注员、算法工程师、大数据分析师等新职业反倒出现人才匮乏。面对可能的结构性失业问题，我们需要在教育和再培训上下更多功夫，提升人们在新时代的就业技能，并不断推动企业通过平台等方式扩大技术开放，降低新技术利用的门槛，促进各行业的创业和创新，让每个人都有机会实现更好的就业和发展。

简言之，人工智能技术是人类科技创新的新前沿。一旦跨越这个边界，人工智能将让人类文明旧貌换新颜。人工智能的指导原则不是拥有自主性或取代人类智慧。但是，我们必须确保人工智能以基于人类价值观和人权的人本主义方式发展。我们面临的一个关键问题是：我们想要一个什么样的未来社会？人工智能革命开辟了振奋人心的新前景，但是我们需要仔细考虑其带来的巨大影响。人工智能正引发深刻的教育变革。很快，教育工具将发生变化，包括学习、获取知识和培训教师的方式。从现在开始，掌握数字技能是所有教育计划的核心。此外，我们必须学会学习，因为飞快的创新正在迅速改变劳动力市场。如今，历史、哲学和文学等人文学科对于我们形成在瞬息万变的世界中采取行动的能力比以往任何时候都更加重要。在2020年经历了新冠肺炎疫情的挑战之后，我们会越来越重视人工智能等前沿技术的应用。在人类历史的发展中，人工智能帮助我们发现了以往没有意识到的问题。当我们坚信人工智能应当为所有人服务时，我们需要思考如何克服曾经的偏见，这是人与人工智能共同的任务，而本书无疑是在该领域兼具可读性和思想性的佳作。本书对人工智能的治理也提出了真知灼见，能够启发人们对人工智能时代的来临做好准备。

欧洲科学院院士

爱丁堡大学金融学讲席教授

侯文轩

2022年1月