第一部分 本书简介

第1章 可解释人工智能概述

杨强 朱松纯 范力欣 陈一昕 张拳石

随着深度学习神经网络算法的飞速发展，人工智能系统正在逐步改变社会生活的方方面面，影响甚至决定人的命运。然而，人工智能的决策机制到底是怎样工作的？它将朝着怎样的方向发展？本章首先考察现有人工智能系统在可解释性方面的特点与不足，然后给出可解释AI的目的和定义，以及一系列相关的技术主题，最后对本书全部章节内容进行概述并给出阅读建议。

近年来，人工智能（Artif icial Intelligence，AI）无疑已经成为热词，频繁出现在网络头条、政府决策和企业规划里，无不昭示着一个人工智能成为主导力量的时代的到来。人工智能技术与系统出现在人们的工作和生活中，智能财务系统、智能招聘系统和智能推荐系统等不一而足——这些智能系统正在逐步改变社会生活的方方面面，影响甚至决定人的命运。似乎在我们还没弄明白人工智能到底是怎么一回事的时候，人工智能的实际应用已经跑得很远了。然而，我们真的了解人工智能吗？到底什么是人工智能？人工智能的决策机制到底是怎样工作的？它今后将朝着怎样的方向发展？这些问题都与人工智能系统的可解释性（Explainability）息息相关。