2.3.1　算法透明度

算法是如何创建模型的？

算法透明度是指算法如何从数据中学习模型，以及它可以学习到什么样的关系。如果使用卷积神经网络对图像进行分类，则可以解释该算法如何在最底层学习边缘检测器和滤波器。尽管这是对算法如何工作的理解，但这既不是对最终学习的特定模型的理解，也不是对如何做出单个预测的理解。算法的透明度只需要对算法有了解，而不需要对数据或学习模型有了解。这本书的重点是模型的可解释性，而不是算法的透明度。线性模型的最小二乘法等算法已被深入地研究和理解，它们的特点是透明度高。由于深度学习是通过数以百万计的权重推动梯度的，所以它不太容易理解，对其内部工作机制的探究是正在进行的研究重点，它们被认为是低透明度的。