深度学习可解释性：新分类法与研究前景

随着深度神经网络在各个领域的广泛应用，它们的不可解释性问题逐渐成为关注的焦点。这篇综述论文【IEEETRANSACTIONSONXXXX, VOL.X, NO.X, MMYYYY】标题为"神经网络可解释性综述"，由Yu Zhang, Peter Tiˇno, Aleˇs Leonardis 和 Ke Tang共同撰写。作者首先强调了可解释性在深度学习中的重要性，它不仅关乎公众对这类系统的信任度，还涉及到伦理问题，如算法歧视。此外，随着深度学习在药物发现、基因组学等领域的潜在应用，可解释性成为其作为强大工具的关键属性。 论文的核心内容是提出了一种新颖的分类框架，将神经网络可解释性研究划分为三个维度：参与类型（被动解释性与主动解释性）、解释类型的区分以及解释聚焦的层次（从局部解释性到全局解释性）。这种分类方法旨在为现有文献提供一个有深度的三维视角，不同于传统的二元分类，它允许对每种解释方法进行有序的子类划分，帮助研究人员更系统地理解不同方法的优缺点。 在定义层面，作者澄清了可解释性的多种含义，考虑到其在不同上下文中的多元解读。然后，他们进一步探讨了各种解释策略，包括但不限于模型内部的权重分析、特征重要性评估、可视化技术以及对抗样本检测等方法，这些都属于被动解释性范畴。另一方面，主动解释性方法则倾向于用户驱动，例如交互式模型解释和模型修改，以增强用户对决策过程的理解。 对于解释的类型，文章区分了模型的全局解释，即对整个模型工作原理的整体理解，和局部解释，主要关注单个预测或一组预测背后的特定原因。这种分类有助于研究者理解何时选择哪种类型的解释方法，以及如何平衡全局与局部洞察之间的权衡。 最后，论文总结了当前可解释性评价方法，包括定量和定性的评估标准，强调了评估的主观性和多样性。作者展望了在新分类框架指引下的未来研究方向，可能会着重于开发更加综合、灵活的解释技术，同时兼顾深度学习的准确性和可理解性之间的平衡。 这篇综述论文为神经网络可解释性研究提供了全面的视角和结构化的框架，为该领域的发展奠定了坚实的基础，并为未来的理论和实践探索指明了路径。