深度学习的可解释性：技术、法律与经济的多学科框架

“灵活且特定于上下文的 AI 可解释性：一种多学科方法-研究论文” 这篇研究论文探讨了人工智能（AI），特别是深度学习在透明性和可解释性方面的挑战。随着深度学习在各个领域的广泛应用，其黑箱性质引发了一系列问题，尤其是在安全关键的应用中。为了增强对AI系统的信任并确保责任追究，设计者和运营者需要能够解释模型的决策过程、结果及其背后的原因。论文提出了一个创新的框架，结合技术、法律和经济角度来确定特定情境下可解释性的适当程度。 首先，定义上下文因素是关键。这些因素包括解释的目标受众、运行环境、可能造成的损害程度以及相关的法律和监管框架。这一步旨在明确解释的需求，考虑其社会影响和法律义务。 其次，论文审查了现有的技术工具，如输入扰动、显著性图等事后解释方法，以及混合AI方法，这些方法试图结合规则基础和数据驱动的决策，以提高可解释性。 第三步是根据前两步的结果，权衡成本，选择合适的全局和局部解释输出水平。论文识别出七种成本，并指出只有当社会总收益超过这些成本时，解释才是有益的。 该研究还提到了与AI可解释性相关的一些关键概念，如公平性、责任和问责制。它强调了在AI系统的整个生命周期中，从设计到部署，都需要考虑到这些因素。通过这种多学科的方法，论文旨在为制定更透明和负责任的AI实践提供指导。 此外，这篇论文是在HAL（多学科开放存取档案）上发表的，这是一个用于科学研究文档存储和传播的平台，无论这些文档是否已出版。作者包括Valérie Beaudouin, Isabelle Bloch, David Bounie, Stéphan Clémençon等人，他们分别来自不同的学术和研究背景，反映了论文的多学科特性。 这篇论文提出了一种综合的框架，旨在解决AI的可解释性问题，使其适应不同的应用场景，并通过考虑法律、社会和经济效益，促进AI技术在安全和可信的环境中健康发展。