迈向持久可解释性：自动化系统中的规范影响力与挑战

本文深入探讨了自动化系统中的"历时可解释性"(Diachronic Interpretability)这一新兴概念，与传统上侧重于"共时性解释"(Synchronic Interpretability)形成对比。共时性解释主要关注单个决策时刻的可理解性，例如公平性问题在机器学习中的讨论，强调的是个体层面的结果透明度。然而，作者认为，随着自动化系统的广泛应用，我们需要超越这种即时的、个人主义的解释范式，转向更深层次的历时解释，以保留和维护系统的规范代理能力。 历时可解释性不仅关注当前行为，还涵盖了系统在整个生命周期中的行为模式，它涉及到系统的演变过程以及其决策是如何随着时间推移而改变的。这在某种程度上挑战了基于文本的传统解释框架，因为在自动化系统中，规范代理能力可能因为过度依赖无歧义、高效且基于代码的管理系统而被削弱。如果过分追求自动化和效率，可能导致人类在面对系统行为的长期后果时失去干预和调整的能力，形成所谓的"Wall-E场景"，即规范功能的缺失。 为了克服这个潜在问题，作者提倡在设计和实施自动化系统时，应当考虑如何实现具有历时可解释性的方法。这可能包括记录系统的决策历史、实施可追溯性机制、以及建立能够反映系统动态变化的解释框架。通过这样的方式，我们可以确保系统的决策不仅在当下公正，而且在长期过程中也能反映出社会和伦理期待的规范性。 文章还提供了案例研究来支撑这一观点，展示了如何在实践中将历时解释融入到自动化系统的设计和管理中，以保持对系统的有效监管和规范引导。这篇文章强调了在人工智能和机器学习领域，我们需要更加重视历时可解释性，以维持并增强人类的规范代理作用，从而实现更负责任的自动化。