电力系统中的可解释人工智能技术：挑战、机遇和趋势

能源与人工智能9（2022）100169审查能源和电力系统的可解释人工智能（XAI）技术：回顾，挑战和机遇R. 马赫列夫湖 Heistrenec，M. Perla，K. Y. Levya，1，J. Belikovb，S. Mannora，Y. 列夫龙aa以色列理工学院Andrew和Erna Viterbi电气计算机工程学院，海法3200003，以色列b爱沙尼亚塔林科技大学软件科学系，Akadeemia tee 15a，12618 Tallinn，EstoniacPandit Deendayal Energy University，Gandhinagar 382007，Gujarat，IndiaA R T I C L E I N F O保留字：动力能源神经网络深度学习可解释人工智能XAIA B标准尽管机器学习模型被广泛采用并具有出色的性能，但它被认为是因此，在需要高度问责制的电力系统领域，专家很难信任和证明决策的合理性以及这些模型提出的建议。与此同时，在过去的几年里，可解释人工智能（XAI）技术已经开发出来，以提高机器学习模型的可解释性，以便更好地理解它们的输出。在这种情况下，它是本文的目的，以突出使用XAI的电力系统应用的潜力。我们首先介绍了在此类应用中使用XAI的常见挑战，然后回顾和分析了有关此主题的最新工作以及研究界的持续趋势。我们希望这份文件将引发富有成果的讨论，并鼓励进一步的研究这个重要的新兴话题。1. 介绍随着深度学习（DL）的发展，正在为电力系统应用开发更好的分类器和机器学习（ML）算法[1，2]。在某些情况下，与传统算法相比，这些深度学习技术似乎在效率、抗噪性和准确性方面具有优势。然而，尽管这些算法取得了明显的成功，但固有的困难是，由于机器学习模型通常非常复杂，因此可能不清楚它们如何或为什么做出某些决策，以及它们如何处理现实世界的数据。电力系统规划和运行完全由电力专家根据他们在电力系统、支持计划和现场经验方面的知识来完成，这些知识是随着时间的推移而收集的。因此，电力系统领域的专家可能会发现很难相信基于机器学习的算法做出的决策和建议，从而限制了它们的实际应用。这种困难在需要高可靠性的情况下尤其突出，这在能源行业中很常见。由于这一挑战，在过去的几年中，人们正在开发新的技术和原理来提高机器学习模型的可解释性，以便更好地理解它们的输出。这个概念在文献中被称为可解释人工智能（XAI）[3]。XAI的目标是帮助研究人员，开发人员，领域专家和用户更好地理解机器学习模型的内部操作，同时保持其高性能和准确性。各种XAI技术可以在文献中找到[4，5]，大多数其中的一个专用于DL模型。图1提出了与AI和电力系统相关的几个重要里程碑。可以看出XAI在电力和能源领域的应用才刚刚开始。这项工作的目的是突出在能源和电力系统中使用XAI的潜力。我们首先介绍了在电力和能源应用中使用XAI的常见挑战，然后回顾和分析了最近关于这一主题的工作以及研究界的持续趋势。我们还建议几个方向为未来的研究，这可能有助于应对上述挑战，限制和机遇。本文的具体贡献如下：1. 提出了在能源和电力系统领域采用和实施XAI技术的主要挑战2. 一个简短的调查工作有关的使用XAI在电力和能源应用。我们试图更好地了解哪些XAI技术是最常见的，为什么，以及为什么特定的方法用于特定的应用程序。3. 提供了与XAI和能源系统∗通讯作者。电子邮件地址：ramm@campus.technion.ac.il（R.Machlev），gmail.com（L。Heistrene），michael. campus.technion.ac.il（M.Perl）、kfirylevy@ee.technion.ac.il（K.Y.Levy），juri. taltech.ee（J.Belikov），shie@ee.technion.ac.il（S.Mannor），yoashl@ee.technion.ac.il（Y.Levron）。1 维特比研究员。https://doi.org/10.1016/j.egyai.2022.100169接收日期：2022年3月16日;接收日期：2022年5月17日;接受日期：2022年5月19日2022年5月25日网上发售2666-5468/© 2022作者。出版社：Elsevier Ltd这是CC BY许可下的开放获取文章（http://creativecommons.org/licenses/by/4.0/）。可从ScienceDirect获取目录列表能源与AI期刊主页：www.elsevier.com/locate/egyaiR. Machlev等人能源与人工智能9（2022）1001692缩略语列表AI人工智能双向长短期记忆CNN卷积神经网络COP性能系数DARPA国防高级研究计划局DeepLIFT深度学习重要特性深度学习DNN深度神经网络需求侧管理第五章像我五基于聚类的FRLC模糊规则学习梯度CAM梯度类激活映射GRU门控循环单元HIL人在回路LIME局部可解释模型不可知解释LSTM长短期记忆ML机器学习NGBoost自然梯度增强NILM非侵入式负载监控NN神经网络PQD电能质量扰动光伏发电RES可再生能源强化学习递归神经网络SHAP SHapley加法解释XAI可解释人工智能XGBoost eXtreme梯度增强本文的其余部分组织如下。第2节提供了XAI的背景。然后，第3节介绍了其在能源和电力领域的挑战。随后，第4节根据最近的工作，对XAI在能源和电力系统领域的文献进行了回顾。第5节讨论了潜在的应用和未来的研究方向，最后，第6节总结了论文。2. XAI技术许多机器学习算法的缺点之一是它们这意味着这些算法非常难以解释，并且在大多数情况下，即使是领域专家也无法完全理解它们。如果用户认为一个模型是一个黑盒子，他们就不会总是相信它的预测，因此也就不愿意使用它。此外，深度神经网络是非常复杂的黑盒子模型，即使对人工智能专家来说也是如此，因为它们的架构是使用试错过程设计的，它们可能由数百层和数百万个参数组成。考虑到这一挑战，XAI的主要目标是让研究人员、开发人员和用户更好地理解机器学习模型的结果一个例子是DARPA XAI计划，该计划旨在生成此外，通过增加可解释性，相信ML模型的泛化将更加鲁棒，允许在未来改进这些模型的正则化。这些想法，在电力系统领域实施，如图2所示。图1给出了一个评价建筑能耗性能的具体例子。3 .第三章。在此图中，XAI用于通知用户哪些功能是重要的。在[5]中，术语解释定义如下：由外部算法（或分类器本身）生成的附加信息，描述输入实例的相关特征，用于特定输出。从数学上讲，对于ML模型，输入∈R和类的输出预测，生成解释映射∈R来描述特征重要性或输入与类输出的相关性���������������������有各种XAI技术和方法，例如：局部可解释模型不可知解释（LIME）[6]，SHapley加法解释（SHAP）[7]，GRADient类激活映射（GRAD-CAM）[8]，深度学习重要特征（DeepLIFT）[9]以及更多在接下来的调查中提出的[5，10]。其中一些技术，如LIME和SHAP，是通用的，可用于解释任何ML模型。其他XAI技术，如GRAD-CAM和DeepLIFT，专用于DNN模型，其中解释考虑了模型的内部操作，如激活函数和权重。如第4节所示，电力和能源应用中最常见的方法是SHAP和LIME。XAI方法主要关注两个解释范围，第一个范围是“局部解释”，其中XAI的输入是来自数据的单个实例，即解释映射。每次都为单个数据点∈生成。���另一个范围是“全局解析”，其目标是理解整个模型。大多数情况下，这是通过使用一组数据实例并基于该组输入生成解释映射来完成的。��� 局部和全局解释的高级图如图所示。四、此外，表1阐明了局部和全局XAI模型之间的差异。XAI的另一个重要概念是如何将解释集成到模型中。解释可以用作特定ML模型的一部分，也可以作为后处理应用于任何模型。具体来说，有两个关于如何集成XAI技术的概念：内在（特定于模型）方法或事后（模型不可知）方法。在内在方法中，可解释性作为训练过程的一部分集成到ML模型架构中，并且不能转移到其他架构中。在事后方法中，XAI方法不依赖于任何架构，也不与任何架构相关，可以应用于任何经过训练的ML模型。 目前，有显着的研究兴趣，在发展模型不可知论的解释，而模型特定的解释被使用较少。一个高层次的图表，为内在和事后XAI是说明图。 五、综上所述，XAI解释的不同范围可以用于不同的目的。本地解释可以帮助人们理解为什么做出特定的决定，并且可以增加用户对特定示例的信任。全局解释可以帮助人们理解完整的系统，并可以根据模型学习的内容来优化它们。 如果正在训练一个新模型，那么内在方法可能很有用，因为理解是至关重要的，但是事后方法允许利用已经训练好的模型，或者使用经过验证的ML技术。在能源和电力系统的背景下，使用这些技术中的每一种都有不同的机会，如第4节和第5节所述。3. XAI在能源和电力系统领域有各种各样的挑战和限制，需要加以处理时，实施XAI的电力系统应用。有些挑战是基于[5]，并扩展。挑战和局限性总结见表2。其中一个主要挑战是如何使用具有高性能和透明度的模型。一般来说，准确的模型R. Machlev等人能源与人工智能9（2022）1001693图1.一、 电力和能源系统走向XAI的道路。图二. 通用电力系统应用的XAI概念。图三. 用于评估建筑能耗性能的XAI分类器模型示例。XAI技术告知最终用户哪些功能更 这对决定是重要的和重要的。表1局部和全局XAI方法之间的区别。解释范围目标了解单个模型决策了解整个模型输入单个数据点数据实例单个数据点模型输出的整体特征属性常见的方法热图基于树的模型一般都比较复杂，难以理解。这种一般的权衡在电力系统领域中特别重要，因为典型的用户通常会要求高性能和准确的解释，以便具有高水平的可信度。此外，XAI的一个主要限制是缺乏标准化 明确的定义。目前，虽然一些作品和调查定义了可解释性是什么，对于XAI和可解释性的具体定义仍然没有共识一些作品专注于可视化方法，而另一些则使用特征重要性或特征相关性的概念没有明确标准的原因之一是由于有不同类型的用户使用ML模型和XAI，例如AI研究人员，电力专家，能源政策制定者，R. Machlev等人能源与人工智能9（2022）1001694见图4。 局部（左）和全局（右）可解释算法的概念说明。来源：引用自[5]。图五、 内部（左）和事后（右）模型可 解释算法的高级说明。来源：引用自[5]。消费者，所有这些人都根据不同的需求实现机器学习技术，并基于不同的抽象级别。另一个重要的问题是如何定义一个最佳解释。在许多应用中，没有定义明确的方法来提供清晰和最佳的解释。如果没有定义这一点的能力，XAI的使用可能不清楚，XAI算法的输出也可能难以解释。此外，虽然数据通常包含用于训练过程的分类标签，但通常不提供地面实况解释。如果没有地面实况解释，XAI输出将没有比较基准。 因此，在为任何能源或电力应用创建数据库时，应尽可能给出地面实况解释。尽管如此，如上所述，界定或收集这一信息并不容易。XAI技术的另一个局限性是缺乏解释质量的评估指标。即使可以提供可解释性的明确定义，也希望有一个评估模型“可解释性”的度量标准这些指标应该衡量一个在任何分类器上，每个XAI技术的可解释性得分比分价值基于XAI技术的估计解释与地面实况解释的相似程度。与许多其他常见的机器学习任务相比，在功率和能量领域有许多应用可以明确定义正确的解释。作为一个例子，考虑检测和分类电网中的异常事件的任务。在此示例中，可以将解释指定为事件出现的时间或事件的原因。因此，解释可以表示为二进制向量，其表示在每个采样时间处事件的存在或不存在。评估指标的分数使用此正确解释与XAI输出进行比较。如果解释不了如果没有明确的定义，为任何用户建立客观的指标将很难定义。另一个值得注意的限制是信息安全，这在能源和电力系统应用中至关重要。当使用XAI技术来解释ML模型的决策时，该模型的机密性可能会受到损害。因此，XAI技术揭示的任何信息都可能被用来生成有效的恶意对抗攻击，以混淆模型。这些攻击可以通过提供系统特定的信息来操纵模型，从而导致不同的输出。基于XAI的输出，这些攻击可以非常有效，因为它们可以找到最小的变化，应用于输入数据，以改变ML模型的决策。这种攻击对电网或能源管理系统的后果可能是灾难性的。另一个挑战是，目前的技术提供的解释是为人工智能专家而不是电力系统专家设计的。目前，最先进的XAI算法是由计算机科学家和AI研究人员开发的。因此，提供解释的常用方法是使用热图，热图提供了良好的直觉，但并不总是包含足够的信息。在许多应用中，XAI输出的更复杂的表示可能会导致更有用的解释。因此，在功率和能量领域专家、认知科学家和其他人之间形成协作以创建用于这些应用的高效且专用的XAI技术可能是有益的。此外，这些技术应该最适合相关用户。例如，解释电网操作的推荐模型的技术应该受益于嵌入系统操作员的先验知识一个关键的挑战是如何防止XAI方法输出误导性的解释，以及如何提供值得信赖的解释。广告可以增加用户的信任度，但从长远来看，模型的输出可能无法提供准确的建议。这种风险可能会导致用户产生不正确的信心，并相信错误的结果。此外，相信错误的解释或预测可能会鼓励用户对无效的解释或预测投入信心。或不安全的模型，这可能会导致灾难。一个实例可以是一种模型不可知的方法，它可以用于任何分类器，其输出可能过于通用，而不是专用于特定的应用，因此其可靠性应该受到怀疑。因此，最好使用为特定应用程序设计的内在模型。另一个问题是，人们是否应该信任基于可用数据实例的良好解释的模型，还是应该只信任在整个数据集上验证的模型。 从局部可解释算法中获得信任需要验证许多不同的输入，而全局可解释算法的方法可以基于整个数据集得出合理的解释。这些比较的内在与事后和本地与全球的approaches的电力和能源的应用，应进一步研究和检查。R. Machlev等人能源与人工智能9（2022）1001695表2能源和电力系统领域XAI方法的开放性挑战和局限性。挑战和限制权衡：解释和表现都必须准确✓ 对XAI的定义缺乏一致意见，采用极端梯度增强（XGBoost）方法建模，并通过两个评价指标--漏警率和虚警率来评价其性能。同样，在[15]中也讨论了暂态稳定评估。在这里，暂态稳定性使用深度信念网络建模，并通过局部线性解释器模型进行解释。保真度和可解释性在这项工作中进行了讨论。Fidelity确保，即使模型可能没有良好的全局标准化解释性✓ 不同类型的性能，它仍然忠实于特定的故障情况下，在当地一级。最后，[16]使用Shapley值和热图来解释应给出评价指标-如果需要解释，不能定义✓ 需要测量可解释性评分，评价✓ ML模型的机密性可能是用于暂态稳定评估的ML模型电网中类似的不稳定事件是频率偏差。研究人员经常使用ML模型来预测频率偏差现象的动态。作者在[17]中使用了梯度提升树技术来预测频率稳定性指标。为了使这个ML模型做出的预测更容易理解，安全损害✓ 可能会产生恶意的对抗性攻击操作员，他们采用了SHAP技术。在后来的作品中， 同样的作者，SHAP提供了对驱动因素作用的见解利用XAI技术揭示的信息✓ 能源专家与其他领域专家的合作使用者应将XAI技术最佳地适用于不同类型的用户✓ 防止XAI方法输出误导例如预测误差和发电机对不同电网频率偏差的斜坡率[18]。在另一项工作中，同一作者还分析和解释了SHAP的二级控制激活。他们使用自动负载频率控制器来提供必要的储备，以恢复发电负载不平衡[19]。建议解释✓ 用户可能会产生不正确的信心和信任电压不稳定是电网中的另一个问题，电网运营商经常采取甩负荷来防止电压过度下降。错误结果4. XAI在能源和电力系统中的应用综述本节回顾和分析了最近的工作和趋势，在电力和能源应用中的应用。 在第4.1节中，介绍了XAI在关键电网实践中的最新工作。 然后，在第4.2节中，审查和分析了使用XAI预测可再生能源发电，能源需求和其他应用的论文。稍后，第4.3节将重点介绍建筑能源管理应用的XAI。第4.4节介绍 对总体文献调查的总结，旨在更好地了解XAI在电力和能源研究界的独特特征、趋势和常见用途。4.1. 专注于电网应用的由于可再生能源自由化的渗透率越来越高， 随着电力市场的发展和直流输电系统的日益增多，电网的脆弱性也在增加。近年来，先进的人工智能技术在处理稳定性分析和其他控制相关方面显示出巨大的前景，但这些人工智能技术的实际实施受到缺乏的阻碍。这些黑箱模型的透明度[11]。在过去的几年里，一些工作集中在网格安全评估模型的可解释性发表。工作[12]使用决策树将系统操作条件分类为稳定或不稳定。决策树表示网格安全规则，而其树深度描述可解释性。这项工作发现了一个权衡模型的准确性和可解释性，通过他们修改的最佳分类树。据我们所知，这是唯一的工作，使用内在的方法在电力系统领域的可解释性。下面讨论的其他工作使用模型不可知的方法来解释。例如，在[13]中，门控递归单元（GRU）用于对电网安全条件进行分类。总框架 该暂态稳定评估模型包括GRU离线训练和可解释的决策树模型。该树作为可解释性的替代模型，可以在线实施，以实现预防性控制措施。 虽然[13]中使用了可视化方法，但[14]中应用了知识提取和影响方法以进行解释。在此，暂态稳定状态为电压. [20，21]的作者已经将SHAP可解释性应用于深度强化学习模型，用于在欠压条件下实施比例减载。deep-SHAP方法用于提高[21]中XAI模型的计算效率。 它的输入层包括一个反向传播策略，该策略计算所有输入特征的重要性，以及一个带有概率表示方法的softmax层。该模型的输出通过可视化层和特征重要性层解释了模型预测。在这项工作中讨论了全球和本地的解释。 用于系统稳定性应用的XAI技术总结见表3。近年来，一些工作讨论了电网中不同故障类型的识别.例如，在[22]中，通过长短期记忆（LSTM）模型识别电网干扰事件，如发电跳闸，线路跳闸，系统振荡状态，孤岛和甩负荷事件。深度SHAP方法，包括DeepLIFT和SHAP值的组合，解释了LSTM模型。在这项工作中还讨论了使用可解释性对错误分类的见解，这是在为任何应用程序实现AI模型时的一个重要问题。从工作[ 22 ]中提取的频率事件如图所示。六、 在该图中，给出了基于SHAP值的发电机跳闸分类说明。 洋红色时间步长是有助于分类器决策的特征，黑色时间步长是不有助于决策的特征。因此，对分类器判定具有较大贡献的时间序列的部分是时间步长4 和5.这些时间步长是频率在时间序列。同时，时间步长7和8对决策没有相关影响。在[23]中，讨论了电能质量扰动（PQD）分类。在这里，各种XAI技术的性能进行了比较，在验证阶段的indi- vidual干扰，并选择其中最好的解释推理模型。据我们所知，这是唯一的工作，提供了一个定义的正确解释PQD分类器，被称为'地面真理'的作者这项工作。同样的工作还提出了PQD可解释性分数，这使得有可能评估每个XAI技术和DL分类器的解释。为了证明上述内容，图7摘自[23]，展示了当输入是Sag信号时两种XAI技术的CNN分类器输出的解释。 对于这两张图片，XAI输出是一张热图，其中颜色与决策中特征 图7（a）下垂信号是R. Machlev等人能源与人工智能9（2022）1001696表3各种系统稳定性应用中使用的XAI技术总结参考文献 电力系统应用AI模型XAI方法范围[12]安全评估决策树内在全局[13]安全评估门控循环单元树正则化全局[14]故障后瞬态稳定性评估[15]暂态稳定评估极端梯度提升决策规则&石灰深度信念网络局部线性解释器全球本地本地[16]暂态稳定评估[17]预测频率稳定性指示符[18]预测确定性频率偏差Shapely valuesLocal Gradient Tree Boosting SHAPLocal梯度树增强SHAP全局局部[19]激活辅助控制电源梯度树增强部分依赖图SHAP当地[20]低压减载[21]欠压负载深度强化学习SHAP全局局部深度强化学习Deep SHAP全局局部脱落表4各种网格事件检测应用程序中使用的XAI技术的总结参考文献电力系统应用AI模型XAI方法适用范围[22]事件识别LSTM Deep SHAP Global&当地[23]电能质量扰动分类器CNN闭塞灵敏度，GRAD-CAMLIME当地[24]电力变压器故障诊断[25]光伏电池板早期故障的检测诊断[26]基于边缘节点可解释的早期故障XGBoost SHAP本地XGBoost LIME本地XGBoost LIME本地光伏检测系统见图6。发电机跳闸时检测到频率信号，突出显示特征贡献。来源：摘自[22]。由阻塞敏感性解释，其中解释几乎完美地与整个干扰相关。图图7（b）通过GRAD-CAM解释了真实的凹陷信号，其中一些最强的特征与干扰不直接相关另一个例子是诊断在电力Transformer中观察到的故障的情况，如[24]所示。及时检测这种初期故障可以帮助避免对各个电网组件和整个电网的恶化影响。 在这项工作中，溶解气体分析是使用基于神经网络的分类模型。该模型利用了溶解气体与断层类型的相关性。然后，SHAP用于选择最适合所提出的分类模型的最引人注目的特征。 另一个问题是与光伏（PV）安装有关的故障。 一个可解释的模型 在[25，26]中提出了检测和诊断PV装置中的初期故障，这将有助于计划日常维护操作，并有助于故障排除。在[25]中采用了一种混合建模方法，包括基于模型和数据驱动的故障检测方法。在这项工作中使用的LIME方法帮助用户理解为什么XGBoost模型预测存在故障。随着可解释故障检测的实际实施，边缘节点上的系统，在[26]中讨论了相同应用程序的高级版本。基于边缘的故障检测系统提高了可扩展性，并减少了数据交换和数据安全问题。在[26]中提出的模型中描述的边缘节点服务提供具有时间戳的故障解释。表4给出了上述讨论结果的总结，详细说明了网格事件检测应用中使用的XAI技术。4.2. 能源行业ML模型被用于与能源部门相关的许多应用中。这些应用程序对规划和运营决策有重大影响，因此必须有可解释的XAI模型，以获得最终用户的信任和信心[27]。最近，许多作品都集中在使用XAI进行可再生能源预测。作为示例，在[28]中使用XGBoost模型来预测PV发电。作者使用ELI5（一个为机器学习模型提供特征重要性的Python库）来解释这个XGBoost模型。基于ELI5的解释，从输入数据集中去除不重要的特征。 然而，输入数据集大小的减少是以降低模型准确性为代价的。在[29]中，通过使用三种XAI技术从不同的角度更详细地分析特征重要性，扩展了这一想法。LIME、SHAP和ELI5用于解释随机森林回归模型所做的光伏发电预测R. Machlev等人能源与人工智能9（2022）1001697见图7。 XAI用于PQD分类。在DL分类器上使用（a）遮挡敏感度和（b）GRAD-CAM解释两种不同的Sag信号。分类器预测信号是来源：摘自[23]。基于不同XAI技术的特征重要性分析，作者得出结论，从输入数据中排除两个特征是合理的，而不会影响模型的准确性。预测结果验证了该排除，其中观察到与基线模型相比，去除不重要的特征提高了模型准确度。XAI在这两项工作中的目的都是为了改进特定应用程序的ML模型设计拥有光伏电源的居民用户需要准确的光伏发电预测模型来制定智能的需求响应策略。这个问题通过工作中的基于树的可解释机器学习模型来解决[30]，其中特征归因方法也用于发现具有更高影响力的特征两种不同的神经网络（NN）模型，二元分类器NN模型和回归NN模型，已用于类似的Prosumer应用[31]。二元分类器预测太阳能发电量是否大于负载。回归模型给出了一个连续值预测光伏发电量和负载需求。这两种预测都有助于生产消费者根据需要计划削减或进口执行具有集成梯度、期望梯度和DeepLIFT方法的属性方法来解释分类器NN模型和回归NN模型。此外，贝叶斯NN捕获与预测失败相关的不确定性应用于光伏发电预测的可解释性也见于[32]，其中可解释性应用于概率预测的预测区间在这项工作中，初始概率预测的自然梯度提升（NGBoost），高斯过程和下限上限估计算法进行了比较。NGBoost在概率预测性能和平均训练时间方面优于其他两种方法因此，在[32]中，NGBoost的概率预测形成了所提出模型的第一阶段，而SHAP解释构成了第二阶段。基于SHAP值的全局特征重要性图、交互图和力图用于解释PV功率预测模型的预测到目前为止，讨论的可再生能源应用都是基于预测光伏发电。 以下作品使用XAI技术来解释预测太阳辐射的ML模型。工作[33]讨论了通过太阳辐照度预测的内在模型的可解释性。作者使用一个直接可解释的神经网络-前馈网络，其中的输出可以通过一个非线性模型与输入映射。在研究[34]中，提出了通过聚类的模糊规则学习（FRLC）模型来预测太阳辐射，并且通过基于知识的方法来解释该FRLC模型。不同特征的隶属函数图和相似的语言方法被用来解释FRLC模型的预测。在工作[35]中，排列特征重要性，SHAP和特征依赖性分析用于解释太阳辐照度预测模型。接下来的工作重点是XAI在能源领域的一般应用（除了可再生能源预测）。Work [36]使用XAI技术来解释负荷预测模型。作者使用可视化方法和影响方法来找到可以提高模型准确性的最适合的特征子集电力使用[37]中的光梯度提升模型预测生成混合。SHAP用于该模型以了解不同特征的相关性，并相应地向AI模型提供适当的输入数据集以提高模型准确性。 在研究[38]中，双向LSTM（BLSTM）用于负荷，风，净进口/出口等的时间序列。注意力机制解释了如何使用时间特征来提高BLSTM模型的准确性。此外，AI已广泛用于电力电子领域，用于预测超级电容器的剩余使用寿命和逆变器的异常检测等应用[39]。在[40]中，可解释性已被应用于用于逆变器的一个这样的智能控制器。针对并网型电压源逆变器，提出了一种数据驱动的解释型人工智能控制器。使用一致性概率密度函数，对输出进行评估，并通过从条件熵、条件熵权重和离群值确定中获得的解释来识别错误数据。从训练集中删除这些错误数据可以提高模型的质量表5进一步总结了所有上述工作。4.3. 可解释的建筑物本小节讨论了用于预测建筑物能耗或通常与建筑物能效在[41]中，将XAI技术应用于预测建筑物冷却能耗的长期预测模型。在这里，SHAP提供了黑盒模型无法提供的见解。[42]中介绍了另一种可解释的长期预测模型，其中使用可解释的模型研究了年度建筑物能源性能的预测。这项工作解释了QLattice算法，这是一种用于预测建筑物能源性能的ML模型。在[43]中讨论了能源使用方面的建筑能源建模。这个模型是使用可视化的方法来解释。局部化决策树模型被用作代理模型来解释关于解释空间中的特定区域的决策。此外，XAI技术已被应用于短期预测模型，预测建筑物的能源性能。建筑物的性能系数（COP）基于建筑物的总冷负荷。 在[44]中，通过k均值聚类预测COP的高/低状态。在这项工作中，XAI技术被应用到几个不同的机器模型。据观察，虽然特定模型因其准确性而脱颖而出，但它们在信任度量下表现不佳。 类似主题的研究工作见[45]，其中用于预测不规则露点冷却器性能的DL模型使用SHAP值进行解释。另一种方法，使用注意力机制来解释，见[46，47]和[48]。在[46]中，通过一种称为序列到序列模型的RNN模型来预测建筑物的能源需求。该模型使用基于权重的特征重要性来解释R. Machlev等人能源与人工智能9（2022）1001698表5能源应用中使用的XAI技术总结参考文献能源应用AI模型XAI方法范围[28]光伏发电量预测XGBoost ELI5全球[29]光伏发电量预测随机森林回归SHAP、LIME、ELI5全球本地[30]预测光伏发电量，为产消者制定需求响应策略[31]预测生产的太阳能发电是否满足产消者树结构自组织映射XGBoost二元分类器来自权重、增益和覆盖的特征属性SHAPSHAP，集成和预期的替代品DeepLIFT全局本地全局本地[32]概率光伏发电量预测NGBoost SHAP全球本地[33]太阳辐照度预测直接可解释的神经网络[34]太阳辐射预报模糊规则学习通过聚类[35]太阳辐射预报光梯度提振使用语言学方法的基于知识的置换特征重要性和SHAP-全局本地[36]负荷预测XGBoost SHAP偏相关图当地[37]预测发电组合LightGBM SHAP本地[38]可再生富电网中面积控制误差的预测双向长短期记忆全球注意力机制[40]网格控制器连接VSI输入特征和注意力机制。通过注意机制的可解释性在[47]中进行了深入讨论。 这项工作中使用的深度学习技术是一种编码器-解码器模型，其中LSTM模型按顺序排列。当这个模型与自我注意机制相结合时，它可以确保准确性和可解释性形成最佳权衡。在[47]中，已经探索了基于隐藏层的注意力和基于输入特征的注意力。同样，在[48] 使用具有用于可解释性的注意力机制的RNN结构，预测建筑物的冷却负荷需求，具有24小时的提前预测范围。在这项工作中，软注意机制被使用 两个案例研究-单变量和多变量模型。可以观察到，使用不同的RNN结构（LSTM和GRU），每个epoch的训练时间增加，但错误减少。由注意力向量形成的注意力矩阵解释了每个输入特征的贡献。注意力矩阵的密度可用于深入了解模型及其依赖关系。此外，在作品中讨论了使用可解释AI的建筑基准[49，50]。基于使用模式的相似建筑物聚类是对建筑物性能进行基准测试的先决条件。在[49]中，根据使用模式对建筑物进行分类，然后比较建筑物的性能。 这项工作的重点是从非住宅建筑物获得的智能电表数据训练的聚类模型的可解释性。在[50]中，使用XGBoost 的基准分析，并解释了不同的输入变量之间的相互作用和它们对得分的影响，使用SHAP。必须使建筑物的用户成为建筑物能源管理系统的组成部分。这可以通过鼓励他们改变使用模式来实现，从而改善建筑物的性能。[51]的作者已经考虑了智能建筑基础设施，其中可解释的AI模型帮助建筑用户响应建筑性能指标做出适当的决策。如果用户找到改变其行为的理由或动机，则可以实现用户消费的改变。[52]的作者提出了通过聚类对不同用户进行分割，以确定每组用户的适当动机这种聚类模型使用图形套索方法来理解特征相关性。在工作[53]中可以看到聚类模型应用可解释性的类似实例，用于识别不同城市的低能量解决方案的规则。表6中给出了本小节中讨论的所有上述XAI技术的总结。4.4. 调查汇总上述小节中的文献调查清楚地表明，工程师和研究人员在能源和电力系统应用中越来越多地使用XAI技术。 自2019年以来，我们看到描述这些应用的XAI技术的出版物数量稳步增长，如图所示。8 .第八条。 我们用于检索论文的关键词总结见表7。 我们根据应用领域对我们工作中调查的研究论文进行了分类。其图示如图1A所示。9（a）。 大多数出版物来自建筑能源管理部分，以及解决电网脆弱性问题的应用。这些作品也根据所使用的ML模型进行了分类。研究发现，大多数XAI模型已经被应用于梯度提升（GB）技术，特别是XGBoost，已经成为研究人员最流行的GB算法。 在接受调查的XAI技术中，只有28%与深度神经网络模型一起使用，这表明XAI的DL在电力和能源应用中仍然没有得到广泛应用。这些信息可以在图中看到。9（b）.图 10显示了基于特征的论文分类XAI模型如第2节所述，以及如图10所示，很少有研究工作实现了具有内在解释能力的ML模型。相比之下，大多数作品使用事后模型不可知的方法。根据[54]，这种方法可以进一步分为：（i）可视化方法，（ii）知识提取方法，（iii）影响方法，（iv）基于实例的解释。 据我们所知，没有与电力和能源部门有关的研究采用最后一类。还观察到R. Machlev等人能源与人工智能9（2022）1001699表6用于建筑能源管理应用的XAI技术总结参考文献建筑能源应用[41]建筑物长期制冷能耗预测AI模型XAI方法范围XGBoost SHAP本地[42]预测建筑物的长期能源性能[43]预测能源使用模型QLattice Permutation特征重要性–替代模型图当地当地[44]冷却系统性能系数的预测[45]不规则露点冷却器SVM，MLP，XGBoost，RF深度神经网络LIME本地SHAP本地[46]建筑能耗的短期预测序列到序列模型注意力机制特征重要性当地[47]建筑能耗的短期预测[48]建筑能耗的短期预测具有LSTM序列的编码器解码器模型基于RNN序列的编解码器模型注意机制注意机制[49]确定使用模式和建筑物能源绩效基于ML时间特征相关性的分类器当地[50]建筑物能源性能水平基准XGBoost SHAP本地[51]通过智能建筑基础设施改善HIL的能源使用模式LSTM特征相关&格兰杰因果[52]用于决定提高能效响应K-means算法（无监督聚类）使用图形Lasso Granger因果关系进行当地[53]确定低能耗轴并行超矩形算法基于规则的办法建筑解决方案图8.第八条。 每年分发有关XAI技术在能源和电力系统应用的出版物。大多数研究论文已经实现了各种影响方法，例如特征重要性技术、逐层相关性传播和敏感性分析。图10中可以看到这些影响方法的进一步分布。这些统计数据表明，XAI在电力和能源领域尚未探索的研究机会范围广阔。5. XAI在能源和电力系统应用中的机遇在本节中，通过查看使用ML但尚未考虑XAI的应用程序，确定了XAI在能源和电力系统中的一些机会。这些应用程序可以从模型表8总结了本节中概述的建议研究方向。这些只是一些建议，演示如何在电力系统和能源研究中使用XAI的许多可能途径。5.1. 最佳能源管理和控制现代电网越来越分散和放松管制。因此，从具有无限信息和控制跨度的单个实体的角度来研究网格往往是不切实际的。此外，负荷和可再生能源的统计行为变得更加复杂，导致传统的控制方法效率较低。这些问题的结果推动了研究在使用ML技术解决能源管理问题的控制R. Machlev等人能源与人工智能9（2022）10016910图9.第九条。 基于应 用 程序类型和机器学习模型对论文进行分类。表7图10个。 根据所 使 用 的XAI模型的 特 征 对 论 文 进行分类。接下来，将介绍该领域中的一些常见应用，不同应用领域的关键词搜索关键字受益于XAI提供的解释。一 等 应用 是 能源 存储 控制， 这成为4.1电网脆弱性4.2能源部门应用4.3建筑能源管理应用‘explainablility’/‘interpretability’ AND ‘transientstability’/‘frequency’/‘voltage’/‘power quality’ AND‘fault diagnosis’ AND ‘SHAP’/‘LIME’/‘featureimportance’ AND ‘XGBoost’/‘deep“可解释性”/“可解释性”与“预测”与“可再生能源”/“发电”与“能源”/“负荷需求”与“形状”/“时间”/“特征重要性”与“回归”/“时间”/“深度学习”‘explainablility’/‘interpretability’ AND ‘forecasting’AND ‘building energy’ AND ‘SHAP’/‘LIME’/‘featureimportance’ AND随着间歇性可再生能源的日益整合，这是必要的。如今，强化学习（RL）是一个正在探索的能量存储单元控制领域[56]。 同时，存储系统的可靠性至关重要，因此所使用的任何控制算法都是值得信赖的。电力工程师可能不想依赖RL技术的一个原因是，学习的策略可能会做出没有明确原因的决策。因此，我们认为，未来的一个研究方向可能是使用可解释的强化学习来设计控制器，以便电力工程师进行验证 并理解其他 共同 控制 应用 的 可以 受益 从使用学习的如工作[55]。 然而，这些技术具有不可解释的缺点，这可