不确定性检测和识别的可扩展深度迁移学习能效预测

能源与人工智能12（2023）100224基于不确定性检测和识别的可扩展深度迁移学习能效预测Chanin Panjapornpona，*，Santi Bardeeniza，Mohamed Azlan Hussain b，Patamawadee Chomchaiaa曼谷10900 Kasetsart大学工程学院，石油化工和材料技术卓越中心化学工程系泰国b马来西亚吉隆坡50603马来亚大学工程学院化学工程系H I G H L I G H T S G R A P H I C A LA B标准• 提出了测量异常情况下的能效鲁棒预测方法。• 基于深度网络结构实现了一种迁移学习方法。• 一个异常测量故障 检测任务被选为源域。• 该模型的解释性、准确性和• 深入探讨了域间互联的启示。A R T I C L EI N FO保留字：能源效率预测迁移学习石化过程测量可靠性故障检测与识别A B标准能源效率是提高生产能力、最大限度地减少环境影响和减少石油化工行业能源使用的重要方面。然而，在实践中，数据质量可能会下降的测量故障在整个操作，导致不可靠和不准确的预测结果。因此，本文提出了一种迁移学习故障检测和识别能源效率预测器（TFDI-EEP）模型制定使用长短期记忆。该模型旨在利用不确定性检测任务中获得的知识来预测不确定性条件下的石化过程能效，以提高预测性能。转移过程通过在微调模型的附加部分之前应用部分层冻结来解决权重初始化。所提出的模型的性能进行了验证，在广泛的故障变化，彻底检查故障的最大贡献，该模型可以容忍。结果表明，TFDI-EEP实现了最高的r平方和最低的错误在测试步骤中的10%和20%的故障变化数据集相比，其他传统的方法。此外，域之间的互连的启示表明，所提出的模型还可以识别强故障相关的功能，增强监测能力，并加强了鲁棒性和可靠性的模型观察到的离群值的数量。传递参数提高了预测性能的9.86%的检测精度的基础上，并实现了40%的测试故障变化的r平方大于0.95。* 通讯作者。电子邮件地址：fengcnp@ku.ac.th（中国）Panjapornpon）。https://doi.org/10.1016/j.egyai.2022.1002242022年12月18日在线提供2666-5468/© 2022作者。由爱思唯尔有限公司出版。这是一篇开放获取的文章，获得了CC BY-NC-ND许可证（http://creativecommons.org/licenses/by-nc-nd/4.0/）。可在ScienceDirect上获得目录列表能源与AI期刊主页：www.sciencedirect.com/journal/energy-and-aiC. Panjapornpon等人能源与人工智能12（2023）10022421. 介绍工业部门，特别是石化工业，占世界能源消耗和温室气体排放的很大一部分[1]。为了解决全球能源环境问题，满足可持续发展目标，石化行业旨在通过对日常运营提供指导，最大限度地减少环境影响和降低能源消耗来量化能源效率[2]。随着人工智能和数据驱动的预测建模领域的快速发展，最近在文献中提出了许多技术来执行能源分析并确定工业级石化过程的节能机会。Machalek等人提出了结合基于物理模型的混合编码器-解码器方法来预测火电厂中的水和蒸汽吸收的热量的多步时间序列[3]。Chen等人提出了长短期记忆（LSTM）模型来预测建筑物中不同居住密度下的小时时间序列能耗和碳排放[4]。然而，这些数据驱动的预测方法对测量信号的质量敏感。当信号质量下降时，模型的性能受到故障的影响，从而影响其稳定性。在实践中，在处理一个复杂系统是指测量信号因过程设备之间复杂互连的影响而退化，例如多个热相互作用单元、质量输送设备、相分离以及在生产时间期间由控制系统和生产率变化引起的意外事件。上述复杂性导致石油化工过程数据的独特特征，这些特征通常是多维的、不平衡的、有噪声的和不一致的[5]。传感器故障会导致测量过程变量中的离群值和异常信号[6]，这会显著影响结果[7]和模型质量的准确性[8]。一些研究集中在诊断上，以从原始数据集中消除不需要的输入数据。最近已经实现了K均值聚类[9]和基于密度的噪声应用空间聚类[10]，即便如此，无监督技术依赖于有限的用户指定参数。Geng等人提出了一种结合交叉特征方法和监督卷积神经网络的Carnival产品，以提供用于能源效率评估的图形分析[11]。一些研究人员提出了用于多变量时间序列模型的无监督图卷积自动编码器[12]和基于自动编码器的异常根本原因分析[13]预测异常行为。 将此新函数添加到框架将增加离线数据训练所需的时间，并由于涉及许多复杂的数据处理阶段而限制实时部署。一些研究者提出了一个集成的框架来同时解决这两个任务问题。Fang等人提出了一种混合深度LSTM转移学习，用于基于特征提取器的共享参数标记分类器和能量预测器[14]。Shi和Chehade提出了一个连续双LSTM框架的变化点检测模型，这导致了第二个模型的预测性能的提高。表1网络结构信息模型2RNN44图1复发性Model 3CNN76图1系列模型4EEP43图1DAG模型5外国直接投资-88图1DAGEEPModel 6TFDI-8EEP8图一、三、四DAGLSTM结构[15]。然而，一个强大的能源效率分析方法，考虑不确定性的测量，而离群值删除尚未得到全面的研究。能源效率预测模型的建立是为了利用可靠和值得信赖的信息[16]。考虑不确定性的能效预测模型无法识别异常系统行为[17]。大多数故障检测模型最终总是只完成检测任务[18]，而这些故障标签可以提高预测性能[19]。故障检测任务和能量预测之间的差距可以通过迁移学习的概念来解决[20]。迁移学习算法可以通过解决权重初始化问题来显着提高学习能力[21]此外，转移过程通过跨模型转移知识来增强传统深度学习模型的性能[22]。Modal等人提出了应用于深度神经网络的迁移学习，以利用有限的可用数据制定准确的代理模型，用于预测燃烧室中的不稳定操作条件[23]。然而，该模型没有揭示瞬态故障操作下能量预测任务的相互联系，并且没有彻底检查异常信号下基于AI的预测的功能特性，这在本工作中已经进行，以解决提到研究差距。本文提出了一种基于模型参数的迁移学习测量故障检测和识别-能效预测器（TFDI-EEP），该预测器集成了LSTM计算层，用于预测异常测量信号下的能效。该模型通过应用部分层冻结技术将故障检测-识别任务或源域转换为能效任务或目标域，以保持来自源域的检测能力，然后对模型的附加部分进行微调。该研究为研究人员使用人工智能技术在信号质量下降时加强复杂石化行业的能效预测提供了一个新的预测和模型开发视角。这项工作的主要贡献可归纳如下：1 使用可解释AI的概念来解释网络的见解（第5.1）2 在氯乙烯单体工艺应用中出现故障时，为系统提供能效预测技术。（第5.2）3 提出基于LSTM计算层的迁移学习策略，提高模型训练的可重复性和可靠性。（第5.3）4 E表示源任务的分类准确性与目标任务中的预测性能相关的结果。（第5.4节）5 揭示了故障变化幅度对预测性能的影响。（第5.5）2. 模型开发2.1. 深层网络结构在研究中，TFDI-EEP的测量故障检测和识别的非迁移学习集成框架的能量效率预测器（FDI-EEP），基于LSTM的能量效率预测器（EEP），和传统的人工神经网络，包括前馈神经网络（FFNN），递归神经网络（RNN），卷积神经网络（CNN）的比较，提出了表1总结了本研究中使用的每个模型的结构信息。图1展示了本研究中重点关注的深度学习模型的模型制定。在深度学习模型中，FFNN是最简单的学习算法。该模型在将数据传递到输出层之前使用了几个隐藏层和激活层特征名称图层连接可视化网络类型模型1FFNN43图1系列C. Panjapornpon等人能源与人工智能12（2023）1002243Fig. 1. 深度网络公式化。C. Panjapornpon等人能源与人工智能12（2023）1002244不不N表2比较各种深度网络结构的优缺点模型优点缺点FFNN·复杂度更低·仅适用于线性可分数据。RNN• 低计算资源。• 支持时间序列计算。• 可以使用以前的观察来确定当前的输出。• 消失和爆炸梯度问题。• 循环计算可能是一个瓶颈。CNN·强大的特征提取能力。·低可解释性。• 对超参数敏感。LSTM• 解决训练中的梯度问题。• 较强的动态学习能力。• 需要大量的训练数据集。• 很费时间。• 由于递归参数的大小，在执行迁移学习时，目标域中的预测器的固定数量。没有任何循环或回路[24]。隐藏层是使用全连接层构造的，全连接层对前一层输出的每个通道求和，并使用 回归层。RNN和CNN是更复杂的深度学习模型。RNN是基于完全连接和回归层的结构，类似于FFNN。相反，RNN包含循环连接，允许状态变量捕获数据的时间动态行为，并在以前的时间步长调用状态变量[25]，其中这种动态递归特征将当前状态馈送到以下观测。CNN由各种卷积层和池化层组成。当处理时间序列数据（输入变量，观测值和时间步长）时，卷积层使用指定的过滤器在时间维度上卷积输入的重要部分以创建特征映射[26]。然后，池化层通过减小信息的大小并将其发送到后续层（调整大小的完全连接层和回归层）来执行下采样。CNN具有很强的特征提取和多维特征压缩能力。EEP是一种先进的深度学习模型，用于基于时间序列数据的能效预测;它是由LSTM计算层、全连接层和信息处理步骤在图中可视化。 二、2.3. 输出任务源域和目标域之间的任务差异需要不同类型的输出层。在源域中，分类输出层用于测量故障检测-识别任务。该层计算交叉熵损失（LossC）和具有互斥类的加权分类任务。分类层通常在全连接层和softmax层之后。全连接层汇总了所有等于输出大小的向量，而softmax activation将其归一化为概率分布。以下等式给出了单输出分类的全连接值、softmax激活和交叉熵损失o2=wfc ht+bfc（1）二氧化碳不回归层此外，FDI-EEP使用故障分类的结果，ynk=o3=Softmax（o2）=∑O2（二）不作为额外的预测因子，而TFDI-EEP使用部分转移外国直接投资任务的知识与预测相结合，以执行t nett=1能源效率预测 基于LSTM的和拟议的损失C1∑ ∑wk tnklnynk（3）- -模型将在下一节中讨论的比较每种类型的深度神经网络的优点和缺点N KNn=1k=1如表2所示。2.2. LSTM单元结构在基于LSTM的模型中，部署了LSTM层以提高信息捕获能力。LSTM使用状态变量来提取时间行为，并通过门控机制操纵长期依赖性。此外，LSTM通过将内存存储在sigmoid范围内来防止梯度问题，这适用于未来的反向传播。LSTM的输入门包含两种类型的激活函数，它们是S形函数和双曲正切函数。首先，双曲正切生成一个单元候选，并由来自S形激活函数的门控向量然后，其中，w_fc、b_fc是加权因子的阵列，并且完全是全连接层的输出向量，N是样本的数量，K是类别的数量，wk是类别k的惩罚权重，tnk是第n个样本属于第k个类别的指示符，并且ynk是第k个类别的样本n的输出类别对于目标域，回归层确定序列到序列回归网络中每个时间步预测响应的半均方误差损失函数（LossR）Eq.中的损失函数(4)用于调整超参数和更新加权因子以及深度网络结构的每层中的偏置。损失R=1Σ。y实际值，t-o2）2（ 4）不遗忘门决定部分信息是否需要认为 并且 可以 被忽视了 最后，输出 栅极2Nt=1根据当前和先前的输入计算输出向量。通过更新的单元状态，输出门决定当前单元状态的哪一部分将被执行作为LSTM层的最终输出的LSTM其中y实际，t是实际类别值，N是样本数。为了防止这项工作中的过拟合问题，正则化是C. Panjapornpon等人能源与人工智能12（2023）1002245图二. LSTM细胞结构C. Panjapornpon等人能源与人工智能12（2023）10022462我x-μ（∑x=图3.第三章。 转移学习网络信息。通过添加惩罚项来应用于目标任务，这最小化了每层中的加权因子目标任务中的最终误差函数可以通过方程计算：（5）和（6）。ER=损耗R+λΩ（w）（5）Ω（w）=1wTw（6）其中w是加权向量，λ是正则化因子。2.4. 迁移学习建模迁移学习问题允许用户根据源任务和目标任务不同地跨域转移知识和采用模型[27]。在这项研究中，基于模型参数的迁移学习是通过假设源任务和目标任务重叠某些参数或超参数的后续分布来部署的[28]。从源任务中获得的知识可以解决 的 重量 初始化问题 并增加预测图 五、3.1. 数据归一化输入变量的规模是学习稳定性最重要的方面之一。相对不同的输入变量不仅会导致不平衡的权重因子和预测偏差，还会导致学习过程以爆炸梯度失败。在研究中，输入变量包括大规模输入，即，流速和公用设施消耗，以及小规模，包括正和负可测量温度。因此，本研究在序列输入层上应用z得分归一化，以将输入变量调整到相同的尺度，并确保网络可以使用Eqs对信息进行操作。(7)- -译者注（九）。JJzj=iσnJ我目标任务的可靠性[29]部分层冻结也被实现，以防止可学习激活的过度预训练的权重和偏差，并保持故障时的监测能力i=1n你知道吗？̅x̅j -̅μ̅j )̅2（八）（九）检测-识别源任务。可学习的激活源任务和目标任务的信息总结在图中。3和σj=i=1我n-1所提出的TDFI-EEP的结构在图1中可视化。 四、3. 数据处理步骤本节提供了传统神经网络的数据处理步骤和建模过程，并将学习转移到整个领域。本节中的信息基于数据透视图，其中包括数据规范化、超参数调优、模型验证和模型性能指标计算，如图所示JC. Panjapornpon等人能源与人工智能12（2023）1002247我其中xj是第j个输入特征的原始第i个数据点，μj是第j个输入特征的平均值，σj是第j个输入特征的标准偏差。3.2. 超参数调整和模型验证网格搜索方法在表3中指定的搜索域下探索超参数的最佳集合。来评价将军C. Panjapornpon等人能源与人工智能12（2023）1002248见图4。 TFDI-EEP网络结构和训练步骤。C. Panjapornpon等人能源与人工智能12（2023）1002249-Σi=̂n我表3图五. 整体迁移学习过程。最高的验证性能被选择为最优的超集，超参数搜索域。离线和在线测试的参数。3.3. 业绩指标计算在这项研究中，三个统计性能指标进行了评估，在建模框架的最后一 步 。 这 些 指 标 ， 包 括 决 定 系 数 （ R-squared ） ， 均 方 根 误 差（RMSE），和平均绝对百分比误差（MAPE），被引入到跟踪模型的性能表示在方程。(10)- （12）. r平方的值描述了整体模型拟合度，并有效地解释了模型的再现性。RMSE和MAPE是替代的残差量化方法，分别展示了输出的精确尺度和百分比的无量纲相对误差。Wight更新优化器{Adam，RMSProp，SGD}R2=1∑n1（yi-yi）2ni=1（yi-y）2（十）从过拟合问题，k折交叉验证应用与在超参数探索的每次迭代中，折叠次数等于5。交叉验证是一种使用RMSE=1Σ（yi-）2n（十一）不同部分的信息来验证模型，MAPE1∑yi-yi100%（十二）整个数据集分为五组。然后，四个折叠被用作训练数据集，而剩下的一个是测试数据集。该过程=ni=1yi⃒×重复，直到每个折叠都用作测试数据集。根据每个折叠结果计算平均每单位时间指标，并报告为验证性能。最后，给出其中yi是第i个样本的实际输出，yi是第i个样本的预测输出值，y是原始输出值的平均值。故障情景下模型的性能，并防止模型i=1超参数范围FFNN隐节点{5 - 200}FFNN隐藏层{1 - 2}RNN隐节点{5 - 200}循环延迟{1 - 4}CNN滤波器大小{3 - 10}CNN过滤器{10{\fnSimHei\bord1\shad1\pos（200，288）}CNN层数{1 - 2}CNN填充{Same，休闲}第一个LSTM层{1 - 2}第一个LSTM层{5 - 200}第二层LSTM层数{1 - 2}第二层LSTM的隐藏节点{5 - 200}正则化因子{0 - 50}学习率{0.01{\fnSimHei\bord1\C. Panjapornpon等人能源与人工智能12（2023）10022410V图六、氯乙烯单体生产工艺简单框图。4. 过程和数据生成的 研究 乙烯基 氯化 单体 （VCM） 生产过程分别是10%的故障变化（在10%和15%之间随机）和20%的故障变化（在20%和25%之间随机）。整个数据集分为训练，验证和测试，并按百分比包括五个部分：氯化，氧氯化，乙烯60%，20%，20%。 图 9示出了输入变量的示例。如图6中所示，可以使用二氯化物（EDC）纯化、EDC裂解和VCM纯化。根据图7中的能量分布，EDC裂解和VCM纯化部分消耗高能量负荷，因为它由裂解炉、多个能量相互作用单元以及一系列骤冷器和蒸馏塔组成[30]。 因此，选择EDC裂解和VCM提纯工段作为实例进行能效预测。4.1. EDC裂解和VCM纯化工段在二氯乙烷裂解工段，气化的二氯乙烷被送入热炉，在热炉中热解成氯乙烯单体和其他副产品。一系列骤冷器和冷凝器在将热气体混合物转移到VCM纯化段之前快速冷却热气体混合物第一个塔将HCl精制到顶部，然后再循环到氧氯化部分，而第二个塔将VCM与未反应的EDC分离。图8描述了EDC裂化和VCM纯化部分的工艺流程图，包括用于估计能量效率的40个可测量变量的符号。这些输入变量直接提供给模型的输入层，而不需要任何数据预处理技术或特征选择方法4.2. 异常测量信号异常测量信号可以定义为正常条件下传感器输出信号的暂时或永久波动[31]。这些变化的周期取决于导致错误行为的异常类型它可以以异常值、测量故障[32]和过程不确定性的形式存在。所研究的VCM过程的故障类别的数量是41，这对应于测量系统的正常操作中包括的传感器的数量利 用 UniSim Design Suite 软 件对 采 集 的数 据 进 行仿 真 ， 并利 用MATLAB软件通过协同仿真的方法生成异常过程信号。MATLAB将所需的操作条件信息交付给UniSim Design Suite，后者利用这些信息生成正常样本并构建缺陷信号的数据集。结果，生成了两个具有超过2000个数据点的数据集，这些数据点具有不同的故障变化幅度，在10%的故障变化下，其特征在于温度和流量，分别。4.3. 能源效率和比能耗根据研究的目的，能源效率可以以各种形式解释。比能耗（SEC）是指作为输入提供的能量与生产的产品数量/数量的比率[33]，在这项工作中被用作监测指标。SEC表示工艺的能量强度和生产率，其通过等式（1）计算。（十三）SEC=E（ 13）其中Ein是供应给该过程的能量，V是VCM生产速率。由于SEC易于理解，并且能够直接报告每单位产品消耗的能源量，因此它有利于管理、监控和比较石油化工行业的能源使用。此外，它还可以用于多个尺度的基准测试，包括过程、国家和国际基准测试.同样，SEC的计算也有可能确定每种产品的营业利润率和机器安全性。5. 结果和讨论5.1. 超参数调整结果表4和表5分别示出了针对传统方法和基于LSTM的方法通过具有最大交叉验证r平方的网格搜索方法进行的最优超参数调整。在将FDI-EEP和TFDI-EEP的分类模型转移到目标域以预测能量效率之前，必须首先在训练步骤中针对隐藏层和隐藏节点的数量进行优化，直到实现最大检测精度。图10可视化了激活节点及其沿训练序列的值。通过激活图进行激活可视化[34] 从数据分析的角度提高了有价值见解的可解释性和透明度。此外，它还显示了C. Panjapornpon等人能源与人工智能12（2023）10022410见图7。 氯乙烯单体生产工艺的能效分布。C. Panjapornpon等人能源与人工智能12（2023）10022411图8.第八条。 EDC裂解和VCM纯化工段工艺流程图。C. Panjapornpon等人能源与人工智能12（2023）10022412见图9。 10%故障变化下a）流量和b）温度输入变量的示例。C. Panjapornpon等人能源与人工智能12（2023）10022413表4传统模型的优化超参数。超参数10%变化20%变化FFNN RNN CNN FFNN RNN CNNFFNN hiddennode 5CNN过滤器数量CNN层数CNN填充正则化因子1 0 0 0. 5 0 0权重更新优化器Adam SGD Adam SGD Adam表5基于LSTM模型的优化超参数。超参数10%变化20%变化第二层LSTM回归LSTM随着时间的推移来评估源任务中输入变量的参与程度。有41个故障案例，但只有26个特征被使用，因为激活步骤表明LSTM具有特征选择能力，并且并非所有来自过程特征的信息都是检测和识别所有测量故障案例所必需的5.2. 能效预测表6总结了10%和20%故障变化下的能效预测性能。所有模型均采用15次迭代进行平均，训练时期专门设置为500，以评估网络的一般性能。结果表明，与其他模型相比，TFDI-EEP模型具有较好的能效预测效果。此外，传递参数帮助目标预测任务在两个故障变化上提供最低RMSE、MAPE和最高r平方。表7显示了每个模型的速度指标，包括训练时间、预测速度和执行时间。这些指标是指培训和模型实施步骤所需的时间。因此，TFDI-EEP的训练时间比常规的基于LSTM的模型（如EEP）长4到5倍，但具有更高的预测精度。本研究中每个模型的执行时间和预测速度都小于1秒，适用于实时实现。图11显示了预测和实际能源效率值。从图中可以看出的一个重要观点是，大多数模型都会遇到偏差/方差问题。由于故障变化增加，因此在预测SEC上的误差无意中增加。然而，从对角线的预测残差可以看出，基于模型参数的迁移学习方法帮助模型发现偏差和方差之间的良好折衷。见图10。 训练LSTM激活。EEP外国直接投资-EEPTFDI-EEPEEP外国直接投资-EEPTFDI-EEPLSTM层用于–22–11分类对象的隐藏节点–4040–4040第一个LSTM层隐藏节点–4040–––LSTM层用于111111LSTM的隐藏节点1060540655层学习率0.450.750.410.90.4C. Panjapornpon等人能源与人工智能12（2023）10022414表6能源效率预测的模型性能数据集模型10%故障变化R平方MAPERMSE20%故障变化R平方MAPERMSE训练FFNN0.7921.7290.0960.5823.0550.165RNN0.8441.6190.0990.7762.0830.119CNN0.9281.3600.0780.9131.3050.081EEP0.8751.6540.0930.8022.0550.157FDI-EEP0.9720.9280.0460.9660.9680.047TFDI-EEP0.9830.5450.0340.9810.6980.035验证FFNN0.7714.0820.2320.5782.7680.153RNN0.6811.9770.1530.5583.6400.204CNN0.8911.3550.0970.8871.3620.104EEP0.8211.7140.1210.7622.1110.139FDI-EEP0.9611.0650.0510.9511.0870.054TFDI-EEP0.9750.5760.0390.9720.8930.041测试FFNN0.8174.0260.2280.5813.2260.172RNN0.6761.9890.1880.5973.7800.218CNN0.9141.4270.0850.8911.5280.101EEP0.8071.6540.1290.7862.2740.150FDI-EEP0.9711.0160.0470.9611.0910.049TFDI-EEP0.9760.5410.0380.9730.7670.041表7用于能源效率预测的速度指标EEP5.3. 检测精度对能效预测图12示出了TFDI-EEP从传统LSTM能量效率预测器的改进率。实验结果表明，在源域或预训练分类器上增加任务，提高了目标域的预测精度，其中基于分类精度的提高率约为3.74%~ 9.89%。图13示出了分类准确度对利用10%故障变化数据集测试r平方的影响。在30%和70%之间的分类准确度的范围内，预测r平方保持在TFDI-EEP的平均性能。当分类精度小于30%时，预测的r平方略微偏离平均性能。相反，当分类精度 大于70%时，测试的r平方性能显著优于TDFI-EEP的平均性能5.4. 能效预测器的可靠性分布基于模型的预测的另一个重要指标是可靠性和可重复性[35]，这意味着模型可以重复运行特定的算法并获得可靠，相同或几乎相同的结果，并表明模型是可扩展的，能够进行大规模生产。在建模阶段的一个步骤中进行单个小的更改，即，数据、框架、数据限制和GPU浮点数的差异，导致不同的结果。图14示出了在10%和20%故障变化下每个模型的100次再训练验证r平方。通过四分位数间距和须状放大，可以看出，TFDI-EEP在预测故障情景下的能量效率方面是可靠的。此外，TFDI-EEP在10%和20%的故障变化上都给出了最高的平均值、中位数和最大验证r平方。相反，验证r平方随着故障变化的加剧而减小，如除RNN之外的较低的最小验证r平方所证明的。5.5. 大范围试验故障变化对预测性能有直接影响。本节提供了广泛的测试结果，使用10%故障变化超参数和数据集来训练模型，并通过10% - 100%故障变化数据集测试情况图15展示了在10% - 100%故障变化数据集下的测试r平方结果表明，TFDI-EEP可以处理高达40%的故障变化，同时保持测试r平方大于0.95。此外，TFDI-EEP依赖于更高的故障变化的基础上发现的离群值和更高的最小测试r平方，是更准确的比其他模型。6. 结论本文提出了利用TFDI-EEP对氯乙烯单体生产过程的比能耗进行跟踪和监测的方法。所提出的模型是accom-plished解决问题的能源效率预测下的异常测量。TFDI-EEP是基于LSTM训练的分类任务网络，结合部分层冻结和转移到目标域来构建的。此外，重新训练TFDI-EEP以检查模型的可靠性和再现性，其通过k折交叉验证技术确定整体性能。 该模型还包括广泛的测试，以评估故障方差从10%增加到100%时的模型鲁棒性。从目前的研究结果中可以得出以下结论1 转移过程有可能通过将从基本任务获得的知识转移到更复杂的任务来提高能量预测性能，以增强网络在故障条件下的可学习性和再现性。2 由FDI（源任务）提供的激活映射揭示了关于应该监控哪个变量以检测任何系统异常的有意义的见解。变化模型训练时间预测速度EX时间（个）(obs/秒）（毫秒）百分之十FFNN434790.28RNN1420730.48CNN2810010.99EEP5813250.75FDI-EEP2397621.31百分之二十TFDI-FFNN265397731641.020.32RNN1221300.47CNN408181.22EEP5316110.62FDI-EEP23815850.63TFDI-26410940.91EEPC. Panjapornpon等人能源与人工智能12（2023）10022415见图11。 实际和预测SEC比较。图12个。 相对于预测基线的改善幅度。3 基于可重复性和大范围测试，TFDI-EEP在预测小范围和大范围故障变化下的能效时更可靠。4 TFDI-EEP能处理的最大故障变化幅度为40%，当检测精度在30%~70%之间从理论上讲，这项工作的桥梁域故障检测和识别与能源效率预测之间的差距。但是，有一些限制需要考虑。由于分类任务的构建，该模型消耗了额外的训练时间，并且能源效率预测的熟练程度在很大程度上取决于FDI的准确性。由于源域的精度小于30%，因此需要重新校准模型。 自适应AI[36]未来可以考虑选择自动化模型图十三. 检测精度和预测r平方对TFDI-EEP的影响。实时更新信息，而无需重新训练，特别是C. Panjapornpon等人能源与人工智能12（2023）10022416图十四岁验证r平方的Bo X图。C. Panjapornpon等人能源与人工智能12（2023）10022417图15. 广泛的测试结果。当分类精度下降时。此外，两个域的预测变量的数量必须相同，因为传递的权重和偏差的大小可能与设计的网络的尺寸不一致。我们计划在未来通过实施替代迁移程序来使用迁移学习的不相同功能。竞争利益作者声明，他们没有已知的可能影响本文所报告工作数据可用性已使用的数据是机密的。致谢作 者 想 感 谢 Kasetsart 大 学 工 程 学 院 的 支 持 （ 批 准 号 ：65/10/CHEM/M.Eng）、Kasetsart大学研究与发展学院和Kasetsart大学。此外，作者要感谢蜂蜜-好和GRD技术有限公司，Ltd.提供本研究中使用的UniSim Design Suite模拟软件。引用[1] 戈尔莫哈马迪湾工业部门的需求侧管理：重工业述评。更新Sustain Energy Rev2022;156：111963。https://doi.org/10.1016/j.rser.2021.111963天啊[2] Hassani H，Silva ES，Al Kaabi AM.创新和技术在维持石油和石化工业中的作用。技术预测Soc Change 2017;119：1-17.https://doi.org/10.1016/j.techfore.2017.03.003网站。[3] Machalek D，TuttleJ， Andersson K，Powell KM.使用基于物理和机器学习的混合能源AI 2022;9：100172。https://doi.org/10.1016/j.egyai.2022.100172网站。[4] 作者：Chen C-Y，Chai KK，Lau E.建筑能源和碳足迹建模的人工智能辅助方法。能源AI 2021;5：100091. https://doi.org/10.1016/j的网站。egyai.2021.100091。[5] [10] Sharifian S，Sotudeh-Gharebagh R，Zarghami R，Tanguy P，Mostoufi N.化学 过 程 系 统 工 程 中 的 不 确 定 性 ： 评 论 。 Rev Chem Eng 2021;37 ： 687-714.https://doi.org/10.1515/revce-2018-0067网站。[6] Jan SU，Lee YD，Koo IS.基于机器学习的分布式传感器故障检测与诊断框架 Inf Sci（Ny）2021;547：777-96. https://doi.org/10.1016/j.ins.2020.08.068.[7] 徐春，赵S，刘芳.存在异常值时的传感器故障检测与诊断。神经计算2019;349：156-63. https://doi.org/10.1016/j的网站。 neucom.2019.01.025。[8] 柳美考虑传感器故障的弹性测量公式。Reliab Eng Syst Saf 2020;7.https://doi.org/10.1016/j.ress.2019.02.025网站。[9] 放大图片作者：JenkinsK，JenkinsS，JenkinsS. 利用替代模型进行连续过程的能量性能分析。能源2019;183：776-87。网址：http：//doi.org/10.1016/j.energy.2019.05.176[10] Moghadasi M，Ozgoli HA，Farhani F.用机器学习方法预测甲基二乙醇胺溶剂气体脱硫过程的蒸汽消耗。Int JEnergy Res 2021;45：879-93.https://doi.org/10.1002/er.5979网站。[11] 耿Z，张Y，李C，韩Y，崔Y，于B。石化行业能源优化与预测建模：基于交叉特征的改进卷积神经网络。能源2020;194：116851。https://doi.org/10.1016/j的网站。能源.2019.116851.[12] Miele ES，Bonacina F，Corsini A.使用多变量时间序列的图形卷积自编码器在水平轴风力涡轮机中进行深度异常检测。能源AI 2022;8：100145。https://doi.org/10.1016/j.egyai.2022.100145网站。[13] Roelofs CMA，Lutz M-A，Faulstich S，Vogt S.基于自动编码器的风力发电机组异常根本原因分析。能源AI 2021;4：100065。10.1016/j.egyai.2021.100065https://doi.org/上发布。[14] Fang X，Gong G，Li G，Chun L，Li W，Peng P. A hybrid deep transfer learningstrategy for short-term cross building energy prediction.能源2021;215：119208。https://doi.org/10.1016/j.energy.2020.119208网站。[15] Shi Z，Chehade A.一个结合了变化点检测和剩余使用寿命预测的双LSTM框架。可靠工程系统安全2021;205：107257。网址：//doi.org/10.1016/j.ress.2020.107257。[16] 张文辉，张文辉.提高建筑能效和室内环境质量的机器学习和深度学习方法-综述。能源与人工智能2022;10：100198。10.1016https://doi.org//j.egyai.2022.100198。C. Panjapornpon等人能源与人工智能12（2023）10022418[17] 潘杰蓬C，Bardeeniz S，Hussain MA.利用深度补偿网络改善异常量测下的能源效率预测：以石化流程为例。能源2023;263：125837。https://doi.org/10.1016/j的网站。能源.2022.125837.[18] 作者：J.使用贝叶斯深度学习方法进行不确定性感知的建筑能源代理模型。能源AI 2021;3：100039. 网址：//doi. org/10.1016/j.egyai.2020.100039。[19] 潘杰蓬C，Bardeeniz S，Hussain MA.深度学习方法用于氯乙烯单体工艺的能效预测和信号监测可靠性。Reliab Eng Syst Saf 2022：109008.https://doi.org/10.1016/j的网站。ress.2022.109008。[20] 作者：A，A.具有多域自适应的可控深度迁移学习网络用于电池荷电状态估计。应用能源2022;312：118726。https://doi.org/10.1016/j.apenergy.2022.118726网站。[21] 杨丹，彭X，叶Z，陆Y，钟伟。不确定性建模的区域自适应网络及其在乙烯精馏过程能耗在线预测中的应用。应用能源2021;303：117610。10.1016/j.apenergy.2021.117610https://doi.org/上发布。[22] 王春，陈丹，陈杰，赖新，何涛.深度回归自适应网络和基于模型的迁移学习，用于频域动态负载识别。工程应用人工智能2021;102：104244。https://doi.org/10.1016/j的网站。engappai.2021.104244。[23] Mondal S，Chattopadhyay A，Mukho