基于数据的质子交换膜燃料电池性能预测模型的机器学习方法分析

能源与人工智能10（2022）100183透视质子交换膜燃料电池性能Adithya Legala，Jian Zhao，Xianguo Li*滑铁卢大学机械与机电一体化工程系，滑铁卢，安大略省N2L 3G1加拿大H I G H L I G H T S G R A P H I C A LA B标准• 研究了各种机器学习方法来建模PEMFC性能属性。• 包括支持向量机（SVR）和人工神经网络（ANN）与辍学技术。• 建立了一种具有丢弃技术的人工神经网络，该网络有利于多变量输出回归。• 观察到SVR有利于单变量输出回归，具有可比的精度。A R T I C L EI N FO保留字：燃料电池机器学习人工神经网络支持向量机回归机A B标准质子交换膜燃料电池（PEMFC）被认为是减缓气候变化的关键，在实际应用中，快速准确的模型是其控制和运行所必需的。在这项研究中，各种机器学习方法被用来开发基于数据的PEMFC性能属性和内部状态的模型诸如人工神经网络（ANN）和支持向量机回归（SVR）的技术用于预测各种操作条件下的电池电压、膜电阻和膜水合水平。不同的输入功能，如电池电流，温度，反应物的压力，和湿度被引入到评估模型的准确性，特别是在极端条件下。本研究考虑了两组不同的数据，分别来自基于物理的半经验模型和一维降维计算流体动力学模型。研究了数据预处理和超参数整定过程，这些过程被广泛用于校准人工神经网络层和支持向量回归机以预测燃料电池属性。人工神经网络与支持向量回归机相比，尤其是在多变量输出回归方面，具有明显的优势。然而，SVR对于简单回归建模是有利的，因为它在不牺牲精度的情况下大大降低了计算水平数据化通过采用先进的建模技术和校准程序，如结合脱落技术的ANN，成功地在两个数据集上开发了PEMFC模型，导致所有预测变量的R2≥0.99，证明了仅根据验证数据建立精确的基于数据的模型的能力。基于物理的模型，减少对大量实验的依赖* 通讯作者。电子邮件地址：Xianguo. uwaterloo.ca（X.Li）。https://doi.org/10.1016/j.egyai.2022.1001832022年7月9日在线发布2666-5468/© 2022作者。由爱思唯尔有限公司出版。这是一篇开放获取的文章，获得了CC BY-NC-ND许可证（http://creativecommons.org/licenses/by-nc-nd/4.0/）。可从ScienceDirect获取目录列表能源与AI期刊主页：www.sciencedirect.com/journal/energy-and-aiA. Legala等人能源与人工智能10（2022）1001832Fig. 1. 用于燃料电池电压预测的人工神经网络架构示意图[22]。图二. 用于燃料电池电压预测的支持向量回归算法的结果[23]。缩写聚合物电解质膜燃料电池人工神经网络支持向量机SVM支持向量机回归SVR计算流体力学CFD数据处理的群方法GMDH递归神经网络RNN气体扩散层GDL催化剂层CL整流线性单元ReLU均方误差MAE平均绝对误差MAE均方根误差RMSE学习率Lr半电磁脉冲 半经验1. 介绍模型被称为虚拟实体，它代表真实系统并模拟其行为，该虚拟实体也被称为工厂模型，并且应该准确地反映系统在输入-输出关系及其灵敏度方面的所有特性。建模是找到这种虚拟实体的适当数学表示或描述的方式或过程。一般而言，物理系统建模可以被广泛地分类为经验模型（例如，等效电路模型）和数学模型，数学模型可以进一步分为基于物理的模型和基于数据的模型[1在大多数实际应用中，质子交换膜燃料电池（PEMFC）被设计为清洁能源转换单元，并与电池或超级电容器模块一起运行，以满足响应，功率和效率要求[4，5]。这方面需要一个强大的燃料电池模型（工厂模型），以有效地评估和表征燃料电池的行为，以及在各种操作条件下的性能，以设计，优化和开发诊断[3，6]。典型的燃料电池模型需要结合与多孔介质、聚合物膜、微观气体扩散通道、电极液泛、电子和离子传输以及各种操作条件下的化学动力学相关的特性，从而导致影响传统模型准确性的复杂相互作用[7，8]。如前所述，燃料电池模型也分为经验，物理和基于数据的类别。经验模型/等效模型不适应实际系统组件，需要密集校准，不适合性能预测，尤其是在结合PEMFC的流体、热管理、气体动力学和材料降解方面时。这种模型的一个主要缺点是，它没有物理解释，不能按比例缩放，需要密集的计算。现场应用或微小修改的调试工作[9基于物理的模型不需要庞大的数据集来构建模型，但需要全面了解工作机制和考虑时间和空间元素的组件交互。然而，模拟复杂系统相互作用（如电化学反应和燃料电池的膜力学）背后的物理过程非常复杂，实验繁琐，需要大量的传感器来验证，并且计算密集。这种建模方法还需要结合数值技术来解决所涉及的物理、基本材料特性、反应物相互作用机制和计算密集型流体动力学计算，所有这些在实时应用中都是一个限制[13基于数据的模型与基于物理的模型形成鲜明对比，在基于物理的模型中，燃料电池模型的整个输入-输出关系主要基于使用统计、概率和网络架构的实验数据来建立，避免了基于物理的模型的复杂性、密集校准，并且还在大多数情况下提供了更好的准确性，具有实时控制应用所需的快速计算，特别是在复杂的机制不能使用控制方程[15，18-21]建模的情况下。基于数据的模型往往在初始阶段具有更快的周转，因为直接计算多次迭代而不会显著影响开发时间，并且避免了复杂的物理学，这有助于实时系统识别，控制和诊断。考虑到质子交换膜燃料电池商业化的时间轴，开发基于数据的模型，通过利用当今数字时代可用的数据采集、存储和分析资源的优势，加速清洁能源技术的商业化至关重要用于开发基于数据的模型的机器学习应用在燃料电池领域还处于相对早期的阶段。Wang等人[22]总结了人工神经网络（ANN）和其他机器算法的最新应用，用于预测燃料电池及其组件的性能，材料选择和耐久性估计。前馈人工神经网络的示意图，其中电流，温度，压力，流速和湿度用作特征向量（输入）来预测燃料电池的电压输出如图所示。1.一、同样，Kheirandish使用支持向量机回归（SVR）对PEMFC进行建模，并成功预测了系统的电压，功率和效率方面[23]。SVR算法的结果和边界如图2所示，图2说明了同一数据集上ANN和SVR之间的相关性，其中两种算法Mehrpooya开发了一种混合神经网络方法来建立微型PEMFC的模型，该方法包括一组数据处理方法，A. Legala等人能源与人工智能10（2022）1001833图三. 支持向量机和经验方程组成的燃料电池混合模型[25]。见图4。自回归神经网络结果堆栈电压（V）与时间（小时）[29]。图五. 基于物理学的半经验电压模块示意图[30]。表1数据集1生成过程中涉及的输入和输出参数输入（特征向量）输出当前燃料电池电压温度阴极压力氧气（O2）分压氢气（H2）分压膜水合（λ）GMDH神经网络和经验方程结合了遗传算法的帮助，其中湿度，温度，氧气流速，氢气流速，电流密度被认为是输入特征向量[24]。Han使用了一种类似的混合方法，结合SVR的实现来解释各种操作条件，并结合电压经验方程来预测PEMFC极化曲线[25]。混合体系结构的示意性表示是SVM和经验方程的组合，燃料电池如图3所示。Han还对ANN和SVR进行了比较研究，以预测PEMFC操作的性能，并估计不同反应物压力和电池温度在操作条件范围内的影响[26]。Deng使用状态空间系统与递归神经网络（RNN）相结合，推导出PEMFC的新的面向控制的数据驱动模型，并以良好的精度预测了电池组温度、电压、功率和其他参数[27]。Khajeh通过将基于物理的催化剂层模型与神经网络相结合开发了一种混合模型，其中覆盖团聚体的离聚物膜、团聚体半径、铂和碳负载、膜含量、气体扩散层（GDL）渗透含量和催化剂层（CL）厚度用作输入特征向量来预测活化超电势[28]。类似地，PEMFC的耐久性方面，例如健康状态和电压随时间的变化，可以通过自回归神经网络进行预测，如Mao和Jackson使用1200 h的PEMFC运行数据所示[29]。通过与燃料电池寿命测试数据的比较，可以观察到预测电压的准确性。 四、机器学习算法可以用来开发详细的数据-但是，几乎所有的模型都依赖于大量的初始实验数据，这可能是耗时和昂贵的，以探索实现新算法的方面。然而，如果可以通过基于物理的模型生成大量数据集，并且通过覆盖一系列操作条件的相对少量的实验来验证，则可以解决该问题。这可能有助于完全绕过繁琐的实验，或者至少在初始算法开发阶段作为性能演示的测试数据。大多数现有的PEMFC神经网络模型是使用激活函数，主要是在MATLAB环境中的指数（logsig，tansig）。与ReLU[30]等非指数激活函数相比，这些指数函数的训练和处理计算密集型，特别是在为实时控制和诊断目的建模时。因此，本研究的目的是研究这种基于数据的建模技术，以基于通过基于物理的半经验和CFD模型的模拟提取的数据，建立用于控制，诊断和预测目的的机器学习模型，这些模型经过验证，减少了繁琐实验的需要。由于文献中大多数基于数据的燃料电池模型都是通过使用SVR和ANN算法开发的，因此通过发展中 定制 模型 在 Python 环境 使用ReLU激活函数，其中包括先进的建模技术，如参数归一化，dropout技术（用于ReLu激活函数的神经元），以提高精度和计算效率。2. 模型开发2.1. 数据采集基于数据的建模所需的数据是从实际的PEMFC测试中收集的，或者是通过模拟基于物理的模型来收集的，这些模型已经在广泛的操作条件下进行了验证，这些操作条件也代表了真实世界的行为。在这种情况下，数据是从基于物理的模型中获取的，该模型已经使用文献中可用的实验数据进行了验证。数据集1是通过在MATLAB环境[31]中模拟不同操作条件下的半经验物理模型生成的，其中变化的电流，温度，膜水合（λ）和反应物压力用于预测燃料电池的电压输出，电压模块的输入和输出变量的示意图如图所示。 五、用于重建模型的半经验方程列在附录X中。由于模型是从基于物理的公式导出的，因此基于数据的模型的输入特征向量保留A. Legala等人能源与人工智能10（2022）1001834i=1（）下一页表2数据集2生成过程中涉及的输入和输出参数输入（特征向量）输出当前燃料电池电压温度膜电阻相对湿度膜水合（λ）如下所述，在内部由神经元接收的所有输入（x1，x2，X3，Xr）乘以它们相应的权重（w1，w2，w3，……, w稍后，为乘积的总和分配阈值，也称为偏置（w0），其中该操作的结果被传递到激活函数。神经元的示意图如图11所示。 并且神经元的数学表示在以下等式中示出：一样的另一组数据（从这里开始称为数据集2）是在经过实验验证的一维物理CFD模型[32]的帮助下生成的。在这里，改变电流、温度和y（t）=<$（∑r （wixi-w0））（1）湿度用于预测恒定反应物浓度和操作压力下的电压输出、膜电阻和膜水合水平。数据集1和数据集2的特征向量（输入）和预测变量（输出）分别列于表1和表2中。基于数据的模型的输入和输出属性是根据系统的控制物理学来选择的[33由于本研究的目的是开发用于控制、诊断和预测目的的足够准确的数据驱动模型，即，预测燃料电池的给定设计和构造的燃料电池性能和内部状态，因此为数据集1选择的用于预测电压的sixmodel输入是燃料电池操作条件，其也用作基于物理的模型的输入条件。为数据集2选择的预测电压、膜电阻和膜水合的三个模型输入是电池输出电流、电池堆的温度和电池入口处的相对湿度（假设反应物压力没有变化），所有这些都具有基于CFD模型的控制方程的直接相关性，并且是构建控制或诊断模型的必要参数。每个数据集由总共1100个数据点组成，这些数据点以70：30的比例分开，分别用于训练和验证。数据集和操作参数范围均在附录中给出。由于数据集是根据经确认的基于物理的模型模拟生成的，因此不排除任何数据点。2.2. 人工神经网络人工神经网络（ANN）是神经元的组合，这些神经元是基于指定的激活函数和相关联的输入来调节计算活动的基本处理单元。这种架构在功能上是生物神经元的克隆，并且在反向传播算法的帮助下，它可以准确地求解和建模回归。从数学的角度来看，以下操作可以是：其中，y t是神经元的输出，而γ t是激活函数， 阈值W0确定神经元的一个方面是否产生输出或者它是否是不活动的。这些权重和偏置的整个集合被认为是超参数，其根据每个神经元的激活函数和相关误差进行校准。ANN在这里被用作监督机器学习工具，其中相关输入也被称为特征向量以及它们对应的输出被提供给模型用于训练。在这个过程中，通过计算每个神经元的误差来校准相关的超参数，如下所示：见图7。 神经网络的反向传播算法表示 网络[36]。见图6。 神经元的示意图[36]。A. Legala等人能源与人工智能10（2022）1001835（）下一页（）（）见图8。燃料电池极化曲线表现出非线性（a）不同的压力;（b）不同的温度。E（n）=Q（n）-y（n）（2）其中，E n是第n处的相关误差，其是第n个元素的实际（真）值与第n个神经元的当前输出之间的差。反向传播算法通过以每个神经元的定义学习速率调整相应权重和偏置来逐渐减少每次训练迭代（称为epoch）时的误差，从而最小化总误差，新权重更新如下所示：Δw=LrE（n）y（n）（3）其中Δw表示权重变化的变化，Lr是一个正常数，称为学习率，E n是相关误差，y n是相关神经元的输出。反向传播算法的目标是最小化给定数据集的全局误差，总网络的权重计算为Δwji=Lr<$Ej，c<$yi，c（4）其中，Ej，c是L层中神经元j处的误差信号; yi，c是指如图3所示的训练情况c的L-1层中神经元i的输出。7.第一次会议。每个神经元的误差信号Ej，c如下所示Ej，c=.Qj，c-yj，c）yj，c.对于输出神经元（ 5），Ej，c=yj，c.1-yj，c）对于隐藏层神经元（ 6），K其中，Q是对应的真值，y是对应的神经元输出，w是相关联的权重; yj，c是层L的输出;yi，c是层L-1的输出;Ek，c是层L+1的误差。详细的数学推导和解释的反向传播al-其他地方也有[36]。2.2.1. 数据的非线性在质子交换膜燃料电池的情况下，该模型需要代表燃料电池的线性和非线性行为取决于燃料电池的操作区域。典型地，在低电流和高电流密度条件下，燃料电池特性是非线性的（指数衰减），如图所示。8.第八条。2.2.2. 激活函数激活函数根据输入特征向量的灵敏度将非线性并入神经网络。考虑各种非线性函数来建模这个神经网络，这里快速提及本研究中考虑的几个激活函数。1 Sigmoid（Logistic函数）：Sigmoid函数在20世纪90年代被引入ANN以取代阶跃函数，输出以0.5为中心，Sigmoid函数及其导数的图形表示如图所示。9.第九条。Sigmoid函数有一个定义良好的非零导数，帮助随机梯度下降在每个时期都得到改进主要的问题是消失梯度，并且涉及指数函数的计算代价很高[37]。2 双曲正切（Tanh）：Tanh具有类似Sigmoid的特性，并且可以与梯度下降一起工作。Tanh函数输出以0为中心，Tanh函数及其导数的图形表示如图9所示。像sigmoid一样，它也受到消失梯度的影响，并且计算量很大，同样涉及相同的指数函数[37]。3 修正线性单元（ReLU）：它主要在深度学习中实现，ReLU函数由两个线性部分组成，以解决非线性问题，ReLU函数及其导数的图形表示如图9所示。与sigmoid和Tanh不同，ReLU的输出没有最大值来帮助它解决消失梯度问题，并且由于没有指数运算，因此计算简单[37]。在考虑了初始结果和文献之后，决定选择ReLU函数作为神经网络的激活函数，以节省计算费用，同时考虑线性和非线性属性。2.2.3. 节点隐藏层基于最初的文献回顾和考虑类似的物理系统，得出结论，具有两个隐藏层的神经网络是一个很好的起点。最初，每个隐藏层50个神经元被认为是模型，但在使用各种神经元组合进行重复模拟后，它被减少到每个隐藏层10个神经元2.2.4. 特征向量由于这些数据是从基于物理的模型生成的，因此这些基于物理的模型的输入可以用作机器学习算法的输入特征向量。2.2.5. 损失函数通常，均方误差（MSE），平均绝对误差（MAE）和Huber用于解决神经网络中的回归[38]。在A. Legala等人能源与人工智能10（2022）1001836R=1 -̂i=1nj=1J无脱落显示在图中。 10个。ni=1我̂见图9。 （a）Sigmoid函数（红色曲线）及其导数（蓝色曲线）;（b）Tanh函数（红色曲线）及其导数（蓝色曲线）;(c)校正线性单位函数（红色曲线）及其导数（蓝色曲线）。2平方和回归（SSR）总平方和（SST）（九）RMSE√̅∑n̅‖̅ y̅ (̅i)-̂ y̅(̅ i̅)‖2̅n（十）见图10。 神经元连接：（a）无脱落;（b）有脱落。在这种情况下，同时考虑MAE和MSE。MAE和MSE的数学表示如下：MAE=1∑n第1007章：一夜情（7）其中n是数据点的数量，y（i）是第i个测量值，y（i）是其对应的预测值。2.2.6. 脱落概率为了防止在神经网络的训练过程期间的过拟合方面，网络内的某些神经元连接基于特定概率值被随机断开。这个特定的概率数被称为脱落概率，需要根据数据、预测参数和准确性需求进行校准。一个前馈神经网络的例子，MSE=1∑n （yi-y）2（8）其中n=元素的数量，yj是实际值（真值），yj是2.3. 支持向量机回归机支持向量机（Support Vector Machine，SVM）是一种最常用的预测（输出）值。解决分类问题。SVM帮助我们找到一条线/超-训练和校准：校准学习率、损失函数、epoch数和校正因子等参数，以防止任何过度训练或训练不足的模型，并与现有的测试数据进行验证。所有迭代都是通过量化最终误差来排名的，并借助于决定系数（r平方/R2），和均方根误差（RMSE），如下所定义，除了MAE和MSE之外，（多维空间中）分隔两类的平面。决策边界用作将类彼此分开的分界线。支持向量机回归器（SVR）使用类似的概念来基于训练样本来近似从多个输入特征向量到输出的映射。这里的目标是考虑决策边界线内的点，并调整SVR，以便包含最大数量的点，从而最小化||W||=（+ε）+（-ε）。 主要的可调参数是ε和惩罚因子CSVR模型中的εε是指λ管=A. Legala等人能源与人工智能10（2022）1001837其中在数据点的损失函数中不施加惩罚A. Legala等人能源与人工智能10（2022）1001838）2‖i=1我我表3见图11。 （a）支持向量机（SVM）分类[39];（b）SVM回归[40]。（w<$xi）+b-yi≤ε+ε<$i（13）数据集1考虑的初始ANN参数输入特征向量6输出参数1隐藏层2节点/神经元10激活函数ReLU-1，2层线性-最终损失函数学习率（Lr）0.055迭代/历元100动量/修正0.9辍学概率0i，其中xi是输入特征向量，m是元素的总数，w、b和C是伪超参数，其中w是权重，b是偏置，C是由SVR基于数据确定的与边界的距离，并且C是可调参数。预测值与实际值之间的距离为1/2。一个样本数据集以及相应的SVM和SVR实现如图所示。 十一岁只有位于X射线管外的数据点会导致误差。SVR的目标是最小化以下函数最小化1w2+∑m . 中文（ 简体）表4数据集2考虑的初始ANN参数输入特征向量3输出参数3隐藏层2节点10激活函数ReLU-1，2层线性-最终损失函数符合以下限制条件yi- （w<$xi）-b≤ε+<$i（12）学习率（Lr）0.025迭代/历元100动量/修正0.9辍学概率0A. Legala等人能源与人工智能10（2022）1001839见图12。 数据集1的初始ANN设计。A. Legala等人能源与人工智能10（2022）10018310表5用于数据集1的初始SVR参数2.4. 数据调节/预处理图十三. 数据集2的初始ANN设计。数据集1和数据集2都在0和1之间进行了归一化，归一化后的结果也显示在附录中2.5. ANN结构和设计参数通常，神经网络可以具有任何数量的隐藏层或神经元，具有超过2或3个隐藏层的网络被认为是深度神经网络，而只有1或2个隐藏层的网络被认为是浅层神经网络。深度神经网络需要更大的计算能力和训练时间，通常用于图像或复杂时间序列回归和对象分类。由于所有的输入特征向量和输出向量在规模、非线性和对模型的敏感性方面都不同，因此在将它们引入神经网络和SVR算法之前，必须对输入特征向量和目标输出向量进行归一化。由于所有的特征向量和输出参数都是非负的物理实体，因此决定在0和1之间进行归一化是合适的。归一化过程如下所示x归一化=（x- x最小值）/（x最大值-x最小值）（15）阳离子[35]，而浅层神经网络相对消耗较少的计算能力和训练时间，主要用于建模回归和模式识别[36]。考虑到当前燃料电池输出参数的预测可以看作是一个数学回归，选择了浅层前馈神经网络。初步调查的神经网络的性能与多个隐藏层，从一个到四个，每个包含50个神经元进行评估和网络与两个隐藏层提供了最佳的价值时，考虑到所需的计算能力，网络训练时间和多次迭代后的精度因此它见图14。 数据集1的SVR结果：（a）训练;（b）验证。输入特征向量6输出参数1Epsilon0.025C1.0训练数据点770验证数据点330A. Legala等人能源与人工智能10（2022）10018311图15. 数据集1的情况1神经网络结果，将MAE视为损失函数且无丢失：（a）损失函数/ MAE Vs训练时期;（b）电压预测。图16. 情况2：数据集1的神经网络结果，将MSE视为损失函数且无丢失：（a）损失函数/ MSE与训练时期;（b）电压预测。决定用两个隐藏层来模拟神经网络2.5.1. 数据集1的ANN（半经验）以下是应用于半经验数据（数据集1）的ANN算法的初始结构参数，所述半经验数据由以下输入特征组成：PEMFC电流、温度、总阴极压力、氧（O2）和氢（H2）分压以及膜水合（λ）。这些列在表3中，数据集1的初始ANN设计如图所示。 12个。2.5.2. 数据集2上的ANN（1D-CFD）应用于1- D CFD数据（数据集2）的ANN的初始结构参数由以下输入特征向量组成：PEMFC电流、温度和相对湿度（RH）。输出参数是预测的对应电压、膜电位、膜电位电阻和膜水合作用（λ）。 这些列在表4中，数据集2的初始ANN设计如图4所示。 13岁3. 结果和讨论3.1. 数据集1和数据集2的SVR支持向量回归技术被应用到数据集1与类似的特征向量的人工神经网络，并用于预测PEMFC电压。它包括表5中列出的以下设计属性和超参数，在训练和验证期间，数据集1的SVR的最终结果如图所示。 十四岁从上面的图中可以看出，R2值非常接近0.99用于训练和测试数据。因此，本文提出的支持向量回归技术能够较好地实现燃料A. Legala等人能源与人工智能10（2022）10018310==-图17. 案例3：数据集1的神经网络结果，将MAE视为具有丢弃的损失函数：（a）损失函数/ MAE与训练时期;（b）电压预测。图18. 情况4：数据集1的神经网络结果，将MSE视为具有丢弃的损失函数：（a）损失函数/ MSE与训练时期;（b）电压预测。电池电压承受一些极端的边界条件。考虑到SVR中相对有限的可调参数，结果被认为相当准确，与现有文献[23，26]一致而对于数据集2，这是一个多输出回归问题，SVR不能准确收敛，也不够复杂，无法对相关的非线性进行建模。 然而，独立的SVR模型可以开发和调整以模拟数据集2的每个输出向量。3.2. 数据集1的ANN（半emp）数据集1的ANN的初始结果包括6个输入、1个输出、2个隐藏层和表3中列出的具有特定损失函数的超参数，如下所示3.2.1. 案例1：无脱落的平均绝对误差（MAE）经过研究，最佳的ANN模型超参数确定如下：损失函数MAE; Lr0.055;无丢失;每层神经元数10。使用具有MAE作为损失函数和上述超参数的数据集1开发的ANN燃料电池模型的初始结果如图所示。 十五岁如图15所示，ANN具有良好的精度，ANN的结构（层）适合于这种回归，但即使在100个时期之后，损失函数仍然不稳定，MAE值波动。因此，有必要研究其他损失函数，如MSE。3.2.2. 案例2：无脱落的均方误差（MSE）后 调查 最优 安 模型超参数是A. Legala等人能源与人工智能10（2022）10018311==-==-=-图19. 数据集2的情况1神经网络结果，将MAE视为无丢失的损失函数：（a）损失函数/ MAE Vs训练时期;（b）电压预测;（c）膜电阻预测;（d）膜水合（λ）预测。发现：损失函数MSE，Lr 0.055;无丢失;每层神经元数量10。使用MSE作为损失函数并使用上述超参数的ANN的结果如图所示。 十六岁MSE损失函数随着迭代时期迅速减小，并且没有可观察到的波动;因此被认为是稳定的，并且对于R2值为0.989的神经网络具有良好的精度然而，它在极端边界条件下的精度方面稍显落后，即，低于0.15和高于0.85的电压值-这些极端电池电压值通常在PEMFC的实际操作范围之外。但是，为了提高这些极端电压值的准确性，增加了每层中的神经元数量，并将dropout技术用于两个损失函数，下面将介绍它们。3.2.3. 案例3：考虑脱落的平均绝对误差（MAE）通过大量的分析确定了最优的ANN模型超参数，它们是：损失函数=MAE，Lr= 0.055;在两个隐藏层中每层20个神经元;对于两个隐藏层，丢弃概率为0.5。图2中示出了具有MAE作为在两个隐藏层中都包含dropout的损失函数并且具有上述超参数的ANN的相应结果。 十七岁再次观察到MAE损失函数仍然不稳定，如图15所示，但考虑到图15所示的令人鼓舞的结果， 17随着准确度的提高（R2值增加到0.991），损失函数被MSE代替，并且通过增加神经元的数量和改变丢弃概率，将类似的丢弃技术引入模型，如下所示3.2.4. 案例4：考虑脱落的均方误差（MSE）经过大量的分析，最佳的神经网络模型超参数被确定为：MSE，Lr0.055;两个隐藏层中每层的神经元数量均为30;丢弃概率0.5对于第一隐藏层，0.25对于第二隐藏层。结果表明，以MSE为损失函数的神经网络在两个隐层和上述两个隐层中具有不同的丢失概率。A. Legala等人能源与人工智能10（2022）10018312==-图20. 数据集2的情况2神经网络结果，将MSE视为无丢失的损失函数：（a）损失函数/ MAE Vs训练时期;（b）电压预测;（c）膜电阻预测;（d）膜水合（λ）预测。超参数如图所示。 十八岁从图18中可以看出，引入了dropout技术，预测电压的准确性得到了相当大的提高，R2值为0.995，特别是考虑到极端边界条件下的非线性（电压小于0.15 V且大于0.85 V）。显然，使用MSE作为损失函数并采用dropout技术提高了结果的准确性，同时需要更少的历元级别（或迭代）来达到收敛计算。3.3. 数据集2的ANN结果（1-D CFD）数据集2的ANN的结果包括3个输入、3个输出、2个隐藏层和如表4中所列的超参数以及特定损失函数，如下所示3.3.1. 案例1：无脱落的平均绝对误差（MAE）的最优安模型超参数 是确定为，损失函数MAE，Lr 0.025，无丢失，每层神经元数量为10。显示了使用数据集2开发的ANN燃料电池模型的初始结果，其中MAE作为损失函数和上述超参数 图 十九岁尽管这是一个多输出回归问题，但该神经网络架构对所有三个参数都具有相当好的精度，这表明所选择的设计和超参数接近理想。损失函数（MAE）输出也相对稳定，在100个时期之后明显存在时期水平上的波动。预测的λ（ R2值为0.969，相比之下，预测的电池电压的R2值为0.996和0.998，电阻）可以进一步改善，因为大多数数据点持续地位于相关曲线之下。为了实现这一点，损失函数被MSE取代以进行进一步分析，类似于数据集1的情况。A. Legala等人能源与人工智能10（2022）10018313==-===-图21. 数据集2的情况3神经网络结果，将MAE视为具有丢弃的损失函数：（a）损失函数/ MAE Vs训练时期;（b）电压预测;（c）膜电阻预测;（d）膜水合（λ）预测。3.3.2. 案例2：无脱落的均方误差（MSE）在大量调查之后，最佳ANN模型超参数被确定为：损失函数MSE; Lr0.025;无丢失;以及每层的神经元数量10。图20中示出了具有MSE作为损失函数和上述超参数的ANN的结果。也就是说，所考虑的超参数值与前面的情况完全相同，除了损失函数的变化。从图20中可以看出，损失函数的变化有点像这是适得其反的，并且即使在稳定误差值之后也没有完全实现期望的结果。预测的电池电压、电阻和介电常数三个参数的R2值分别为0.995、0.988和0.952膜水化，分别，略小于前一种情况。在超参数的几次迭代没有产生显著变化之后，通过增加神经元的数量再次引入dropout技术以进行进一步研究。3.3.3. 案例3：考虑脱落的平均绝对误差（MAE）经过广泛的调查，最佳的ANN模型超参数确定如下：损失函数MAE;Lr 0.025;在两个隐藏层中每层的神经元数量为20;以及丢弃概率为0。两个隐藏层都是25。图1示出了使用MAE作为损失函数的ANN的结果，该损失函数在两个隐藏层和上述超参数中结合了丢失概率。 21岁从图中可以看出。第21章：辍学数据集2的人工神经网络技术也大大提高了所有预测参数的准确性（对于预测的电池电压、电阻和电压，R2膜水合作用）。考虑到即使在100个历元之后MAE误差函数中的微小波动，损失函数被MSE替换以用于进一步分析。3.3.4. 案例4：考虑脱落的均方误差（MSE）在广泛的调整之后，历元增加到1000，而A. Legala等人能源与人工智能10（2022）10018314=图22. 情况4：数据集2的神经网络结果，将MSE视为具有丢弃的损失函数：（a）损失函数/ MSE Vs训练时期;（b）电压预测;（c）膜电阻预测;（d）膜水合（λ）预测。0.025;在两个隐藏层中每层的神经元数量=10;以及表6SVR和ANN对基于物理的半经验数据的电压预测精度（数据集1）。算法丢失R2值RMSEMaeSVR N/A0.9890.0210.017安美0.9850.0250.018是的0.9910.0190.014ANN-MSE编号0.9890.0210.014是的0.9950.0150.011与以前的情况相比，每层的神经元数量减少到10个。这表明训练需要更多的时间，但是一旦训练好了，从训练好的模型计算各种预测就容易多了。经训练的ANN模型具有以下最佳模型超参数：损失函数=MSE; Lr=丢弃概率为0。两个隐藏层都是25。ANN模型的结果与MAE作为损失函数，并在两个隐藏层和上述超参数的丢失概率示出在图。 22岁从以上结果可以得出结论，随着epoch的数量增加到1000以及dropout技术的实施，将损失函数改变为MSE，提高了多输出回归性能，并且可以准确地预测所有输出参数。很明显，MSE在训练时期（迭代）内快速降低而没有波动，并且预测的细胞其中电压、膜电阻和膜水化率的预测精度最高，R2值分别为0.998、0.999和0.999，MAE均小于0.01很明显，与SVR不同，ANN提供了更高的多个可调参数和技术的灵活性，这些参数和技术可以帮助模拟多个输出回归，尽管数据具有非线性性质A. Legala等人能源与人工智能10（2022）10018315≥表7所有输出矢量的1-D CFD数据（数据集2）的ANN预测精度（使用丢弃）。确认感谢William Melek博士（滑铁卢大学）算法丢弃预测参数R2RMSE MAE在这个项目中的指导和支持。 这项工作收到ANN-MAE没有是的无膜电阻0.998 0.009 0.0060.995 0.013 0.011补充材料无膜水合（λ）0.969 0.0340.030与本文相关的补充材料可在0.999 0.007 0.006ANN-MSE无电池电压0. 995 0. 017 0. 014是0.998 0.01 0.008无膜电阻0.988 0.021 0.0160.999 0.007 0.005在线版本，网址：doi：j.egyai.2022.100183。引用[1] 作者：John J.物理系统的建模，无膜水合2019 - 04 - 25 00：00：00机电一体化系统的控制Annu Rev Control 2003;27 I（1）：87网址：//是的（λ）0.999 0.0070.006doi.org/10.1016/S1367-5788（03）00010-5.[2] Segura F，Andújar JM.一步一步开发出真正的燃料电池系统。设计、执行、控制和监测。 Int J Hydrogen Energy 2015;40（15）：和系统属性。在对两个数据集进行调整以预测电池电压、膜电阻和水合作用（λ）之后，ANN和SVR算法在R2、均方根误差（RMSE）和平均绝对误差（MAE）方面的最终预测准确度列于表6和表7中以供比较。4. 结论在这项研究中，人工神经网络（ANN）和支持向量机回归（SVR）已被用作机器学习方法，开发基于数据的质子交换膜燃料电池（PEMFC）的性能属性和内部状态的模型。PEMFC的运行条件，如电池电流，温度，反应物压力，和湿度被用作输入特征参数，而输出参数包括预测的电池电压，膜电阻，和膜的水化水平为各种操作条件。基于数据的模型开发的准确性进行了评估，特别是在极端条件下。用于本建模研究的数据分别从i）基于物理的半经验模型（数据集1）和ii）已经用实验结果验证的降维1-D计算流体动力学（CFD）模型（数据集2）获得。每个数据集总共生成了1100个数据点，涵盖了PEMFC的整个操作范围。70%的数据点用于训练，其余30%的数据点用于测试/验证。它表明，人工神经网络清楚地显示出优势，与SVR相比，特别是在多变量输出回归;和SVR是有利的模型简单的回归，因为它大大降低了计算水平（不需要多个时期），而不牺牲精度。 它进一步示出结合了dropout技术可以用R2提供非常准确的预测 0.99对于所有的前- 这表明了仅根据经验证的基于物理的模型的数据构建精确的基于数据的模型的能力，减少了对大量实验的依赖。目前的研究表明，额外的特征向量，如电化学阻抗，层间界面电阻，中毒效应，老化，和催化剂浸出可以考虑更好的诊断和预测PEMFC的操作，包括水淹没，反应物饥饿，膜力学，健康状态和剩余使用寿命的状态。竞争利益作者声明，他们没有已知的可能影响本文所报告工作5496-508. https://doi.org/10.1016/j.ijhydene.2015.01.178网站。[1] 张文，张文.质子交换膜燃料电池系统级JPower Sources 2004;133（2）：188-204. https://doi.org/10.1016/j.jpowsour.2003.12.064网站。[2] 赵志，王涛，李明，王宏，王勇.基于多岛遗传算法的燃料电池汽车动力系统模糊控制能量管理策略能源科学工程2021;9（4）：548https://doi.org/10.1002/ese3.835网站。[3] 张宏，李翔，刘翔，严军。通过战略功率管理提高燃料电池插电式混合动力汽车的燃料电池耐久性。应用能源2019; 241：483-90.https://doi.org/10.1016/j.apenergy.2019.02.040网站。一月[4] 张文忠，张文忠，张文忠.燃料电池参数估计与诊断。IEEE Trans EnergyConversion 2005;20（3）：668-75.https://doi.org/10.1109/TEC.2005.845516。