基于递归神经网络的有限元模型仿真参数化代理模型生成策略.

阵列14（2022）100137基于递归神经网络的变网格拓扑参数Lars Grevea，*，Bram Pieter van de Wega，baVolkswagen AG，D-38436，Wolfsburg，Germanyb P.O. 特文特大学工程技术学院应用力学和数据分析Box 217，7500，AE Enschede，荷兰A B S T R A C T提出了一种基于机器学习的参数化有限元模型仿真结果生成参数化代理模型的策略。在第一个主要步骤中，一个统一的节点数据结构是从拓扑不均匀的有限元模拟。这是通过利用重采样和相干点漂移方法来实现的，用于不同设计的节点配准。在第二个主要步骤中，使用全连接前馈神经网络训练参数代理模型以预测初始坐标。提出了两种不同的递归神经网络建模方法，并对具有不同复杂度和非线性度的各种场量的预测进行了对于第一种提出的建模方法，应用逐节点预测，其中每个结构节点的时间序列通过紧凑的长短期记忆（LSTM）模型独立预测。对于每个节点，节点的初始坐标用作附加输入特征。对于第二种建模方法，应用了一次预测，其中通过在由主成分分析（PCA）获得的缩减输出空间上训练LSTM模型来一次预测所有结构节点的时间序列。输出领域表现出适度的非线性可以很好地预测这两种方法，但只有节点的节点的方法允许一个准确的广义表示的强烈的非线性和窄场量表示观察到的裂纹图案内的有限元结构。新的尚未观察到的裂纹模式的存在可以通过逐节点方法识别，并通过随后运行相应的FE模拟来确认。1. 介绍如今，车辆的耐撞性主要使用有限元法（FEM）进行虚拟评估，并在专门的碰撞模拟求解器中实施，例如参考文献[1]。所有相关结构部件的形状和拓扑由碰撞模拟模型中的所谓有限元表示，耐碰撞车辆的设计需要迭代过程。在开发过程中，引入设计变更以提高车辆单元结构的结构安全性，例如，以避免在碰撞期间发生严重的结构屈曲或断裂。这些设计变更通常包括局部几何修改，例如孔、珠、切口等的适当放置。换句话说，所应用的设计变更修改了所涉及的结构部件的形状和/或网格拓扑。专用的预处理软件可以通过相应的几何特征对有限元模型进行参数化，例如，特征可以定义孔的位置或焊道的长度等。因此，可以使用不同的特征参数组合来创建实验设计（DOE），并以最少的手动操作进行模拟。然而，加载和手动评估对于工程师来说，在图形后处理器中的大量仿真结果是乏味和耗时的。此外，必须注意的是，技术解决方案通常必须满足几个标准，例如可制造性、可访问性、组装顺序等。因此，通常难以提前用成本函数来表达潜在的工程优化问题。一个参数化的解决方案的调查模拟系列寻求允许快速决策，这使得快速（实时）手动评估的结构响应取决于特征参数值。相应的参数化代理模型将输入特征以广义方式映射到模拟DOE的观测响应，从而可以获得训练域内的有效预测。在文献中可以找到创建替代模型的几种方法。对于这些方法中的许多方法，降维起着重要作用，以提高计算效率。文献[2]对降维方法进行了全面的总结。由于其简单性，线性降维方法，例如本征正交分解（POD），也称为主成分分析（PCA），已经与用于流体动力学的插值方法结合* 通讯作者。电子邮件地址：Lars. Volkswagen.de（L.Greve）。https://doi.org/10.1016/j.array.2022.100137接收日期：2021年11月4日;接收日期：2022年1月10日;接受日期：2022年2月22日2022年4月14日在线提供2590-0056/© 2022作者。爱思唯尔公司出版这是一篇基于CC BY-NC-ND许可证（http://creativecommons.org/licenses/by-nc-nd/4.0/）的开放获取文章。可在ScienceDirect上获得目录列表阵列期刊首页：www.sciencedirect.com/journal/arrayL. Greve和B.P.范德韦格阵列14（2022）1001372应用[3]和结构力学应用[4]。 非线性降维方法，如适当的广义分解（PGD），已与回归方法结合使用，以获得车辆碰撞模型的参数解响应[5]。最近，机器学习的概念已被采用的替代模型在结构力学领域的预测随时间变化的响应。贡献可以分为时间演化预测方法和参数化有限元结构的时间序列预测方法。在[6]中，使用结构保持神经网络（SPNN）开发了一种用于学习物理结构的时间演化的方法，该方法符合热力学第一和第二原理，而无需预先了解系统的性质。在参考文献[7]中，使用稀疏自动编码器进行模型降阶和SPNN来预测机械结构的时间演化。递归神经网络（RNN）用于许多科学和工业领域的序列预测。在RNN中，长短期记忆（LSTM）[8]和略微减少的门控递归单元（GRU）[9]模型获得了显着的普及。尽管LSTM已经成功地用于语音识别和其他语言处理任务，但直到最近，在计算机辅助工程（CAE）领域中，只有少数应用存在于时间序列预测。在[10]中，GRU神经网络被应用于模拟任意加载路径的弹塑性变形，其中复杂的各向异性硬化模型的预测可以很好地由所提出的网络表示。在[11]中，LSTM模型被应用于预测参数化FE结构的时间相关结构变形响应，包括分叉现象。在参考文献[12]中，使用卷积神经网络自动编码器（CNN-AE）以无监督的方式揭示了具有隐藏几何和数值参数化的FE结构的特征，然后将相应的潜在空间向量传递给LSTM模型，以预测整个结构的时间序列响应。[13]提出了一种基于GRU的神经网络，用于对锂离子电池单元的大变形进行建模。经受大量随机加载路径的阳极/隔板/阴极组件的单元电池模型提供虚拟训练数据库。最近，LSTM已与POD相结合，以减少大规模弹塑性FE模型[14]的代理模型中的预测维数，其中引入的随时间变化的机械载荷作为输入特征在[15]中，一个具有“瓶颈”特征的深度神经网络，被称为“最小状态单元”，被嵌入到门控递归神经网络中，用于对各种类型材料的变形行为进行时间序列预测。在参考文献[16]中，将基于贝叶斯的方法应用于传统的LSTM单元，使用自动相关性确定来施加稀疏性并评估预测的不确定性。在实际工程应用中，网格拓扑结构经常发生变化，这给处理不均匀数据带来了挑战。由于每个设计的内部结构不同，通常需要在训练之前将数据重新采样和重新排序到统一的维度空间见参考文件[17]，基于离散表面流的网格变形方法用于获得统一的参考数据配置。图神经网络[18]自然地将有限元网格的原生结构表示为由元素连接的一组节点然而，维持连接性对于本申请来说不是必需的。PointNet [19]允许以任意顺序处理点云，并已应用于对象分类和零件分割任务。点集配准方法用于其他科学领域，例如计算机视觉或模式识别，用于将不同的点云彼此对齐[20]，其中刚性，仿射和弹性配准方法被区分。刚性配准仅涉及简单的平移和旋转，而仿射配准包括缩放和剪切。因此，刚性和仿射配准在表示具有严重几何差异的点云之间的适当映射方面非常有限。相干点漂移（CPD）方法[21]代表一种弹性配准方法，允许一个点云平滑相干过渡到另一个点云，同时保持拓扑特征，例如孔。 这使得CPD方法适用于本工作中的给定任务在目前的贡献，两种方法获得参数化代理模型，并进行了比较。由DOE获得的一组FE碰撞仿真结果为代理模型提供了训练数据。处理不同的FE网状拓扑结构的挑战是通过两步的方法来解决的。在第一个主要步骤中，统一的初始有限元节点坐标的几何参数化的有限元结构预测的全连接前馈神经网络。为此，首先将设计的底层网格拓扑重新采样为具有统一数据大小的点云。然后，使用相干点漂移方法将设计的点云彼此配准，并通过基于欧氏距离的节点对选择将数据点置于统一的顺序中。在此阶段，有限元网格表示从“通过元素连接的节点”表示转换在第二个主要步骤中，在先前预测的初始坐标点云之上预测和表示统一的FE结构的各种时间序列响应。研究和比较了两种不同的时间序列预测建模方法，分别是逐节点建模方法和一次性建模方法。将这些方法与相应的有限元模拟数据进行比较，以获得准确性和可预测性，并在模型训练时间和模型评估时间方面进行评估。在第2节中，讨论了所研究的载荷情况在第3节中，讨论了初始坐标和时间序列预测的参数解方法。在第4节中，将参数解方法与用于训练的有限元模拟结果进行比较。逐节点方法也适用于看不见的验证集，并用于揭示尚未检测到的响应模式。第五节是论文的结论。2. 调查荷载工况所提出的策略是利用一个学术载荷的情况下，代表一个典型的实际碰撞模拟情况，包括断裂评估解释。2.1. 有限元模型有限元（FE）模型代表了一个平板金属片试样，该试样承受拉伸载荷直至断裂，图。凌晨1试样包括几个孔，其中两个参数化孔的中心的位置表示所研究的特征参数pos x和pos y，图。凌晨1该结构随后被称为基础网格可以使用预处理器Ansa [22]自动重新网格化，最终导致不同的网格拓扑，这取决于实际的特征参数值，图1b。在加载过程中，根据孔的位置，发生不同的变形和断裂模式，如下文所述。在随后的章节中详细讨论。2.2. 材料模型和研究输出使用显式碰撞FE解算器[1]结合用户材料子程序进行了模拟。作者在早期研究[23，24]中基于不同加载条件下的综合实验材料表征程序在L. Greve和B.P.范德韦格阵列14（2022）1001373邮政Fig. 1. 双移动孔（TMH）载荷情况：a）位置x=位置y=0的基础配置（尺寸单位为毫米）; b）使用平均单元尺寸2 mm自动创建的有限元模型。评价点在本研究中，该模型用于提供虚拟训练数据集。基本的力学理论只是简单地回顾随后，因为目前的贡献集中在创建参数代理模型。在目前的工作中，调查的输出是位移场，累积等效塑性应变场和颈缩后的指示字段。具体而言，节点位移（DISP）表示每个有限元节点随时间推移TMH结构的结构变形，等效塑性应变（EPMX）表示每个有限元随时间推移产生的等效塑性应变增量因此，状态变量EPMX存储关于有限元的不可逆变形的信息。颈缩后指示器（PNCK）用于识别结构裂纹。对于未变形状态下的所有单元，参数PNCK初始为零在文献[25]和[26]的经典颈缩模型的基础上，采用改进的Hill/Storen-Rice模型作为颈缩预测器。一旦有限元超过相应的取决于载荷状态的临界等效塑性颈缩应变，颈缩后标准将被激活，[23]。PNCK的计算为：建议的参数替代模型在随后的章节中介绍。3. 参数代理模型如引言部分所述，使用两步方法创建总体参数代理模型。在第一步中，统一的FE结构的初始坐标被预测为输入特征参数值的函数。在第二步中，统一的FE结构的选定的时间序列响应进行预测，并表示在预测的初始坐标点云的顶部。这包括预测位移和各种元素场量，如在第2节中已经指出并在随后的章节中进一步解释的。3.1. 初始坐标实验设计：根据图1，所研究的特征和特征范围是大孔的x位置，posx，在范围[0，20]内变化，小孔的y位置，posy，在范围[0，20]内变化。范围[-5，10]。√̅A̅̅̅̅̅̅̅̅∑eΔεp1的 初始 坐标 数据 可以 被 容易 获得 从PNCK=脖子邮政Lc、（1）参数化有限元模型，不需要大量的计算。在总共有25个设计是使用拉丁超立方体抽样（LHS）创建的[27]其中A颈是壳单元在颈缩开始时的面积，Δεp是颈缩后阶段等效塑性应变的增量，lc是材料特有的特征长度。 PNCK指示裂纹（断裂），当参数值超过1时，之后从模拟中移除相应的有限元，以表示张开裂纹的机械反馈。本文对DISP、EPMX和PNCK的时间序列进行了预测的特征空间。由于密集采样，具有相似特征值的两个设计之间的几何差异相对较小，这应该允许设计之间的可靠点云配准，如后续部分所讨论的。DOE表见表1。预处理：由于不同的网格拓扑结构，底层DOE FE仿真结果的节点数量对于每个设计都不同，范围在4532和4955个节点之间。这种不均匀的数据L. Greve和B.P.范德韦格阵列14（2022）1001374===-==[]̂= ×===× + × ++==∈ ∈ ∈∈表1初始坐标数据的DOE特征值。设计ID位置x [mm]位置y [mm]设计ID位置x [mm]位置y[mm]019.6 6.1 13 18.8 5.51 2.0 0.7 14 5.2 6.72 4.4 3.1 15 15.6-3.53 10-1.7 16 6 1.311.6-0.5 11. 6-0.512.4 1.9 12.4 1.96 17.2 4.9 19 10.8 8.52019 - 04 - 21 10：00：008 8.4 7.9 21 7.6-1.118.0-2.3 22 1.2-4.710 3.6 9.7 23 9.2 2.511 13.2 9.1 24 14 3.712 6.8 4.3结构必须转换为统一的大小和顺序。首先，使用聚类和上采样将所有设计重新采样到统一数量的节点。必须注意的是，不再需要由连接节点（点云）并构建网格拓扑的所谓壳或实体有限元表示的原始FE网格连接性。位于所研究的双移动孔试样的自由边缘上的节点和其余节点被单独处理。这种分离有助于在统一模型中保持原始的自由边缘轮廓，使得几何形状的原始形状可以容易地被人眼识别。在所有设计中确定自由节点和其他边缘节点的最大数量，由maxNodesi给出，其中所获得的数量乘以所选择的正因子λi并转换为表示统一设计的目标节点数量的Ni。相对于表1中的小孔、列位置的输入特征值进行排序。中心设计（设计#3）位于所获得的设计序列的中心，如图1所示。 二、然后，首先应用相干点漂移（CPD）[21]方法将相邻源点云转换为中心设计的固定目标点云，如图3所示。使用CPD方法施加平滑的连贯运动，保持点云的拓扑结构。这确保了点云的一致移动，这可以通过代理模型来学习。对于TMH示例，孔周围的区域总是在设计之间彼此映射，使得经训练的代理模型将不会预测穿过孔的节点的不切实际的移动。然后连续重复CPD过程，其中先前的源点云成为目标，并且沿着设计序列的下一个相邻点云被选择为新的移动源。一旦点云被映射到彼此，则通过取到参考节点的最小欧几里得距离来执行对统一和重新排序的节点的选择。基本的CPD算法简要地回顾了A.1，完整的讨论基本的数学基础是提供参考。[21 ]第20段。CPD算法需要设置各种自由参数，为此使用了以下值：均匀/GMM混合的方差w 0、高斯核矩阵的方差x β10和平滑正则化参数α0。05.对于应用，由Ref.[29]已延长到图形处理单元（GPU）兼容版本。网络结构和训练：提出了一个简单的全连接前馈网络，该网络具有一个隐藏层，具有Nn16个神经元和sigmoid激活函数，用于预测初始Nc×1坐标，Fig. 4，其中，y坐标∈ R包含 的 预测3-Ni=int（λimaxNodesi），（2）其中索引ifree， other是指设计的分离的自由或其它边节点。因此，对于λi1，数据点的数量减少，而对于λi>1，则创建额外的冗余数据点。<这上采样允许在顺序点云配准过程期间更好地保持数据质量。对于每个设计，如下重新采样数据以便表示N1个节点。如果Ni大于设计的相应节点集的数目，则附加使用随机选择的冗余节点来创建冗余节点3411个统一节点的三维xyz坐标作为平坦向量，Nc3411 310， 233。应注意，所有三个xyz维度都被考虑用于一般适用性，尽管当前TMH示例实际上可以被简化为二维（xy）载荷情况。相应的方程式如下：y坐标=σ1[Wc1σ0[Wc0x+bc0]+bc1]，（ 3）其中神经网络层i的S形函数被应用于输入自变量向量a的每个元素：如果Ni小于设计的对应节点集的数目，则使用K-聚类将设计的节点聚类到Ni个聚类σi[a]=11 .一、（四）+e-ascikit-learn [28]中的均值算法，对于每个聚类，只选择最接近聚类质心对于TMH示例，λfree二、选择0是为了保持自由边轮廓，而对于其他边缘不执行上采样，λother1。0.设计的初始坐标集被排序到序列列表中使得设计之间的几何差异变得尽可能小。对于目前的TMH情况，通过首先相对于大孔的输入特征值（表1中的列位置x）对设计进行排序，随后隐藏层和输出层权重矩阵和偏置向量为Wc0RNn×Nf，Wc1RNc×NnBC0 RNn×1 bc1RNc×1，其中Nf2是输入特征的数量。神经网络的自由参数总数为NnNfNcNnNnNc十七万四千零九。正如随后将显示的，所提出的简单网络体系结构可以很好地预测本TMH实例的参数化统一初始坐标。然而，必须注意的是，网络架构和大小的选择取决于所考虑的负载情况的复杂性。更复杂的例子可能需要图二、 链式点云配准的设计序列示意图，源自中心设计，朝向设计 序列的 两端。L. Greve和B.P.范德韦格阵列14（2022）1001375̂=1-率图三. E.源点云（蓝色十字）到目标点云（红色）的示意性变换：a）显示设计几何差异的初始状态;b）中间转化; c）最终完全转化状态。图四、用于预测初始坐标的全连接前馈神经网络架构。额外的隐藏层和/或增加的神经元数量在训练之前，输入特征向量xgeomFeatures∈RNf×1和对应的坐标目标输出ycoords对于应用，相应的预测y坐标必须通过逆缩放变换到原始值范围Tensorflow [31]中提供的高斯dropout [30]，其dropout概率为0.05，在输入层和隐藏层之后应用 前馈网络，引入标准偏差为S=rate。（五）使用9：1的训练到测试数据分割在训练过程中，使用包含所有设计的批量大小呈现训练数据该模型的训练使用TensorFlow进行超过100，000个epoch，使用Adam [32]优化器，均方误差损失函数和初始学习率为0.001，图。 五、验证集未观察到过拟合得到的决定系数R2为0.9998。对于最终的训练，使用了所有可用的数据，包括验证集，模型应用：初始坐标的参数化代理模型的结果对于输入特征的不同值是可视化的，图6。孔沿着轴的平滑路径，确认预期的运动。在CPD传输之后应用的简单欧几里德距离选择不能保证唯一的一对一映射。是图五. 在初始坐标模型的训练过程中，对历元进行训练和验证损失演化。可能的是，若干源节点将被同一目标节点选择，并且因此，一些目标节点将根本不被选择，这在设计序列的末尾逐渐在点云中引入明显的间隙。这种效果在图6中可见，其中绘制的原始初始坐标没有表面表示。靠近中心设计的特征参数状态（图6，中间）比靠近设计序列两端的特征参数状态（图6，左和右）导致更均匀的点密度。需要强调的是，这种影响不会导致所选数据的数据质量降低。对于实际应用，以及在随后的部分中，TMH试样的预测初始形状被可视化为使用Delaunay三角测量而不是点云的表面。3.2. 时间序列比较了两种不同的时间序列预测方法，即逐节点预测方法和一次性预测方法。对于逐节点方法，每个节点的时间序列是独立预测的，而对于一次性方法，所有节点的时间序列是联合预测的。所学习的预测包括位移（DISP），最大等效塑性应变（EPMX）场，和颈缩后（PNCK）场，指示断裂的开始。实验设计（DOE）：研究的特征和特征范围与第3.1小节中的初始坐标预测相同然而，使用拉丁超立方体空间填充仅执行中等数量的10次模拟。假设所选择的设计数量接近在所选择的输入特征值范围内正确捕获复杂变形和断裂模式所需的最少设计数量通常，设计的数量保持在最低限度，因为运行FE模拟对于实际应用来说计算成本很高。DOE表见表2。预处理：预处理与初始坐标的策略相同（参见第3.1节）。再次，通过相对于输入特征值进行排序来获得设计序列。重要的是要注意，中心设计仍由初始坐标的中心设计表示。这导致了一致的统一数据表示，虽然初始坐标和时间序列数据的DOE数据库是不同的。所获得的数据重新排序选择直接适用于所有其他输出（DISP，EPMX和PNCK）。应注意，EPMX和PNCK的原始数据与有限元有关，而与代表有限元无关。L. Greve和B.P.范德韦格阵列14（2022）1001376[客户端]̃̃σ0 = σ [W [x，h]+b]，tott õ⊙n∈Rt我NodeByNodêNodeByNode、̂、、[]=ea+e-a。、见图6。预测不同输入特征值的原始初始坐标，说明大孔的x移动和小参数化孔的y移动。表2时间序列数据的DOE特征值设计ID位置x [mm]位置y[mm]03.0 7.75111-1.252 9.0 3.25317 6.254 1.0 0.25515-2.7513.25米7 7.0-4.258.0 1.759 19 4.75元素节点因此，元素值被转换为对应的节点值，其中每个节点接收对应的节点值。图八、 递归神经网络体系结构的逐节点方法。ft=σWf[xt，ht]+bf，it=σ[Wz[xt，ht]+bz]，所有连接元素的贡献作为平均值。3.2.1. 逐节点方法对于逐节点的方法，每个节点的时间序列是预先确定的。ct=tanh[Wc[xt，ht]+bc]，Ct=ft<$Ct-1+it <$ct，ht=ottanh[Ct]。（七）为每个节点坐标独立地指定的数据流逐节点模型如图所示。第七章参数化有限元模型的基本全局几何参数（位置x，位置y）表示每个节点的基本输入特征。与每个节点的初始坐标一起，每个节点的输入特征向量xallFeatures，i变为其中Wg和bg，g∈ {f，z，c，o}指相应的门指数，是相应的权矩阵和包含模型自由参数的偏置向量S形激活函数表示为σ，等式（3），并且应用于输入自变量向量a的每个元素的双曲正切激活函数为：xallFeaturesi=[pos x，pos y，coords xi，coords yi，coords zi]T.（六）丹阿ea-e-a（八）输入特征被传递到长短期记忆（LSTM）递归网络[8]，并进一步通过时间分布的密集层传播，以预测所需的响应符号表示逐元素乘法的Hadamard乘积。LSTM单元的输出向量表示为ht。LSTM单元的输出向量的选定大小ht定义了NodeByNodet我ND×1的 节点 我 表示 通过 的 初始坐标单元状态参数Ct的大小和对应坐标xyz，i，其中ND是输出维度（对于DISP，ND=3，对于EPMX和PNCK，ND=1）。数 据 集 包 含 N 个 DOE=10 个 设 计 ， 其 中 统 一 模 型 中 的 节 点 数 为Nn=5426。也就是说，对于逐节点方法，训练集包括i∈ [1. Nn×NDOE]节点。时间步长由t∈ [1. 其中，数据集的时间步长的总数为Nt=11。使用标准的4门控LSTM单元，图8，具有遗忘门ft、输入门it、单元状态门Ct和输出门ot。相应的方程为权重和偏差。在LSTM单元之后应用高斯丢弃层具有权重矩阵XWd、偏置向量bd和激活函数fd的后续时间分布密集层将 LSTM 输 出 向 量 ht 的 形 状 转 换 为 输 出 向 量 yt，i的所需形状：yNodeByNode=fd[Wd+bd]，（ 9）对于本分析，yt，i可以表示所研究的输出DISP、EPMX或PNCK之一。据指出，在培训方面，̂L. Greve和B.P.范德韦格阵列14（2022）1001377图第七章 递归神经网络体系结构的逐节点方法。L. Greve和B.P.范德韦格阵列14（2022）1001378=AllAtOnce=t我不所执行的DOE的初始坐标被用作输入，而对于应用，从根据图4和等式（2）的初始坐标预测模型获得的初始坐标被用作输入。所提出的逐节点网络架构具有紧凑的输入和输出层，这是独立的investi- gated结构的大小。对于所研究的TMH载荷情况，输入特征向量仅包含5个条目，即两个参数化孔位置和初始xyz坐标。输出矢量包含的XYZ位移的DISP输出和一个单一的输出值的EPMX和PNCK输出。这种紧凑的网络设计导致少量的自由权重，并且不需要引入进一步的（有损）降维方法。此外，逐节点方法是拓扑无关的，因为其预测不再依赖于FE网格拓扑或底层节点坐标的顺序。训练准备：对于所有预测输出，LSTM利用128个单位，导致输出向量ht的等效大小，以及等式（8）中的线性输出激活函数fd。因此，神经网络包含68，608个LSTM单元的自由权重和387个DISP输出（xyz）的密集层的自由权重。EPMX和PNCK输出的密集层包含129个自由权重，输出的缩减（标量）大小特别是对于具有挑战性的强非线性PNCK输出，图。 9 c.为了研究这种行为，使用相当于完整数据集大小的更大批量（批量大小47，848）重复PNCK的训练，图10。噪声频率显著降低，但训练时间从批次大小为4096的529 s增加到批次大小为47，848的2029 s，以获得类似的损失水平。因此，本研究选择较小的批量对于所有输出，对于训练集和验证集观察到类似的损失演变，表明逐节点方法的良好泛化能力。表5总结了所获得的R2值，表明逐节点模型的数据表示非常好。最后，使用相同数量的时期内的所有可用数据重新训练逐节点模型。使用逐节点模型的结果在第4节中讨论。3.2.2. 一次性使用方法所有在一次的方法被调查作为一个潜在的替代节点的方法。图11中呈现了用于一次性方法的神经网络架构。与逐节点方法相比，所考虑的统一有限元结构的所有节点的时间序列被联合预测为一次一次的方法。因此，我们认为，对于实际有限元结构，输出矢量y可能变大，用于时间序列预测的DOE包括10个设计。如前所述，对于所提出的逐节点网络架构，独立预测每个节点输出的时间序列。因此，包括10个FE模拟（设计）的DOE数据被相应地重新布置，使得每个节点数据表示一个设计，图7。在此过程之后，设计的正式数量从10（所有评估的FE模拟）变为47，848（所有评估的FE模拟的所有节点），其中每个节点的输入特征向量由其初始坐标扩展注意，重新排列的数据集的顺序对于逐节点方法不起作用重新排列的输入特征向量xallFeatures，i和输出目标向量yNodeByNode[001-word 2nd]预先按比例缩放到范围[0，1]中对于模型的应用重新排列的DOE数据最终以9：1的比例被打乱并拆分为训练数据集和测试数据集，其中仅训练数据集用于训练。训练：同样，TensorFlow用于训练参数解决方案模型，利用Adam优化器，均方误差损失函数和初始学习率为0.001。高斯丢弃有一个辍学率0。1适用。在训练中，使用4096个数据点的批量大小来呈现训练数据。可以获得所有输出的收敛状态，其中DISP、EPMX和PNCK输出在历元演变中的损耗如图所示。第九章观察到噪声响应，表现出一些中间峰并且输出层权重矩阵X的相应大小也变大。为了有效地训练神经网络，降维 使用 主要 组件 分析 （PCA） 是 申请将目标数据yAllAtOnce压缩为见图10。使用与完整数据集大小相等的批量大小，在“逐节点”模型的训练过程中，对各时期的损失演化进行训练和验证图第九章 训练和验证节 点模 型 训 练的 各 个 时期 的 损失演变。L. Greve和B.P.范德韦格阵列14（2022）1001379（）下一页[客户端]=̂见图11。 递归神经网络体系结构的一次性方法。预处理步骤。然后，PCA的逆权重矩阵X被应用于目标数据的重构，如图11中的输出层WPCA-1所表示的。将示出的是，一次性全部方法的自由权重的剩余数目类似于逐节点方法的权重降维：为了降低训练数据的维度，在训练之前应用线性降维方法以用于一次性方法：YPCA=YWPCA。（十）在等式（9）中，YnXp是设计输出矩阵X，其中n是设计数，p是每个设计的参数数，网络架构：对于一次全部方法，所表示的统一FE结构的所有节点的时间序列被一次预测， 11，其中xgeomFeatures表示输入特征向量。xgeomFeatures，i=posx，posyT.（十二）应注意，与逐节点方法相比，初始坐标不用作一次性方法的输入特征。LSTM和时间分布密集层的架构与逐节点方法相同，其中在LSTM单元之后应用高斯丢弃层。预先将输入特征向量xgeomFeatures的实值缩放到范围[0，1]中密集层的输出表示潜在空间，解压缩到最终数据空间nXLyt∈截断设计矩阵X，其中L是参数的缩减数与Lp。通过主成分分析得到正交权矩阵XWPCA，DISP、EPMX或PNCK，通过应用逆变换矩阵PCA-1pXL（10 ） 根据等式（10）。分量分析（PCA）[33]，其中正交变换矩阵的列是协方差矩阵的特征向量。一个标准的定标器，对数据点预先应用于Y数据。PCA的相应逆缩放过程由图1中的黑点（#1）可视化。 十一岁然后将变换后的数据YPCA缩放到范围[0，1]，以确保与LSTM模型的兼容性。相应的逆缩放由图1中的传播图中的黑点（#2）可视化。 十一岁截断变换矩阵XWPCA 乃使用Scikit-learn PCA包[28]，其中减少的参数的数量L通过在DISP、EPMX和PNCK输出超过0.999的总体解释方差后截断WPCA来PCA首先使用9：1的训练-测试比进行，揭示了令人满意的R2值的位移（DISP），足够的R2值的等效塑性应变场（EPMX），和不足的R2值的颈缩后字段（PNCK）。表3总结了获得的简化数据大小和R2值。使用验证集的不同设计（手动交叉验证）对PNCK的PCA进行进一步研究，发现R2值近似在0.5和0.75之间，表明存在一般化问题。尽管存在这些潜在问题，但为了完整性起见，PCA对所有研究的输出（包括PNCK）都已完成，并用于一次性模型的后续训练。对于最终的PCA计算，使用完整的数据集，而不保留验证集。然后可以通过将正交变换矩阵的逆（转置）应用于截断的目标数据矩阵来近似原始目标数据：Y′=YPCA。WPC A）-1.（十一）表3使用PCA和0.999的目标解释方差进行降维的总结。输出原始数据大小减少的数据大小R2（训练集）R2（vali集）再次注意，LSTM单元的输出向量的所选大小ht定义了单元状态参数Ct的大小以及对应权重和偏置的大小。对于一次性模型，要从DOE数据（例如DISP、EPMX或PNCK）中学习的所有时间序列量都是指相应的初始坐标位置。必须记住，预测的时间序列将在预测的初始坐标之上可视化。因此，需要初始坐标预测模型的高精度，特别是对于一次性方法，否则任何预测的时间序列将显示在空间中的错误位置处。逐节点方法对该误差链不太敏感，因为逐节点模型使用预测的初始坐标用于随后的时间序列预测，而不假设真实坐标和预测坐标完美匹配。训练准备：对于所有预测输出，LSTM使用128个单位（输出向量ht的大小）和线性输出激活函数fd。用于时间序列预测的DOE包括10个设计。对于所有在一次网络架构，一个完整的设计的时间序列预测联合在一个步骤。输入特征向量xgeomFeatures的值在范围[0，1]内缩放。对数据集施加9：1的训练-测试比，即，一个设计用于验证。训练：同样，TensorFlow用于训练参数解决方案模型，利用Adam优化器，均方误差损失函数和初始学习率为0.001。在训练期间，训练数据使用包含整个训练集的批量大小来呈现。DISP、EPMX和PNCK输出在历元演变过程中的损失如图12所示。与逐节点模型相比，验证集在相对较高的损失水平处停滞，而训练集仍然在较低的损失水平处收敛的 整体 系数 的 测定 （R2）， 代表最终预测值yAllAtOnce和相应的目标值yAllAtOnce的比较总结在表5中。对DISP和EPMX可以实现合理的推广。所指示在第3.2.2节的降维过程分析中，PNCK的低整体值表明（p）[-]（L）[-]训练有素的网络。一次性模型使用相同数量的时期内的所有可用数据进行重新训练。第4节讨论了一次性模型DISP 16278150.99960.9939EPMX 5426380.99930.9175PNCK 5426440.99930.5613L. Greve和B.P.范德韦格阵列14（2022）10013710见图12。 针对一次性模型的训练，在各个时期内训练和验证损失演变。图13岁 DISP在最后时间步的输出比较：DOE结果、“逐节 点”方法 结果和 “一次 性全部 ”方法 结果。图14个。 EPMX在最后时间步的输出比较：DOE结果、“逐节 点”方法 结果和“一次 性全部 ”方法 结果。4. 结果讨论在本节中，将所提出的建模方法应用于DOE数据和未知验证数据，以比较预测能力。此外，模型评估时间和模型训练时间进行了比较。4.1. 模型精度训练数据的表示：在前面的章节中，已经讨论了逐节点和一次性方法的参数解决方案模型的架构和训练。训练输出包括节点位移（DISP）场、等效塑性应变（EPMX）场和颈缩后指示器（PNCK）场。逐节点的DISP、EPMX和PNCK输出以及所有L. Greve和B.P.范德韦格阵列14（2022）10013710图15个。 PNCK输出在最后一个时间步的比较：DOE结果，“逐节点”方法结果，“一次性”方法结果和绝对差。将使用完整DOE数据集（未保留验证集）训练的一次方法与从图13在图中，参数化小孔位于右侧。为了可视化，使用Delaunay三角测量将预测的初始坐标转换为表面[34]。对于DISP，两种方法都实现了DOE的非常好的表示。只有图12中的一次性方法的设计#6（黄橙色区域）和#9（小参数化孔周围）显示出与地面实况结果相比位移场的一些微小失配。对于EPMX，两种方法都实现了DOE的良好表示。使用逐节点方法预测的响应与地面真实响应的一致性略好于一次性方法，例如，比较图4中设计4中的红色区域。 14个。这两种建模方法都能合理地代表这10种设计的PNCK场的一般模式。然而，应注意，PNCK的表示对于逐节点方法比对于一次性方法明显更尖锐，图15。对于PNCK，预测的绝对差异和相应的DOE值绘制在图15中，清楚地揭示了一次性方法的偏差增加。可以表明，进一步增加一次性方法的时期数量不会提高一次性方法的准确性。训练有意停止在图12所示的准收敛状态，以便对模型训练时间进行公平比较。此外，对于本配置已经观察到一些轻微的过拟合。因此，通过引入更大数量的神经元来进一步增加自由参数的数量是不期望的。使用一次性方法的PNCK预测效果不佳可以用几个遗留问题来解释：a) 降维：如第3.2.2节所述，PNCK输出的降维显示验证集的R2值较差，表明PCA没有创建广义降维。两个移动孔示例的PNCK响应的特征在于由零值或接近零值的大域包围的非常窄的高PNCK值区域。降维方法的目的是保持大量的信息，并且狭窄区域中的高PNCK值部分地被认为是离群值，并且最终在截断表示中被丢弃，而不会丢失大量的解释方差。b) 代表验证集的设计数量：一次性方法的PNCK响应的准确和广义预测可能需要更多的设计。与逐节点方法相比，从训练集中移除完整设计以用于一次性方法的验证c) 缺乏初始坐标数据：与逐节点方法相比，一次性方法不能利用局部初始坐标数据，因为预测仅基于全局几何输入特征posx和posy。 因此，一次性方法只能在训练期间看到的快照（设计）之间建立全局关系（插值）。相反，逐节点方法允许独立（解耦）学习单个节点的时间序列，这取决于它们的初始坐标。验证：为了验证逐节点和一次性方法的创建参数替代模型，将评估一系列附加FE模拟，其中参数化孔的位置沿特定路径变化第一模拟L. Greve和B.P.范德韦格阵列14（2022）10013711==-----在特征值为 位置x 五、0 mm和位置 五、0毫米。然后，在一系列模拟中，大孔的位置增加pos x{6.0，7.0，9.0，10.0} mm，同时保持小孔的位置恒定在pos y= 5。0毫米。最后，大的位置孔在位置x=10 mm处保持恒定，并且小孔的位置在一系列FE模拟中变化：posy={5.5，6.0，6.5，7.0} mm。这些验证FE模拟的最终PNCK在初始配置（状态#0）中，存在穿过大孔的垂直裂纹。当参数化的大孔朝向参数化的小孔“移动”时，垂直裂纹切换（状态#3）为穿过两个孔的垂直-水平-垂直裂纹。当增加参数化小孔的y位置时，从状态#5开始，裂纹切换回纯垂直线（状态#7）。图16中还示出了使用逐节点和一次性方法的对应预测响应，其中关键预测用闪烁符号标记。PNCK响应的一个非常好的一般预测是通过逐节点方法获得的，其中只