“基于神经网络的增材制造机器学习应用：现状、挑战和未来前景”

工程5（2019）721研究增材制造-综述将基于神经网络的机器学习应用于增材制造：当前应用，挑战和未来前景齐新波a，陈晓，陈国峰b，李勇a，程轩b，李长鹏b清华大学摩擦学国家重点实验室，北京100084b西门子有限公司企业技术部，邮编：100102阿提奇莱因福奥文章历史记录：2018年7月29日收到2019年4月6日修订2019年4月9日接受在线预订2019年保留字：增材制造3D打印机器学习算法A B S T R A C T增材制造（Additive manufacturing，AM），也称为三维打印，由于其与传统减材制造相比所具有的独特优势，越来越受到学术界和工业界的关注。然而，AM工艺参数很难调整，因为它们会对打印的微观结构和后续产品的性能产生利用传统的数值和解析模型建立AM的工艺-结构-性能-性能（PSPP）关系是一项困难的任务。今天，机器学习（ML）方法已被证明是一种有效的方法来执行复杂的模式识别和回归分析，而不需要明确地构建和解决底层的物理模型。在ML算法中，神经网络（NN）是使用最广泛的模型，因为目前可用的大数据集，强大的计算能力和复杂的算法架构。本文综述了神经网络算法应用于AM全链的几个方面，包括模型设计，现场监测和质量评价的进展。目前的挑战，在应用神经网络AM和潜在的解决方案，这些问题的概述。最后，提出了未来的趋势，以提供一个全面的讨论，这一跨学科领域。©2019 The Bottoms.Elsevier LTD代表中国工程院出版，高等教育出版社有限公司。这是一篇CC BY-NC-ND许可下的开放获取文章（http://creativecommons.org/licenses/by-nc-nd/4.0/）。1. 介绍增材制造（AM）与传统的减材制造技术相反，是现代工业范式的一种有前途的数字化方法，在世界各地引起了广泛的兴趣通过从三维（3D）计算机辅助设计（CAD）模型逐层制造物体，AM提供了几个好处：①它创建具有复杂形状的产品，例如拓扑优化结构，这是传统铸造或锻造工艺难以制造的;②它可以用来生成材料的新特性，例如位错网络[5]，这对学术研究人员非常有吸引力;③它减少了材料浪费，从而为工业节省了成本。然而，增材制造部件也存在数十种独特的缺陷，这些缺陷与铸造和锻造部件中出现的缺陷不同;这些缺陷包括由于缺乏*通讯作者。电子邮件地址：qixinbo@gmail.com（X. Qi）。熔融和气体截留、相对于印刷方向的垂直和平行方向上的严重各向异性微观结构以及由于高冷却速率和陡峭温度梯度引入的大残余应力而导致的变形[6]。因此，有必要更好地了解粉末冶金参数，打印过程以及AM部件的微观结构和机械性能之间的复杂关系。增材制造过程涉及到许多决定最终产品性能的重要参数。例如，在选择性激光熔化（SLM）中，加工参数（包括激光功率、扫描速度、影线间距和层厚）都会显著影响所生产零件的质量。不幸的是，这些参数和输出质量之间的关系太复杂而无法完全理解，因为SLM是一个多物理场和多尺度过程，包括微观尺度上的粉末-激光相互作用，中尺度上的熔池动力学和柱状晶粒生长，以及宏观尺度上的热-机械耦合。研究人员试图开发各种物理模型，以便将这种关系分类为https://doi.org/10.1016/j.eng.2019.04.0122095-8099/©2019 THE COMEORS.由爱思唯尔有限公司代表中国工程院和高等教育出版社有限公司出版。这是一个在CC BY-NC-ND许可证下的开放获取文章（http://creativecommons.org/licenses/by-nc-nd/4.0/）。可在ScienceDirect上获得目录列表工程杂志主页：www.elsevier.com/locate/eng722X. Qi等人/工程5（2019）721更清晰、更准确的方式。Acharya等人[7]开发了一种计算流体动力学（CFD）和相场框架，以模拟激光粉末床熔合（PBF）工艺沉积态下的晶粒结构演变; Fergani等人[8]提出了一种分析模型，以评估金属材料AM工艺中的残余应力; Chen等人[9]采用有限元模型研究熔池轮廓和珠形状。可以看出，由于缺乏对AM的深入理解，上述模拟从粉末规模到零件规模都不同，并且仅集中在整个过程的一个或两个方面目前，通过这些物理驱动的方法在短时间内快速准确地预测整个AM过程是不切实际的。除了上述物理驱动模型之外，数据驱动模型已广泛用于AM领域;这些模型具有机器学习（ML）的统一名称[10，11]。这种模型的压倒性优势在于，它们不需要构建一长串基于物理的方程;相反，它们会根据以前的数据自动学习输入特征和输出目标之间在ML方法中，神经网络（NN）算法是使用最广泛的，目前正在快速发展，这是由于今天可用的大量数据，计算资源的巨大可用性及其先进的算法结构[12]。例如，NN是这些领域的主要刺激力量：计算机视觉[13]，语音识别[14]，自然语言处理[15]和自动驾驶[16]。神经网络在识别上述任务中潜在的复杂模式方面显示出强大的力量，其中大部分曾经被认为只有人类才能完成此外，有一个明显的趋势，即利用神经网络在这些领域的成功NN对工业中所有价值链创新--从产品设计、制造、认证到交付--都产生了深刻而广泛的影响，相信NN的影响将越来越强烈。本文提供了一个概述的研究人员在应用神经网络算法AM所取得的进展。第二简要介绍了AM技术和NN算法，第三总结了NN在AM中的具体应用第4概述了挑战和潜在的解决方案，第5描述了这一领域的未来趋势。2. 方法2.1. AM技术作为一个术语，AM与传统的减材制造（即，铸造、锻造和计算机数字控制（CNC））;根据不同的印刷技术可将其分为几类[17]。其中，PBF[18]、粘合剂喷射（BJ）[19]和材料挤出（ME）[20]是三种广泛使用的技术。PBF使用热源通过烧结或熔化精细金属/塑料粉末来逐层构建零件。根据不同的应用情况，PBF可以进一步分为选择性激光烧结（SLS），SLM，电子束熔化（EBM）等。SLS和SLM都利用激光作为热源;但在SLM中，材料完全熔化而不是SLS中的烧结[21，22]。相比之下，EBM的热源是电子束，与基于激光的技术相比，这导致了某些优势，例如较小的残余应力和较少的氧化[23]。BJ工艺使用两种材料：粉末基材料和粘合剂。粘合剂选择性地沉积在粉末床的区域上，并将这些区域粘合在一起以一次一层地形成固体部件[24]。熔融沉积成型（FDM）是一种金属工程技术。在印刷期间，熔融材料从FDM打印机的喷嘴挤出以形成层，因为材料在挤出后立即硬化[25]。可以看出，有各种各样的AM技术，这些技术产生不同类型的数据表。如何将这些数据以统一的格式组织起来，并将数据流集成到后续的机器学习算法中是一个具有挑战性的任务。2.2. NN算法NN是一种监督ML，而其他形式的ML是无监督学习。区分这两种模式的最简单方法是检查它们所操作的数据集是否有标签。也就是说，在NN算法中，数据是标记的-也就是说，模型已经被告知输入的这适用于AM情况，因为该制造技术始终有明确的目标和鉴定方法。神经网络具有很强的评估能力，可以表示输入和输出特征之间复杂的、高度非线性的关系，并且已经表明，只有一个隐藏层但有足够神经元的网络可以表示任意函数。NN的架构或设置由三种层组成：输入层、隐藏层和输出层[26]。每一层都由节点或神经元组成，这是从神经科学中借用的概念。神经网络中的参数或系数称为权重，表示相邻层神经元之间的连接程度。通过迭代地训练NN来确定权重的值，以最小化预测和实际输出之间的损失函数。在这种类型的过程中，最着名和最广泛使用的更新权重的方法称为反向传播，它使用数学链规则迭代计算每层的梯度[27]。一旦训练完成，NN将有能力根据以前看不见的输入来推断输出。在神经网络发展的几十年中，研究人员提出了许多类型的特定神经网络。以下三类NN已经证明了它们的价值，并获得了广泛的欢迎。①多层感知器（MLP）[28]是最典型的神经网络;其常见的数学运算是线性求和和非线性激活（如sigmoid函数）。 它被广泛用于处理表格数据。②卷积神经网络（CNN）[13]主导图像处理，因为它考虑了图像像素之间的空间关系。它以数学上的“卷积”运算命名。③递归神经网络（RNN）[29]在处理时间动态方面起着关键作用，因为它在一层中的节点之间建立了连接最著名的RNN是长短期记忆（LSTM），它在以下情况下准确地再现了有限元模拟。3. 应用AM是一个包含许多方面的价值链：模型设计，材料选择，制造和质量评估。本节强调应用神经网络的AM的以下几个部分：设计，现场监测，和过程-性质-性能的联系。3.1. 为AM面向增材制造的设计（DfAM）涉及到建立增材制造零件的CAD模型;因此，它是整个加工链的第一步也是关键的一然而，由于加工结果中的畸变引入的残余应力，使得CAD模型与打印件之间总是存在 偏 差 因 此 ， 通 常 进 行 补 偿 以 获 得 具 有 高 精 度 的 AM 部 分 。Chowdhury和Anand[30]提出了一种NN算法，X. Qi et al. / Engineering 5（2019）721-729723补偿零件的几何设计，这有助于平衡制造零件的热收缩和变形整个过程如下：①制备所需零件的CAD模型，提取其表面三维坐标作为神经网络模型的输入;②使用提取变形后的曲面坐标作为神经网络模型的输出;③训练一个具有14个神经元、均方误差（MSE）作为损失函数的神经网络模型，学习输入和输出之间的差异;将训练好的网络转化为STL文件，进行所需的几何校正，从而使用修改后的几何形状制造零件，得到尺寸精确的成品。Koeppe等人[31]提出了一个框架，实验，有限元法（FEM）模拟，和神经网络，如图1所示。首先，他们进行了实际实验来验证FEM模拟。接下来，基于不同的全局载荷、位移和支柱半径以及单元尺度的参数组合，使用FEM运行85个模拟样本。这些是NN输入特征，输出是最大Von Mises和等效主应力。NN架构包含一个具有1024个整流线性单元的全连接层，两个分别具有1024个单元的LSTM单元，以及一个全连接线性输出层。这里应该注意的是，LSTM之所以被选中并推荐，是因为它在处理时间序列事件方面具有出色的能力训练后，神经网络可以再现加载历史与有限元模拟吻合良好从这一点上，神经网络可以作为一个低运行速度的传统数值模拟方法的替代品。与上述两种将NN应用于DfAM的情况不同，McComb et al.[32]试图建立一个自动编码器（一种从输入中学习，然后尝试以高精度重建输入的NN）来学习零件设计的低维除了该自动编码器之外，训练其他三个网络以确定设计几何形状与三个DfAM属性（即，部件质量、支撑材料的质量和构建时间）。通过这种方式，这四个NN的组合可以用于评估为AM设计的部件将ML应用于DfAM的另一个有趣的例子涉及3D打印过程的安全级别Li等人[33]训练CNN来检测和识别非法成分（例如，枪，通过AM。在CNN构造好之后，它被集成到打印机中，以便在早期阶段检测枪打印，然后及时终止打印过程作者收集了10类61340个二维图像的数据集，包括枪支和其他非枪支物体，对应于原始3D模型CNN模型由两个卷积层、两个池化层和一个全连接层组成。实验结果表明，分类错误率可降低到1.84%.3.2. 原位监测来自多个传感器的数据采集的现场监控提供了增材制造过程中有关产品质量的第一手信息如果能对这些实时数据进行同步、准确的分析，就能实现对生产过程的完全闭环控制。数据源被分为三种类型，包括一维（1D）数据（例如，光谱），2D数据（例如，图像），以及3D数据（例如，断层扫描）[34]。每种数据类型都有其优点和缺点。例如，1D数据可以更快地处理将提出两个示例来演示这些不同类型的信号数据的使用。Shevchik等人[35，36]提出了一项利用声发射（AE）和神经网络对SLM进行原位质量监测的研究，如图所示。 2. AE信号记录使用光纤布拉格光栅传感器，而选择的NN算法是光谱卷积神经网络（SCNN），这是一个传统的CNN的扩展。该模型的输入特征是小波包变换的窄频带的相对能量。输出特征是打印层的质量是高、中还是差的分类据报道，使用SCNN的分类精度分别高达83%，85%和89%的高，中，差工件质量最近，Zhang et al.[37]一个高质量的视觉系统，用于过程图像采集的高速摄像机。该系统可以检测三个对象的信息：熔池，羽流，飞溅，如图3所示。这些对象的特征是基于作者对过程的物理机制的理解而仔细提取的，以便将它们馈送到传统的ML算法中。然而，作者强调，CNN模型不需要这个特征提取步骤，因为它在质量级别识别中仍然具有92.7%的高准确率。相信CNN在工业应用中实现实时监控方面有很大的潜力。上述情况主要集中在AM过程的纯原位监测;然而，NN模型的鉴定结果不能反过来影响实际制造。相反，以下案例通过无缝集成基于视觉的技术和用于液态金属喷射打印（LMJP）的NN工具来实现闭环控制[38]。首先，王等人开发了一个视觉系统，与电荷耦合装置（CCD）相机Fig. 1. 神经网络模型在预测增材制造结构变形中的应用。(a)在受控载荷条件下制造和测试的试样;(b)有限元法，其模拟结果通过样本进行验证;（c）神经网络，其由有限元法生成的数据进行训练，然后用于以比有限元法更快的方式预测变形历史FC：全连接层。复制自Ref。[31]经Elsevier许可，©2018。724X. Qi等人/工程5（2019）721图2. AM质量监控分析系统方案。工作流程如下：在AM过程中发出声学信号，然后由传感器捕获;最后将SCNN模型应用于记录的数据，以区分打印层的质量是否足够。复制自Ref。[35]经Elsevier许可，©2018。图3.第三章。SLM工艺监控配置方案高速摄像机用于捕获构建过程的序列图像;CNN模型用于识别质量异常。CMOS：互补金属氧化物半导体; ROI：感兴趣区域。经Elsevier许可，转载自参考文献[37]，©2018。捕获包含各种液滴图案的喷射图像。其次，他们制定了一个NN模型，以建立电压水平和液滴特征之间的复杂关系。因此，实时喷射行为和理想行为（其中输入信号的每个脉冲仅产生具有足够体积并且在其后面没有卫星的单个液滴）可以根据NN模型被转换成精确的电压值。最后，使用比例积分微分（PID）控制技术来比较这些值，以便相应地调整驱动电压并稳定打印过程。3.3. Process–property–performance从技术和经济的角度来看，工艺参数选择的AM部件的性能优化是非常可取的。科学家和工程师对在过程、性质和性能之间建立直接联系非常感兴趣。这种联系往往是高度非线性的，因为输入变量的数量通常大于三个。因此，很难确定这种联系的基本数学公式。由于其内在的非线性特性，神经网络模型已被应用于制定这些ð Þ ¼ ð Þ公司简介X. Qi等/ Engineering 5（2019）721-729725表1NN应用于建立AM技术处理参数性能/性能参考文献FDM层厚度、方向、光栅角度、光栅宽度、气隙抗压强度[39]第三十九届FDM层厚度、方向、光栅角度、光栅宽度、气隙磨损体积[40]FDM方向，切片厚度空间误差[41]FDM层厚度、方向、光栅角度、光栅宽度、气隙尺寸精度[第四十二届]FDM层厚度、方向、光栅角度、光栅宽度、气隙尺寸精度[第四十三章]BJ层厚、印刷饱和度、加热器功率比、干燥时间表面粗糙度[四十四]BJ层厚、印刷饱和度、加热器功率比、干燥时间收缩率（Y轴）[四十四]BJ层厚、印刷饱和度、加热器功率比、干燥时间收缩率（Z轴）[四十四]SLS激光功率、扫描速度、扫描间距、层厚密度[45]SLS激光功率、扫描速度、扫描间距、层厚尺寸[第四十六章]SLSZ高度、体积、边界框构建时间[四十七]SLS激光功率、扫描速度、影线间距、层厚、扫描模式、温度、间隔时间收缩率[48个]SLS层厚、激光功率、扫描速度开口孔隙率[四十九]SLS激光功率、扫描速度、影线间距、层厚、粉末温度拉伸强度[50]SLS激光功率、扫描速度、影线间距、层厚、扫描模式、温度、间隔时间密度[五十一]SL层厚度、边界过度固化、填充过度固化、填充固化深度、填充间距和填充间距尺寸精度[52]LMD激光功率、扫描速度、送粉速率几何精度[53]EBM吊具平移速度、旋转速度体积，粗糙度[五十四]WAAM相邻沉积路径偏移距离[55个]SL：立体光刻; LMD：激光金属沉积; WAAM：线和弧增材制造。各种AM过程的数学关系。表1[39从表1中可以看出，不同的增材制造技术应选择不同的输入特性，因为决定增材制造部分的关键因素是不同的。此外，由于大量的参数会对最终产品产生影响，因此决定选择哪些这个问题将在第4.3中详细讨论。NN算法的详细设置总结见表2。确定NN结构的典型超参数通常由四部分组成：隐藏层的数量，一层中的神经元数量，激活函数和损失函数。(1) 隐藏层的数量。在表2的“层/神经元”列中从表中可以看出，一个隐藏层足以解决大多数AM问题。(2) 一层中的神经元数量。输入层和输出层的神经元数目由问题本身然而，唯一隐藏层的神经元数量需要仔细选择，因为它与ML中的欠拟合和过拟合问题直接相关[56]。 根据表2，我们建议5-10个神经元作为确定AM应用的最佳隐藏单元数量的起点。(3) 激活功能。激活函数是对输入信号（x）的非线性变换;它决定是否应该激活神经元。这对以下方面至关重要：NN，因为没有激活函数的网络只是一个线性回归模型，不能处理复杂的任务。一些流行的激活函数类型如下：Sigmoidx111-xTanhx21 21吨-2吨ReLU最大值为0;最大值为3在实际实现中，sigmoid和tanh函数两端以及ReLU函数负轴处的梯度将很小，甚至为零;因此，表2NN算法的详细信息。AM技术层/神经元激活函数误差函数数据集误差（%）参考文献FDM5-8-1TanhMae321.2[39]第三十九届FDM5-8-1Tanh-321[40]FDM4-15-12-1乙状Mae3750-7.9[41]FDM5-6-4--274.07[第四十二届]FDM5-7-3--270-0.12[第四十三章]BJ4-6-1乙状MSE160.2-8.5[四十四]BJ4-20-1乙状MSE164.0-19.6[四十四]BJ4-11-1乙状MSE168.0-29.1[四十四]SLS4-9-1乙状SSE157[45]SLS4-6-1--341.05-1.360[第四十六章]SLS3-7-1-MSE13015[四十七]SLS7-7-1-MSE334.35-27.60[48个]SLS3-9-1TanhRMSE360-9.1[四十九]SLS5-27-1乙状MSE660.9-9.2[50]SLS7-8-1-Mae32-[五十一]SL6-20-5乙状MSE1406[52]LMD3-9-3-RMSE1202.0-5.8[53]EBM2-200-2乙状Mae451.74-2.27[五十四]WAAM3-12-1乙状MSE35-[55个]MAE：平均绝对误差; RMSE：均方根误差; SSE：平方误差和。ðÞ.X-Pji-tj¼ ð Þ726X. Qi等人/工程5（2019）721在学习过程中不会调整。这种情况引起了消失梯度问题。Max–minnormalization, which refines the inputs to a range 0 如有必要，批量标准化[57]为了继续细化每一层中的输入信号，应该使用。(4) 损失函数。损失函数应该由确切的问题确定，并且通常带有真实世界的解释。 例如，均方根误差（RMSE）和平均绝对误差（MAE）都是测量两个向量之间距离的方法：预测向量和目标值向量。它们的表达方式如下：sPnyi-yt2均值L和标准偏差R;当解码器从该概率分布中采样点时，产生新的输入数据。其他生成模型，如生成对抗网络（GAN）[63]和对抗自动编码器（AAE，AE和GAN的组合）[64]，也可以提供执行数据增强的方法。4.2. 缺乏标记数据如前所述，大多数NN用例都是监督学习，需要输出作为学习目标。然而，有时很难给数据贴上标签。例如，图中的不同对象如何能够 3被准确标记为熔池，羽毛还是飞溅物Fig.的作者 3承认许多飞溅RMSE¼n= 1ð4Þ具有类似于熔池的特征，形状、大小和灰度值。换句话说，这些判断MAE¼n y y1 2 3 4 5 6 7 8 910 11 12 13141516 17 18 19在很大程度上依赖于分析师对焊接工艺的深入了解。这种依赖性将极大地阻碍神经网络在AM领域的发展。换句话说，其中i是样本索引，yi是预测值，并且yit是目标价值。它们之间有一些小的变化：计算RMSE对应于L2范数（即，欧几里德范数），这是最常见的熟悉距离;计算MAE对应于L1范数（即，Manhattan norm），其测量矩形网格中从原点到目标的距离。更一般地，Lp范数由以下表示NNs to AM需要计算机科学和材料科学专家之间的深入合作。4.3. 缺乏选择好特征的知识许多工艺参数可能会严重影响AM部件的性能，而其他工艺参数的影响可能较小。同时，Lp¼n1/1jyi-ytj！1=pð6Þ对于有限的数据集，过多的输入特征很容易导致模型过拟合。因此，确保NN算法在一组良好的特征上运行其中p是范数指数。p越大，它对大值越敏感。例如，由于L2范数平方误差，模型将遇到比L1范数大得多的误差。如果这种情况是一个离群值，L2范数将更多地关注这个单个离群值的情况，因为许多其他常见情况的误差较小。换句话说，如果考虑任何异常值很重要，则RMSE方法是更好的选择。另一方面，MAE在可以安全有效地忽略离群值的研究中更有帮助。应该注意的是，在某些特殊情况下，可能需要考虑在内部设计损失函数。4. 挑战和潜在解决方案4.1. 小数据集由于NN方法是数据驱动的，因此其性能与可访问的数据量直接相关。一些领域已经建立了自己的大数据集用于训练，例如用于图像识别的ImageNet[58]，用于光学字符识别的MNIST[59]， SQuAD[60]用于自然语言处理，YouTube-8 M用于视频分类。因此，神经网络在这些领域显示了巨大的力量。相比之下，AM没有庞大的数据集，因为收集训练数据总是很昂贵。此外，经济方面的考虑限制了有关各方创建自己的开源数据集的活动。由于这种困境，必须建立当前的小数据集。事实上，某些称为生成模型的方法可以实现数据增强，以人为地扩大数据集。例如，自动编码器是一种代表性的技术，它能够随机生成与训练数据非常相似的新数据[11]。它使用编码器将输入转换为内部表示，然后使用解码器生成与基于此表示的输入类似的新输出。基本自动编码器的一个著名扩展称为变分自动编码器（VAE）[62]。 它将输入转换为高斯分布，特征工程是一种对输入数据进行预处理的方法，它可以给研究人员带来很大的好处。它可以分为两个方面：①特征选择的目的是从现有的特征中选择最有用的特征作为输入。例如，人们可能会选择“舱口距离”，“激光功率”和“层厚度”作为决定零件性能的最有在这种情况下，选择的原则依赖于研究人员对AM的经验和知识，也就是说，在对AM过程的机制进行深入研究方面，而不仅仅是一次又一次地做实验。另一个有用的方法是使用统计工具进行定量分析。以下是统计科学中广泛使用的一些Pearson相关系数是衡量两个特征之间线性关系的一个很好的参数;当它接近1/1时，表明这两个输入之间存在很Kendall秩相关系数是衡量两个特征之间非线性关系散布矩阵是一种数学工具，用于将每个数值属性与其他每个数值属性进行比较。通过这些参数的计算，可以获得关于哪些属性与目标属性的相关性更高的信息。②特征组合的目的是进行降维在输入特征上，因此集中于新产生的特征。一旦知道了转换规则，手动操作可能是优选的。例如，能量密度已被证明对AM加工过程中的凝固和冶金以及所制造部件的所得微观结构和机械性能具有明显的影响[65]。能量密度（E）在可持续土地管理中的代表情况如下：EP7V角其中P是激光功率，v是扫描速度，h是影线距离，d是层厚度。这四个特征可以转换为新颖但有影响力的特征E。此外，仍然可以使用数学工具进行辅助，例如应用原理pX. Qi et al. / Engineering 5（2019）721-729727成分分析（PCA），以基于特征的值而不是其属性来降低维度4.4.过拟合和欠拟合良好的泛化能力是NN算法的关键目标，并且是算法能够从先前未知的数据预测输出的准确程度的度量。然而，NN算法性能差的原因是过拟合或欠拟合问题。过拟合意味着NN算法试图拟合训练集中的每个数据点;因此，模型非常容易受到噪声或离群值的影响。与此相反，欠拟合意味着NN算法未能提取训练集中数据点之间的合理关系。一些避免过拟合和欠拟合的技术包括正则化[66]和dropout[67]。5. 未来前景5.1. 数据5.1.1. 加强数据采集API的互操作性随着AM的快速发展，每天都会产生大量的数据。然而，这些数据的可访问性在不同的研究小组之间，这并不容易，因为“这些孤岛”中的数据因此，用于数据采集的统一API将有利于该领域的每个利益相关者。这种合格API的范例应包括材料的热-机械属性和工艺参数的明确定义的模式，用于微观结构表征的统一图像类型，以及用于鉴定的相同测试标准。通过这种方式，“流畅”数据流的障碍将更少或没有5.1.2. 数据预处理数据预处理是数据驱动的NN算法的基本前提，因为它删除然而，这一步通常包括许多需要完成的繁琐任务。例如，目前存在一批包含晶粒和孔隙度信息的扫描电子显微镜（SEM）图像，而相应的NN模型仅需要裂纹特征作为输入。问题是要准确地提取裂纹分布分别从晶界。对于没有扎实的图像处理和分析知识和经验的人来说，识别这些结构特征的数字表示可能是一个挑战。一项必要的任务可能是建立数据预处理的标准和最佳实践，特别是图像特征。一个成功的实施，然后可以转移到更广泛的领域。5.1.3. 数据库建设在许多材料领域，研究人员已经开发了用于电子组织/存储/访问数据的知名数据库，如MatWeb、OQMD和Citrine[68]。鉴于AM的高度复杂性和多样性，有必要建立一个统一的数据库平台来托管每天由不同的研究小组和不同的机器生成的大量数据目前可访问的项目是AM材料数据库（AMMD），由美国国家标准与技术研究所（NIST）[69]开发。该数据管理系统采用了非结构化查询语言（NoSQL）数据库引擎，其灵活的数据结构非常适合AM的情况。AMMD是通过Django框架进行Web可视化的，所以它很容易进入。对于应用程序开发，AMMD还提供了一个代表性状态传输（REST）API，供第三方调用。5.2. 感测5.2.1. 硬件如3.2节所示，研究人员已经开发了几种传感器系统，以提供AM的实时信息。传感器被部署用于精确检测和测量光学、热、声学和超声波信号，并提供有价值的见解，以巩固对AM的理解。然而，对于可靠的传感器系统仍然存在巨大的需求.例如，安装在打印机内部的传感器必须在恶劣的环境中长时间生存和运行。在EBM技术中，高能电子束在真空环境中产生的金属蒸汽可能会破坏相机镜头。此外，传感器系统必须足够快以捕获熔池的中心位置，因为激光的扫描速度通常非常快。从这个角度来看，一个合格的传感器系统是非常需要在快速发展的AM领域。5.2.2. 软件传感器需要由功能强大的操作软件控制。控制软件的基本模式包括监视、记录、分析和存储数据。在典型的情况下，例如在SLM的过程中，一旦硬件将捕获的熔池图像传送到软件，它就可以具有计算温度曲线并提取热和尺寸度量用于下一步分析的能力其他有趣的功能点可以添加到传感软件中例如，希望软件配备有检测空隙、未熔合或孔隙度等的算法（特别是在ML方法的辅助下5.3. 控制/优化增材制造是一层一层地制造零件，每一层的质量对最终产品的性能有很大的影响。因此，必须确保每一层的质量。多tiple类型的传感器，如那些捕获光子，电，声波，和热信号，可以提供在原位测量的AM过程。闭环控制可以通过ML的应用程序来实现，以便同步分析这些信息，然后将输出馈送到机器的控制器中。一种可能的用途是训练CNN以基于由高速相机捕获的层图片来判断层的质量是否合格。在这种情况下，NN算法必须快速响应输入图片。幸运的是，一些模型压缩技术已经可用，例如参数修剪和共享，低秩因子分解和知识蒸馏[70]。5.4. 整链联动第3.2节和第3.3节已经分别展示了神经网络在构建结构-性质和过程-性质之间的关系方面的巨大力量此外，研究者还建立了其他模型来建立过程-结构-性质-性能（PSPP）的例如，Azimi et al.[71]利用全卷积神经网络（FCNN）对低碳钢中的马氏体/贝氏体/珠光体相进行分类，如图4所示。分类准确率可以达到93.94%，大大超过了最先进的方法，准确率为48.89%。虽然这种情况不在AM的范围内，但它的概念可以很容易地转移到AM;我们预计使用NN建立PSPP链接的爆炸性发展，728X. Qi等人/工程5（2019）721图4. 使用FCNN的马氏体/贝氏体/珠光体分类方法的工作流程。H：高度;W：宽度。经Springer Nature许可，转载自参考文献[71]©2018年。因为与其他方法和模型相比，后者在复杂模式识别方面具有内在优势。5.5. 建模预测如前所述，基于物理的模型是再现AM过程的传统计算方法。然而，它在时间、硬件和软件方面需要大量的计算成本。如第3.1所示，可以从以前积累的数值数据集中学习，并提取输入和模拟输出之间的嵌入式联系。换句话说，数值模拟可以是ML算法的数据源，并且可以起到与实验数据相同的作用Popova等人[72]开发了一个数据科学工作流程，将ML与模拟相结合。然后将此工作流程应用于使用Potts动力学蒙特卡罗（kMC）方法获得的一组AM微结构，该方法在Harvard Dataverse中开源[73]。Karpatne等人[74]提出了理论指导数据科学（TGDS）的概念，作为整合基于物理的模型和数据驱动模型的新范式。他们确定了五大类方法，用于将科学知识与不同学科的数据科学相结合。在不久的将来，这两种模型的结合肯定会提供一种方法来解决目前缺乏实验AM数据，不可解释的NN模型等问题。6. 结论最近在制造业和信息技术领域发生了两个爆炸性的发展：AM和NN。AM具有与数字CAD模型集成和构建具有复杂形态的零件的能力等优点敏捷制造与神经网络的结合，为实现“敏捷制造”这一具有吸引力的工业概念展示了巨大的潜力。本文提供了一个全面的概述目前的进展，应用神经网络算法的完整的AM工艺链，从设计到后处理。这项工作的范围涵盖了各种应用场景中的许多NN变体，包括：用于连接AM过程，属性和性能的传统MLP;用于AM熔池识别的卷积NN;用于再现有限元模拟结果的LSTM;以及用于数据增强的VAE。然而，正如他们所说，“每枚硬币都有两面”：很难控制AM部件的质量，而NN强烈依赖于数据收集。 因此，在这一跨学科领域仍然存在一些挑战。我们提出了潜在的提出了应对这些挑战的相应解决方案，并概述了我们对该领域未来趋势的思考。遵守道德操守准则Xinbo Qi、Guofeng Chen、Yong Li、Xuan Cheng和ChangpengLi声明他们没有利益冲突或财务冲突需要披露。引用[1] 陆乙，李丁，田X.增材制造和3D打印的发展趋势。Engineering2015;1（1）：85-9.[2] 德比湾通过喷墨打印增材制造陶瓷部件。Engineering 2015;1（1）：113[3] Gu D，Ma C，Xia M，Dai D，Shi Q.激光增材制造热力学和动力学机制的多尺度理解。 Engineering 2017;3（5）：675-84.[4] 放大图片作者：J. J.金属的增材制造。Acta Mater2016;117（15）：371-92。[5] 刘丽，丁勤，钟勇，邹建，吴建，邱永林，等。增材制造钢中的位错网络破坏强度-延性权衡。今日材料2018;21（4）：354-61.[6] [10]李文辉，李文辉，李文辉.金属的增材制造：钢、Ti-6Al-4V和高熵合金的特征显微组织和性能的简要综述。Sci Technol Adv Mater 2017;18（1）：584-610.[7] 放大图片作者：Acharya R，Sharon JA，Staroselsky A.激光粉末床熔合过程中的组织预测。Acta Mater2017;124：360-71.[8] Fergani O，Berto F，Welo T，Liang SY.增材制造中残余应力的分析建模。 疲劳断裂工程材料结构2017;40（6）：971-8。[9] 陈Q，Guillemot G，Gandin CA，Bellet M. 陶瓷材料选择性激光熔化增材制造的三维有限元热机械建模。Addit Manuf2017;16：124-37.[10] KohaviR，Provost F. 术语表 Mach Learn 1998;30（2-3）：271-4.[11] 杰龙Scikit-Learn和TensorFlow的机器学习实践：构建智能系统的概念、工具和技术。波士顿：O 'Reilly Media，Inc.; 2017年。[12] 李康Y，本吉奥Y，辛顿G. 深度学习 Nature 2015;521（7553）：436-44.[13] Krizhevsky A，Sutskever I，Hinton GE.使用深度卷积神经网络进行ImageNet分类。In：Pereira F，Burges CJC，Bottou L，WeinbergerKQ，editors. AdvancesinNeuralInformationProcessingSystems25 ： ProceedingsofNeuralInformation Processing Systems 2012; 2012 Dec 3 -6; Lake Tahoe，NV，USA. p.1097- 105[14] Anusuya MA，Katti SK.机器语音识别，综述。2010. arXiv：1001.2267。[15] 张明，李明，李明. Bert：深度双向转换器的语言理解预训练。2018年arXiv：1810.04805。[16] 翁德鲁什卡角，波斯纳岛深度追踪：使用递归神经网络超越视觉。2016. arXiv：1602.00991。[17] ISO/ASTM 52900 -15：增材制造的标准术语-一般原则-术语。ASTM标准。WestConshoekken：ASTM International; 2015.[18] KingWE ， Anderson AT ， Ferencz RM ， Hodge NE ， Kamath C ， KhairallahSA，等. 金属的激光粉末床熔融增材制造;物理、计算和材料挑战。应 用 物理学 修订版2015;2（4）：041304。[19] Gibson I，Rosen D，Stucker B.粘合剂喷射。In：Gibson I，Rosen D，StuckerB，editors.增材制造技术：3D打印、快速成型和直接数字化制造。New York：Springer.p. 205比18X. Qi et al. / Engineering 5（2019）721-729729[20] Chacón JM，Caminero M，García-Plaza E，Núñez P.使用熔融沉积建模的PLA结构的增材制造：工艺参数对机械性能的影响及其最佳选择。Mater Des2017;124：143-57.[21] 张文辉，王晓.选择性激光烧结中的激光和材料。Assem Autom2003;23（4）：357-71.[22] 张文辉，张文辉.选择性激光烧结和选择性激光熔化的结合机理。快速成型J 2005;11（1）：26-36.[23] Murr LE，Gaytan SM，Ramirez DA，Martinez E，Hernandez J，Amato KN，等. 通过使用激光和电子束熔化