基于滑动窗口时间序列分析和进化最小学习机的车辆速度预测：旧金山城市道路

主办方：工程科学与技术，国际期刊18（2015）150e162全文基于滑动窗口时间序列分析和进化最小学习机的车辆速度预测：旧金山城市道路放大图片作者：Ladan Mozaffaria，Ahmad Mozaffarib，Nasser L.Azadb，*a伊朗Golestan伊斯兰阿扎德大学管理科学和业务研究系b加拿大安大略省滑铁卢大学系统设计工程系我的天啊N F O文章历史记录：收到日期：2014年8月27日收到日期：2014年2014年11月6日接受2014年12月19日在线发布保留字：车辆动力系统速度预测滑动窗口时间序列预测智能工具A B S T R A C T目前研究的主要目标是利用先进的数值和智能工具来预测使用时间序列的车辆的速度 很明显，由驾驶员的时间行为以及道路上的各种外部干扰引起的不确定性将影响车辆速度，从而影响车辆功率需求。车辆动力传动系控制系统可以利用即将到来的功率需求的预测来显著改善燃料经济性和排放性能。因此，对于系统设计工程师和汽车工业家来说，开发有效的数值工具来克服与道路上车辆速度分布相关的不可预测性风险是非常重要的。在这项研究中，作者提出了一种智能工具，称为进化最小学习机（E-LLM）预测车速序列。为了对E-LLM的有效性进行实际评估，作者使用了私人本田Insight车辆在旧金山城市道路上收集的驾驶数据滑动窗口时间序列（SWTS）分析的概念是用来准备数据库的速度预测过程。为了评估所提出的技术的性能，一些众所周知的方法，如自回归（AR）方法，反向传播神经网络（BPNN），进化极端学习机（E-ELM），极端学习机（ELM），径向基函数神经网络（RBFNN），被认为是-er.竞争对手的方法的性能进行了比较，在均方误差（MSE），均方根误差（RMSE），平均绝对百分比误差（MAPE），中位数绝对百分比误差（MDAPE），和方差的绝对分数（R2）度量。通过详尽的比较研究，作者观察到E-LLM是预测车辆速度分布的强大工具。当前研究的结果可以用于汽车工业的工程师，他们一直在寻找能够提前预测车辆速度到给定点的快速，准确和廉价的工具，称为预测时域（HP），可用于设计有效的预测动力系统控制器。©2014 Karabuk University.由Elsevier B.V.制作和托管。这是一篇开放获取的文章，的CCby-NC-ND许可证（http://creativecommons.org/licenses/by-nc-nd/3.0/）。1. 介绍汽车公司面临着极大的经济和社会压力，需要提高其产品的燃油经济性和排放性能。因此，他们需要不断开发和应用重大的技术进步，以满足当今日益严格的排放和燃料标准和法规。最近，基于路线或预测的动力系统控制系统的开发已经受到了来自*通讯作者。电子邮件地址：nlashgar@uwaterloo.ca（N.L.）Azad）。由Karabuk大学负责进行同行审查汽车行业要实现这些目标。这些预测控制器使用对车辆即将到来的功率需求的预测来改善动力系统性能，所述功率需求是未来速度分布的强函数例如，车辆速度预测已被用于开发预测自动换档控制器，以优化换档，从而提高燃油经济性[1]。另一个例子是使用预测的即将到来的速度曲线来开发用于混合动力电动车辆（HEV）的预测性功率管理控制器。HEV动力系统由内燃机和电动机组成，以推动车辆。为了提高混合动力汽车的燃油经济性，需要一个功率管理控制器来最佳地分配两个推进系统之间的车辆功率需求。研究人员表示，可以获得高达4%的额外燃油节省http://dx.doi.org/10.1016/j.jestch.2014.11.0022215-0986/©2014 Karabuk University.由爱思唯尔公司制作和主持这是CC BY-NC-ND许可证下的开放获取文章（http://creativecommons.org/licenses/by-nc-nd/3.0/）。可在ScienceDirect上获得目录列表工程科学与技术国际期刊杂志主页：http://www.elsevier.com/locate/jestchL. Mozaffari等人 /Engineering Science and Technology，an International Journal 18（2015）150e162151每一辆配备了基于路径的电源管理控制器的HEV[2]。广泛实施用于动力管理、换档调度等的预测动力传动系统控制系统将产生巨大影响，每年可节省数百万加仑汽油，并显著减少排放。准确的短程速度曲线对于这些预测动力系统控制系统的实时实施至关重要;因此，未来车辆速度轨迹应在小时间范围内预测。可以使用先进的通信系统和雷达传感器技术来收集全面描述未来驾驶速度所需的数据。在这方面，新兴的智能交通系统（ITS）领域吸引了越来越多的工业家，特别是汽车工程师的关注[3]。 ITS是通信技术领域的一个先进概念，其基于开发驾驶状况预测设备以改善车辆性能特性是合理的策略这一事实。到目前为止，不同的技术，例如车辆远程信息处理（VT），已经被创建并用于收集有关短期和长期交通速度分布的有用信息，这些信息可以被预测动力系统控制器用于改善燃油经济性和排放性能。不幸的是，用作基于ITS的车辆的VT的大多数现有技术这些昂贵的基础设施无法在所有地区找到，因此，ITS技术，例如车辆到基础设施通信系统，无法在全球范围内使用此外，许多汽车仍然没有访问ITS信息所需的车载传感器近期（并且成本有效的）解决方案是使用历史驾驶数据以及来自工厂制造的车辆传感器的当前可用信息来在线预测车辆在不久的将来的驾驶循环。上述的研究人员已经煽动了汽车工程和系统科学利用计算效率高的数值方法以及智能工具来预测给定驾驶周期内行驶时的车速在这种情况下，考虑到时间序列分析的概念，以分析车辆的运动历史，并开发一种预测工具，能够预测车辆或交通速度沿道路。到目前为止，智能时间序列预测已成功地用于广泛的应用。参考文献[27]对此类技术的进展和发展进行了全面综述。特别地，时间序列预测模型可以以状态空间表示形式实现。Hyndman等人[28]提出了一种指数平滑方法来开发自动预测任务的状态空间框架。2005年晚些时候，Hyndman等人[29]进行了一次全面的仿真，并证明了状态空间表示的时间序列预测可以很容易地用作控制器的模型。George等人[30]全面研究了时间序列在预测和控制任务中的适用性。结果表明，时间序列预测器是最适合用于控制方案的广泛的工程应用。这一点已经被许多在不同领域工作的其他研究人员充分表明。执行时间序列分析和采用人工神经网络（ANN）等智能工具已被证明是准确预测车辆速度、功率需求等的有效工具，然后可用于设计更有效和更具成本效益的预测汽车控制器。 在Abdulhai等人的一篇研究论文中，[4]提出了一种神经遗传预测工具，用于预测道路上的短期交通流量。的使用从加利福尼亚州奥兰治县ATMS试验台获得的实际交通流量数据对所提出的模型进行了验证。三年后，Vlahogianni等人。[5]利用遗传算法（GA）对短期交通流量预测的ANN架构进行优化和进化仿真结果表明，该预测工具可以得到令人满意的结果建模单变量和多变量的交通数据库。Jiang等人[6]提出了应用动态小波神经网络预测交通流和车速轨迹。通过考虑一个全面的数据库，作者已经能够提出一个动态的循环智能工具，能够预测长期和短期的交通流量和车辆速度。他们的结论是，他们的模型能够被交通工程师和公路机构用来制定有效的交通管理计划，以减轻高速公路的拥堵。Zheng等人[7]提出了一种集成贝叶斯网络和神经网络的方法，用于准确的短期交通流量预测。数值模拟证明了所提出的交通流预测工具的真实性。Chan等[8]开发了一种基于指数平滑方法的人工神经网络，为预测交通流量提供了一种准确的智能工具。建议的研究首先应用指数平滑法处理从西澳大利亚州一段高速公路的交通状况收集的数据库的非平滑和不连续特征。之后，利用人工神经网络预测所考虑道路上的交通流量。作者观察到，所提出的方法是准确的，可用于实时实现。后来，Chan etal.[9]通过使用Levenberg e Marquardt ANN（LM-ANN）重复相同的模拟来验证他们技术的真实性。仿真结果表明，LM-ANN甚至可以提高标准的反向传播神经网络的预测精度的鲁棒性和准确性。在上述所有研究中，交通流量已经相对于车辆在道路上的定位进行了预测因此，尽管所提出的智能工具对于交通管理是有用的，但是它们不能用于为车辆的动力传动系控制单元提供所需的信息以改进性能。事实上，为了增强车辆控制器的功能，应该使用智能工具来预测未来车辆速度相对于移动车辆的实时速度分布[10]。Fotouhi等人[10]采用了类似的方法来设计HEV的有效电源管理控制器。此外，还有其他研究表明，智能工具可以用于预测车辆速度。Shu等人[24]指出，模糊算法可用于预测并联混合动力电动汽车的速度。Mahmoudabadi[25]利用人工神经网络来估计农村道路上Park等人[26]使用神经网络进行实时车速预测，并指出了他们方法的有效性。考虑到以前的工作，听起来使用智能工具来设计预测动力系统控制器核心的车速预测器是一个合理的选择。在这项工作中，作者有两个主要目标。从汽车动力工程的角度来看，他们想知道是否同样的概念，即.开发用于以实时方式预测车辆速度的智能工具，可以以可接受的精度针对由旧金山城市道路上的本田Insight个人车辆的运动收集的数据库来实现如果是这样，那么预测工具可以用于设计计算有效的动力系统预测控制器。从数值方法的角度来看，作者旨在开发一种先进的智能工具，进化最小学习机（E-LLM）[11]，它可以非常快速地训练，并且可以有效地与滑动窗口时间序列分析工具相结合通过152L. Mozaffari等人 /Engineering Science and Technology，an International Journal 18（2015）150e162采用基于状态空间概念的数值工具，通过详尽的比较研究，评估了E-LLM在预定义的预测时域（HP）内准确快速预测车辆速度的能力如果该模型工作正常，可以推断它具有很高的潜力，可用于实时应用。本文的其余部分组织如下。第2节是专门的描述所需的步骤，用于实现数据库中的状态空间格式，以及本研究中考虑的滑动窗口和HP在第3节中描述了所提出的可演化E-LLM的结构。进行模拟所需的参数设置和统计指标见第4节。模拟结果在第5节中给出。最后，在第6节中对本文进行了总结。2. 对收集的数据进行滑动窗口时间序列分析2.1. 数据收集本研究中使用的驾驶数据是从卡内基梅隆大学机器人研究所的ChargeCar项目中创建的数据库中提取的[12]。该数据库非常全面，包括代表美国多个城市和州的不同汽车的交通流量和车速的许多驾驶周期信息。在这项研究中，作者打算采用非常具有挑战性的驾驶数据，这些数据代表了本田Insight个人车辆在旧金山城市道路上的速度变化[13]。这些数据是通过设计一个先进的车辆定位（AVL）系统来收集的，该系统基于Garmin全球定位系统（GPS）工作，进入本田Insight汽车。本田Insight的正面面积为29.28英尺2，和3300磅的重量。乘客的总重量等于140磅。收集的总数据包括5个不同的部分，每个部分都是在不同的条件下收集的从家到工作地点，从工作地点到餐馆吃午餐，从餐馆回到工作地点，从工作地点到家，以及从家到特定目的地的旅行。这导致关于旧金山城市道路上典型汽车的可能驾驶循环的全面信息。每秒记录数据，形成包括时间（秒）、速度（m/s）、加速度（m/s2）、基于功率的模型（kW）和距离（m）的矢量。值得指出的是，原始数据库承载了所有的停止-启动信息，并且它还考虑了空闲持续时间。然而，在这项研究中，我们的主要兴趣是开发一种智能工具，用于实时预测车辆速度。因此，我们不需要知道司机何时何地停止驾驶，例如，去吃午饭。因此，已从数据库中删除不提供额外信息的怠速时段，并将驾驶数据分为五个单独的部分。因此，5个不同的轨迹表示旧金山城市道路上的车辆速度被创建。 图 1表示收集的这些子循环的速度曲线。显然，每种考虑的情况都提供了完全不同的速度模式，因此，通过将所提出的方法应用于这些模式，可以验证所得到的预测器的可靠性和有效性。2.2.滑动窗口时间序列分析滑动窗口时间序列（SWTS）分析的实现使我们能够在动力系统预测控制器的核心使用所得到的预测器为了进行SWTS，驱动数据应该以状态空间格式表示SWTS将数据库划分为许多有限长度的段，并尝 试将 z 过 去的 数 据与 p 未 来的 数 据相 关 联。 从 模型 预 测控 制（MPC）设计的角度（通常用于预测控制器设计），可以解释为SWTS使我们能够使用车辆运动的历史来预测车辆的运动。图1.一、 这五个人考虑了本田Insight的城市速度曲线。L. Mozaffari等人 /Engineering Science and Technology，an International Journal 18（2015）150e162153¼¼¼未来加速到预定义的预测范围（HP）。在图1中描绘了以滑动窗口格式处理时间相关数据库的示意图。 二、假设给定的数据库表示车辆速度（V（t））的时间依赖性曲线，从t1/40，1，.，T开始。然后，SWTS意味着在每个设定点，例如，t<$tn，t<$tn=1，tn=2，...，t n = p的车辆速度可以使用有限个先前时间序列上的车辆速度历史来建模，即t t n-1，tn-2，...，t n - z。值得指出的是，在实时实现中，可以在每t 0秒之后更新所得到的出租率m，其中ft02 1/2tnn1;tnn np]=t02 1/2t ng。2.3.预测动力系统控制单元如前所述，提出这种方案的主要目标是稍后将其设计到预测动力系统控制单元中，以提高车辆的燃料经济性和排放性能在前面的小节中，作者描述了SWTS如何使我们能够将任何时间相关的数据库改造成标准的状态空间格式，以进行基于时间序列的预测。让我们假设在驾驶循环期间预测动力系控制动作应当每10秒重复一次，这意味着t010秒。现在，需要验证的两个重要参数是输入滑动窗口和输出滑动窗口。众所周知，基于MPC的预测控制器的性能对输入滑动窗口和输出滑动窗口（HP）的大小高度敏感事实上，考虑到每个工作点应每隔1 s进行评估，因此确定HP的最佳值非常重要。很明显，通过增加预测控制器的预测范围，我们可以提出更可靠的控制策略。然而，通过增加输出滑动窗口，智能机器的性能可能会被破坏。因此，在这项研究中，作者考虑在[10，20]范围内的预测层位，以提取最佳/可行的HP值。在设计了能够预测下一个HP状态的车辆速度的有效方法之后，可以创建驱动数据的特性，并将其用于计算预测控制器的相应控制律，作为离线查找表。在这种情况下，在每个更新点处，智能预测器，即E-LLM，使用过去的z（在本研究中等于7）先前捕获的时间速度值并预测HP提前时间状态。 值得指出的是，为了选择z的值，已经利用了模型顺序选择机制。通过这种方式，作者考虑了5个不同的z值，即5，7，9，11，15，并检查了准确性，以及导出的预测系统的计算复杂性。基于一些数值实验，已经观察到，当使用7个或更多先前捕获的时间速度时，E-LLM的预测误差相对相同。然而，很明显，由于所考虑的智能系统将被用作在线预测器，其计算复杂性是最重要的。因此，作者选择z为7来设计智能系统。值得指出的是，在K倍训练之后，作者观察到，如果智能系统使用z>7。预测后，预测的速度曲线与用于创建通过相似性搜索算法来研究控制规律，以从查找表中为驾驶循环的下一个t0 10秒找到适当的控制规律。由此产生的预测控制器的突出优点之一是，它不依赖于昂贵的ITS基础设施和车载传感器来获得未来的车辆速度分布。相反，所提出的驾驶循环预测算法提供了所需的信息。基于驾驶循环时间序列预测的预测动力系控制方案概念的示意图在图1中示出。3.第三章。3. 进化最小学习机在上一节中，作者描述了应如何在本节中，作者解释了实现基于时间序列的预测器所如前所述，智能预测器的作用是将先前捕获的速度信号序列与HP图二、基于滑动窗口的时间序列分析。154L. Mozaffari等人 /Engineering Science and Technology，an International Journal 18（2015）150e162.HHHH图3.第三章。所提出的基于时间序列预测的动力系统控制器的示意图。前进速度信号。让我们假设z个先前捕获的速度信号形成z个阵列的输入向量X，并且HP前进信号形成HP阵列的输出向量Yd，那么，智能预测器（J）可以被认为是包括几个数学公式的系统，这些数学公式旨在制作X和Yd之间的映射，如下所示：（1）第一章其中YP是由智能预测器预测的HP设计基于时间序列的预测器的技术是形成函数J，使得预测器的输出Yp具有与期望的超前序列向量Yd的最低可能偏差。鉴于上述事实，在本节中，作者描述了他们如何设计这样一个智能预测器。本文提出的E-LLM系统是一种混合双层机，它采用一种称为可变智能蜂算法（MSBA）的进化算法作为元优化器，对LLM的结构进行进化，从而使预测精度得到最大程度的提高在本节之后，作者描述了E-LLM的体系结构。首先，解释实施LLM所需的步骤。此后，MSBA作为一个Meta优化器的贡献，为发展的LLM架构进行了仔细检查。高阶非线性的网络架构（即具有若干隐藏层的网络架构）。在这项研究中，它已被证明，通过集成的概念，隐藏的特征空间岭回归（HFSR）和ELM，一个强大的工具，可以开发适用于多输入多输出（MIMO）系统，因此，是有用的时间序列分析。实施LLM所需的数学步骤与ELM相同然而，由于LLM的架构与ELM不同，因此应考虑一些微妙的备注以正确实施LLM。假设MIMO数据库具有N个数据点，其中输入向量具有D个输入元素并且输出向量具有D个输出元素。这可以用数学表示为：数据;数据xj;yj=xj2RD输入;yj2RD输出;j=1;2;：;否（2）假设LLM具有1/41，2，在这项研究中，每个节点的激活函数被设置为logsig。在LLM中，应考虑三类结构特征：（1）处理输入层和第一隐层的结构特征（IeH），（2）处理隐层间相互作用的结构特征（HeH），（3）处理最后一个隐层和输出层的结构特征（H-O）。让我们用以下公式来表示连接（1）输入层到第一个隐藏层的突触权重：（2）具有（W1- 10）的第1隐藏层到第10隐藏层，以及（3）具有（W 1-10）的第1隐藏层到第10隐藏层。3.1. 最小学习机LLM是极限学习机（ELM）的扩展版本，它使我们能够设计多层前馈神经网络架构[11]。与只有一个隐藏层的ELM相比，LLM可以有几个隐藏层一起工作。事实上，当我们想要设计一个基于时间序列的预测器时，这样的特性非常适合。在Vafaipour等人的一项研究[14]，它被证明是多层前馈（MLFF）最后一个隐藏层到输出层（WHO）。就像ELM一样，LLM基于突触权重与其各自的回归矩阵的代数乘法来工作。由于ELM只有一个隐藏层，因此它只有一个回归矩阵，称为隐藏层输出矩阵（H）[15]。然而，基于之前提供的描述，LLM需要两种不同类型的回归矩阵：（1）一个H1H矩阵，以及（2）多个H1-10矩阵。HIH是基于WIH与第一隐藏层和H1-10通过W1-10与HH HH具有多于一个隐藏层的体系结构可以为时间序列预测提供精确得多的结果。这是因为，在大多数情况下，先前捕获的信号与进行中的信号之间的关系是高度非线性的，并且需要第10个隐藏层的隐藏节点。H矩阵的值取决于所有前面的H层次。除了最后一层的突触权重之外，之前层的权重可以随机设置。为了计算突触L. Mozaffari等人 /Engineering Science and Technology，an International Journal 18（2015）150e162155W.W ·xb 11WH¼HHHHXXHH公司简介1（y-HHTL-1LHHH·HHIHu;HN1 uHIHu;HN1 uW1·2Σ.GG W1·HNL-1×HNL权重连接最后一个隐藏层的输出层，伪逆最小二乘法（LSM）的使用。在亲-放弃这种方法，我们需要解释回归如何数据库因此，我们期望最终的WHO是具有以下格式的矩阵可以确定矩阵计算HIH：该矩阵由以下矩阵的级联形成：每个隐藏节点相对于所有的WHO ¼24何1;1«WHO何/1;D输出1«/WHO（七）WIH. 假设logsig 每个节点的激活函数为HNL;1HNL;DoutHNL;D输出用G表示，并且每个节点具有外部偏置（B）。然后，基于任何神经系统的标准推理，矩阵可以定义为：WHO的值使用LSM方法计算，如下所示：yL-1LIH1H¼6«IH/HN11•x1美元b«H.N.17W HO <$HHH·Y P（8）yL-1L其中HHH计算为：IH4g。WIHxb.IH20051·D输入1g WHN1·xD输入bHN1DHNL1 L.！-1现在，假设我们要继续下一层，即。形成矩阵H，其表示第一个回归方程的回归量，隐藏层。显然，该矩阵（H1-2）是通过将第二隐藏层中的每个隐藏节点的发射信号相对于H1 -2的所有阵列合并而形成的。再次，通过考虑每个节点的logsig激活函数和偏置，H1-2可以如下所示形成[16]：不其中H是矩阵H的转置。LLM的架构如图所示。 四、3.2.可变智能蜂算法在本节中，作者描述了如何使用MSBA来发展LLM的体系结构。MSBA是一个相对较新的元启发式算法二 、HH 1-2. XD输入！！.HH1-2. XD输入！！ 31-2g W1·6第1页HIHu;1B1/gWHN2·x1G第1页HIHu;1H2N27HHH 1/46。HH1-2«.D输入1！！/.HH1-2«.D输入！！75HN1×HN2（四）可以看出，新形成的H矩阵的阵列的值取决于最后一个H矩阵的值。通过进行该逐层过程，在最后隐藏层（Hl-1L）中形成的矩阵H可以数学地表示为：Mozaffari等人提出的技术[17]。MSBA开发背后的主要动机是提高人工蜂群（ABC）算法的探索/开发能力，并提出一种最适合约束优化问题的搜索机制。最初的模拟2 .HHL-1L.HXNL-2L1L二、快！！.HHL-1L.HXNL-2¼！！3ðÞGHL-1L¼6W1·第1页HH«-u;11/1g WHNL·GHIH u;1u1 «B.B.HNL7（五）46 .HHL-1L.HXNL-2！！/.HHL-1L.HXNL-2！！75W4HH不H（九）第1页B1WHN2·第1页H2N2G第1页HIHu;HNL-1WHNL·B1第1页HIHu;HNL-13B.B.HNL5G156L. Mozaffari等人 /Engineering Science and Technology，an International Journal 18（2015）150e162在计算最后一个H矩阵之后，LLM可以轻松地将任何特征相互映射，如下所示：证明了MSBA在约束优化问题中的性能优于几种最先进的Meta算法。后来，MSBA已被应用于几个工程和数值无约束优化问题，现有的报告证实，它是一个强大的优化方法，当我们处理的非约束优化问题，限制问题[18]。最近，Mozaffari等人[19]提出了一种HL-1L·WHO¼yj（六）自适应MSBA适应变异概率超过HH jP其中j^l，这意味着，通过在D个输出时间内重复伪逆LSM，LLM可以处理任何MIMO。优化过程通过详尽的数值实验，可以得出结论，MSBA的自适应版本甚至可以产生更有希望的结果，因为它提供了一个逻辑的L. Mozaffari等人 /Engineering Science and Technology，an International Journal 18（2015）150e162157¼NP-D联系我们随机地或分析地，因此，不需要将它们视为MSBA的决策参数。应采取以下步骤，以便MSBA可以发展LLM的架构步骤1：随机初始化s个聪明蜜蜂的种群每个聪明蜜蜂都有9个决策变量，形式如下：S½lHN1HN2HN3HN4HN5HN6HN7HN8]（十）其中，l是在[1，8]范围内的整数值，并且其他决策变量是在[2，10]范围内的整数值。应该注意的是，第一个决策变量表示隐藏层的数量，其他8个变量表示每层的隐藏节点显然，当隐藏层的数量小于8时，例如5，我们只考虑第2到第5个决策变量，其余决策变量的值将等于0。整数规划可以很容易地在Matlab软件中完成。为此，我们只需要使用命令rand初始化每个变量的值，然后使用命令round提取相应的整数值。步骤2：在形成相应的LLM之后，使用以下等式（其是MSBA的目标函数）计算其NDFmin1XXout.Yi;jYi;j2（11）很明显，作为一个元优化器，MSBA试图优化其启发式代理的特性，使目标函数的值最小化。通过上述步骤，形成E-LLM的结构。见图4。 LLM架构的示意图。勘探和开发能力之间的平衡。在Mozaffari等人[19]中可以找到对MSBA的时间顺序进展的全面回顾，为了简洁起见，作者建议感兴趣的读者阅读本文。 从数值方法的角度来看，它已被证明，MSBA的启发式代理，被称为聪明的蜜蜂，提供了所产生的满足- aheuristic与两个有利的功能相比，现有的metalanestics。首先，这些智能体配备了有限容量（短期）记忆，使它们能够将新位置与先前检测到的区域进行比较，并且基于贪婪选择，它们可以选择最适合的解决方案。其次，MSBA中设计的变异算子保证了搜索的多样性，因此，即使使用少量的启发式代理也可以进行成功的搜索。上述数值优势促使我们利用MSBA来发展LLM的架构。MSBA的伪代码如图所示。 五、为了发展LLM的架构，我们应该找出哪些控制参数有可能被优化，从而使LLM的准确性最大化。基于前面给出的定义，可以很容易地理解，有两个主要的控制参数对LLM的性能有显著的影响：（1）隐藏层的数量（L），以及（2）LLM每层中隐藏神经元的数量。幸运的是，LLM的突触权重得到了验证4. 参数设置、竞争技术和性能评价指标为了进行数值模拟，应该设置一组参数，并且还应该考虑一些性能评估指标。同样重要的是，选择一组竞争对手的方法，以支持所提出的时间序列预测技术的适用性。如前所述，所考虑的预测器由两个不同的级别组成，Meta优化器和预测器。为了评估MSBA的性能，使用了一组竞争的元算法，即粒子群优化（PSO）[20]，遗传算法（GA）[21]和人工蜂群（ABC）[22]。所有的元算法执行优化与人口的20启发式代理，为100迭代。此外，所有的竞争对手的技术进行优化与唯一的初始化，以确保所获得的结果是没有偏见的。为了捕获不确定性的影响，基于Monte-Carlo模拟，对20个具有随机初始接种的独立运行进行优化。对于粒子群优化算法，考虑线性递减的自适应惯性权重（初始值w0为1.42）。社会和认知系数的值设定为2。对于ABC和MSBA，考虑试验次数为10，改良率（MR）为0.8。对于MSBA，5只违反可接受试验数量的蜜蜂被发送到突变阶段。变异算子是算术图形搜索（AGS）算子。值得注意的是，MSBA的突变概率与初始值是线性递减函数，158L. Mozaffari等人 /Engineering Science and Technology，an International Journal 18（2015）150e162图五. MSBA的伪代码。值为0.05遗传算法采用锦标赛选择机制、Radcliff交叉和多项式变异.交叉和变异概率分别设置为0.8和0.04。所有考虑的元优化器都与LLM集成在一起，并对其性能进行评估，以确保所提出的元优化器功能强大。之后，将E-LLM的性能与自回归（AR）方法[10]，反向传播神经网络（BPNN）[14]，进化极端学习机（E-ELM）[23]，极端学习机（ELM）[15]，自适应神经模糊推理系统（ANFIS）[24]和径向基函数神经网络（RBFNN）[14]，以表明所考虑的预测器工作正常。通过执行Huang等人[15]建议的模型阶数选择，作者意识到ELM在其隐藏层中应具有12个隐藏节点。为了使用BPNN，进行了Vafaeipour等人[14]推荐的灵敏度分析，观察到BPNN应该有三个隐藏层，其中有2e 5e 6个隐藏节点。E-ELM与Zhu等人[23]提出的E-ELM相同。值得注意的是，为了避免数值不稳定性和有偏见的结果，以及辨别L. Mozaffari等人 /Engineering Science and Technology，an International Journal 18（2015）150e162159-X¼N0所考虑的预测因子的最大计算潜力，数据库在统一范围内进行标准化，使用DBPN.i;j.i;j.i;j.i;j=1C以下配方：X我R21 X输出B1/1 Yd -avg YdYP -avg YPCXi-Xi1/4Doutj/41B@sPN。ffiffi ffiYffiffi ffiiffi；ffijffiffiffiffiffi ffiaffiffiffi ffigffiffi ffi.ffiffi ffiYffiffi ffiiffi；ffijffiΣffiffi ffiΣffiffi ffi2ffi ffiΣffiffi ffiΣffi ffi.ffiffi ffiYffiffi ffiiffi；ffijffiffiffiffiffi ffiaffiffiffi ffigffiffi ffi.ffiffiffiYffiffiffiiffi;ffijffiΣffiffiffiΣffiffiffi2ffiffiΣffiffiAC标准差我Maxmin我min（十二）1/1d-vdP-VP（十七）其中i 1，输出也在相同的时尚.此外，重要的是要考虑一套性能-mance评估技术，以比较所考虑的预测的准确性。在这项研究中，均方误差（MSE），均方根误差（RMSE），平均绝对百分比误差（MAPE），中位数绝对百分比误差（MDAPE），和方差的绝对分数（R2）指标被用来准确地比较所考虑的预测的能力。所考虑的预测因子的数学公式如下所示：为了确保识别人员根据他们的预测能力（即预测未来的潜力）速度），而且，他们能够捕捉偏见的影响，在培训中，所有识别场景都是基于10倍交叉验证进行的。这意味着数据集被分为10个子组，训练在10个不同的阶段进行。在这种情况下，使用9个子组进行训练，然后通过剩下的1个未见过的数据集来评估预测性能。这样一个过程被处理，以便我们确保所有10个子组都被认为是不可见的数据。最后，10次折叠中的每一次的平均值再次为ND取平均值并报告最终值。如前所述MSE1XX出去。Yi;j（13）重复10倍训练/测试20次独立运行，¼N联系我们P- -提供有关竞争对手表现的统计反馈识别器。 所有的仿真都是在Matlab中进行的在PC上运行Microsoft Windows 7操作系统的环境vut1X NXDout。ffiffiffiffiffiffiiffi;ffiffijffiffiffiffiffiffiffiffiffiffiffiiffi;ffiffijffiΣffiffiffi2ffiffi奔腾四，英特尔双核2.2 GHz和2 GB RAM。RMSE¼N 联系我们YP-Yd（十四）5. 仿真结果1XXD输出 . Yi;j-Yi;j。Y5.1. 评估元优化器联系我们第1页第1Pdi;jd×100（15）在实验的第一步，作者希望了解是否MSBA元优化器选择用于D出局. . Yj-Yj.！Y发展LLM的架构可以提供可接受的结果。MDAPE¼j1中值.j×100D（十六）图图6描绘了MSBA的平均实时收敛行为，PSO、GA和ABC用于LLM体系结构的演化验证MSBA的突出表现，作者描绘了所有的XXPD.160L. Mozaffari等人 /Engineering Science and Technology，an International Journal 18（2015）150e162图第六章 所考虑的元优化器的收敛行为。L. Mozaffari等人 /Engineering Science and Technology，an International Journal 18（2015）150e162161表120次独立运行的元优化器产生的统计结果。方法平均标准品MinMax第一速度曲线ABC-LLM0.0508343 3.22e0-4 0.0502261 0.0509921MSBA-LLM0.0501197 4.36e0-5 0.0501031 0.0501516PSO-LLM0.0508546 6.32e0-4 0.0502162 0.05093170.05128771.56e0-3 0.0497417 0.0521522第二速度曲线ABC-LLM0.0322939 1.51e0-4 0.0320831 0.0323152MSBA-LLM0.0322461 2.57e0-5 0.0322197 0.0322636PSO-LLM0.0323027 3.66e0-5 0.0322841 0.03235520.03246210.03633813rd speedprofileABC-LLM0.0308893 4.42e0-5 0.0308263 0.0309153MSBA-LLM0.0308362 9.57e0-7 0.0308125 0.0308731PSO-LLM0.0310872 4.41e0-7 0.0310015 0.03112510.03110310.0314436第四速度曲线ABC-LLM0.1130143 6.34e0-3 0.1116721 0.1155351MSBA-LLM0.1112692 1.17e0-3 0.1108994 0.1136735PSO-LLM0.1117513 4.49e0-3 0.1106893 0.11232150.1130989 6.63e0-2 0.1121553第五速度曲线ABC-LLM0.0337523 8.53e0-4 0.0335521 0.0339492MSBA-LLM0.0335239 1.33e0-5 0.0334931 0.0335392PSO-LLM0.0335624 2.02e0-5 0.0335443 0.03358460.0338298 3.11e0-4 0.0336732 0.0341536问题）。然而，PSO和ABC不能保持其可接受的质量为所有考虑的问题。此外，PSO在第三种情况下表现较弱，ABC在第四种和第五种优化情况下表现较差。另一个MSBA不仅能够优于其他优化器，而且可以显示出可接受的探索/开发行为，因此具有快速的收敛速度。只有在第三种优化方案中，MSBA才在收敛速度方面排名第二表1列出了通过执行元优化器20次独立运行获得的统计结果。为了清楚地显示优化器的性能，统计结果以标准偏差（std.）平均获得值、最小获得值和最大获得值。从表1可以看出，MSBA算法的平均性能优于其他算法。此外，所获得的Std.值表明MSBA和PSO都具有可接受的鲁棒性速率，因为它们在独立优化运行中收敛到相对唯一的解。元优化实验的结果表明，MSBA可以作为LLM体系结构因此，所考虑的E-LLM使用MSBA作为其Meta优化器。优化结果表明，具有2个隐节点和3e5结构的LLM具有最佳的预测效果。为了确保所考虑的元优化策略优化场景，即整个速度曲线。可以看出，MSBA的性能明显优于第一速度曲线的其他技术。对于其他优化方案，PSO和ABC的性能也与MSBA的性能相当。然而，主要的一点是，对于所有这些优化方案，MSBA是两个最佳优化器之一（事实上，它可以为所有这些优化方案产生最佳结果表3竞争预测器的性能比较。预测值MSE RMSEMAPEMDAPER2第一速度曲线E-LLM0.05010.223810.257454.94870.9468粗体数字显示最合格的结果。粗体数字显示最合格的结果。E-ELM0.05090.224510.528755.42980.9462榆树0.05300.230210.701057.29320.9405BPNN0.05280.229710.769157.21230.9409RBFNN0.05270.229510.724857.20090.9410表2AR0.05710.239011.240262.63030.9340分析了层和节点对LLM性能的影响