欧洲计算优化杂志11（2023）100057约束单调方程的两个对称Dai-Kou型格式及其图象恢复应用Kabiru Ahmeda，d，Mohammed Yusuf Waziria，d，AbubakarSani Halilub，d，Salisu Murtalac，da尼日利亚卡诺Bayero大学数学科学系b/尼日利亚卡芬豪萨Sule Lamido大学数学系c尼日利亚Dutse联邦大学数学系d尼日利亚卡诺Bayero大学数值优化研究小组ARTIcLE IN fO ABSTRA cT保留字：搜索方向凸约束最小化投影算子全局收敛戴和寇（2013）的戴口法[12]是有效的用于解决无约束优化问题。然而，它的修改的变种是相当罕见的约束非线性单调方程。为了解决这一问题，本文提出了两种具有新的和有效的参数选择的自适应方案该格式是通过分析一个改进的Dai-Kou迭代矩阵的特征值和构造两个新的方向而得到的，并用于格式新方法是无导数的，这是处理非常大维度问题所需的属性这两种方法也满足文献中分析全局收敛性所需的在适当的条件下，证明了格式的全局收敛性，并通过求解约束非线性单调方程的四个有效格式的实验，此外--* 通讯作者：尼日利亚卡诺巴耶罗大学数学科学系。电子邮件地址：mywaiti. buk.edu.ng（M.Y.Waziri）。https://doi.org/10.1016/j.ejco.2023.1000572192-4406/© 2023作者。由Elsevier Ltd代表欧洲运筹学协会（EURO）出版。这是一个在CC BY-NC-ND许可证下的开放获取文章（http://creativecommons.org/licenses/by-nc-nd/4.0/）。可在ScienceDirect上获得目录列表欧洲计算优化杂志期刊主页：www.elsevier.com/locate/ejco2K. Ahmed等/EURO Journal on Computational Optimization 11（2023）100057ǁ ǁ−∇并将该方法应用于压缩感知中受脉冲噪声污染的图像恢复。版权所有2023作者。由Elsevier Ltd代表欧洲运筹学协会（EURO）出版。这是CCBY-NC-ND许可证（http：creativecommons.org/licenses/by-nc-nd/4.0/）。1. 介绍由于非线性方程组在许多实际问题中的实际应用，近几十年来，人们对它进行了研究，设计了各种有效的求解方案，文[16，34]中讨论的一般平衡问题和文[29，61]中研究的l1-范数正则化优化问题就是近年来这一概念的一些应用定义1.1.如果下列不等式成立，则称映射F满足单调性条件（F（x）− F（y））T（x-y）≥ 0，<$x，y ∈ Rn.（一、一）定义1.2.假设a1和a2是内积空间中的向量，则|≤100% ≤100%|≤ ǁa1ǁǁa2ǁ.（一、二）接下来，我们讨论约束方程组F（x<$）=0， x<$∈C，（1.3）其中F表示连续非线性映射，满足（1.1），其中C是简单闭凸非空集，易于投影。为了我们的研究目的，x=xTx，表示向量的l2范数。共轭梯度法（CG）是从事研究的人员的合适选择在大尺寸问题中，因为它需要更少的内存存储来实现，并且具有强大的全局收敛特性[14]。该方案主要用于求解极小化问题minf（x），（1.4）x∈Rn其中f表示在xk处具有梯度的实值光滑非线性函数，由f（xk）= g（xk）= gk给出。经典的CG方法通过以下更新实现x0∈Rn，xk+1=xk+ sk，sk=σkdk， k= 0，1，...，（1.5）K. Ahmed等/EURO Journal on Computational Optimization 11（2023）1000573KK−KK∈∞KK其中，xk表示第k个步长，σk>0是主要使用沿着该方法的搜索方向d k的特定线搜索策略[45]获得的步长，其由下式d0=−g0， dk+1=−gk+1+βkdk，k= 0，1，.，（一、六）其中gk+1=g（xk+1），βk是方案的（更新）参数，其公式定义至关重要，因为它描述了经典CG更新参数的公式是Fletcher和Reeves（FR）[19]，共轭下降（CD）[20]，Dai和Yuan（DY）[11]，Hestenes和Stiefel（HS）[25]，Polak-Ribière-Polyak（PRP）[39，40]，Liu和Storey（LS）[33]，定义如下：FRgk+12CDgk+12DYgk+12βk=ǁg ǁ2 [19]，βk= −dTg[20]，βk=dTy[11]，gTykgTykgTykβHS= k+1[25]， βPRP= k+1[39，40]， βLS= k+1[33]，kdTykkgk2−dTgk其中yk= gk+1gk。要查看一个有趣的调查，读者可以看到[21，35]和其中的参考文献使用（1.5）和（1.6）实现的CG方案被称为满足下降条件如果不k+1gk+<10， k = 0，1，...，（1.7）满意了。在大多数情况下，CG格式满足下降条件（1.7）就足够了，然而，对于格式来说，满足以下充分下降条件是至关重要的，特别是在分析全局收敛性不k+1gk+1≤ − cgk+1<$2， k = 0，1，...，（1.8）其中c是正常数。然而，并不是所有的CG方法都满足条件（1.7）或（1.8）。典型的例子是Hestenes和Stiefel [25]的经典CG方法以及Dai和Liao [13]对其进行的修改，即gT ykgT skβDL= k+1− tk+1， k = 0，1，...，（一、九）kdTykdTyk其中，t[0，）是该方法所依赖的参数，其最佳值仍然是研究的主题[6]。满足充分下降条件（1.8）的CG方法之一由Dai和Kou [12]提出，其中βk的公式如下：DDKKKK4K. Ahmed等/EURO Journal on Computational Optimization 11（2023）100057KKsykK∇∇k+1dTykτksTykKKS2k+1dTyk，τykKsTykKS2484L4.LK=gTykK.+K2K2KsTykgTsk= 0 1（1.10）其中参数τk在定标无记忆BFGS方法中取为1 [45]。有趣的是，βDK可以看作是（1.9）中Dai-Liao格式的自适应变体，=+k2KT.作者在[12]中指出，根据τk的选择，（1.6）和（1.10）满足充分下降条件（1.8）。在他们的分析中，表明对于由下式给出的τk的选择，sTykKS2ǁykǁ2sTyk，min.一、不KKS2，min.一、ǁykǁ2sTyk条件（1.8）对于c = 3，7，min的值是满足的。3，1mm和min。3、1分L >0。对于拥有充分下降条件（1.8）的CG方法的更多示例，我们请读者参考[10，21，35，66]及其参考文献。由于上面提到的CG方法的吸引人的性质以及（1.4）的一阶最优性条件，即f（x）=0，等价于（1.3），其中F=f表示某些非线性函数的梯度，研究人员在过去几十年中已经开发了他们的适应性来求解（1.3），搜索方向定义为d0= −F0，dk+1= −Fk+1+ βkdk，k = 0，1，.，其中Fk+1= F（xk+1）。Cheng [9]提出了一种改进的PRP型方法，通过将未修改的PRP方法[39，40]与投影策略[44]相结合来求解（1.3通过适当的假设，得到了格式的全局收敛性. Liu等人[32]通过将Powell方法应用于未修改的Liu-Storey方法[ 33 ]，开发了一种求解（1.3）的该格式满足全局收敛的条件，并在基本假设下证明了其全局收敛性.受[24]中提出的自适应方案的启发，Wang et al. [46]提出了（1.3）的一个方案，其中更新参数是通过修改经典的无约束优化HS方法[25]获得受[65]中修正的FR-型方法的启发，Li和Wang [30]提出了一种用于（1.3）的无约束变体的FR-型格式，其中F假设是对称的。利用基本条件证明了该格式的全局收敛性Liu和Li [31]将DY格式[11]与多元谱梯度方法[63]相结合，给出了求解（1.3）的多元DY格式。该格式的一个很好的特点是适合于非光滑非线性单调问题。受未修正的Dai-Kou方法[12]和[44]中的策略的启发，Ding等人[15]提出了一类修正的Dai-Kou方法，用于求解（1.3），Dai-Kou参数作为[12]和[36]中的选择或它们的凸组合。这些方法适用于βΣDKK−−，k、...、不，，K. Ahmed等/EURO Journal on Computational Optimization 11（2023）1000575非光滑的非线性问题，因为雅可比矩阵在其实现中被避免。在适当的条件下，证明了算法的全局收敛性最近，受[15]工作的启发，Waziri等人。[58]通过采用牛顿方向方法和投影策略[44]，提出了另一种求解（1.3）的Dai-Kou型方法证明了该方法的全局收敛性，并将其应用于脉冲噪声污染文献中的其他最近的方法可以在[22，42，43，48本文的主要工作是引入新的有效的修正Dai-Kou格式，它具有更好的参数选择来求解（1.3）。我们的动机来自于以下方面：(i) Dai-Kou方法主要用于（1.4）中的最小化问题(ii) 据我们所知，只有[15，58]中的方法可以求解（1.3）。(iii) 找到参数τk的其他选择是研究的主题，如[12]所述。(iv) [58]中提出的τk的选择是有效的，但在某些点上可能是负的。为了解决这些问题，我们将提出两个有效的Dai-Kou型方法，并改进Dai-Kou参数选择以求解（1.3），以添加到[15]和[58]中的方法中。此外，在图像去模糊的方法在现实生活中的应用将被证明，以证明他们的有效性。其他部分的工作概述如下：在第2节中，相关的概念，假设，动机的工作和收敛分析。报告和讨论的实验进行说明这两种方法第四部分介绍了这两种方法在图像去模糊中的应用，第五部分给出了工作2. 简要说明和动机在这里，一些重要的概念，假设和动机的拟议工作进行了讨论。我们从[44]中提出的投影策略开始，其中序列生成{wk}，使得wk=xk+σkdk，（2.1）其中σk>0是经由任何合理的线搜索技术沿着搜索方向dk计算的步长，并且其中F（wk）T（xk− wk）> 0。（二、二）N ow，对于（1. 3），且由于F满足（1. 1），we可以写6K. Ahmed等/EURO Journal on Computational Optimization 11（2023）1000572.2F（wk）. F（w）F（wk）T（x<$−wk）=（F（wk）−F（x<$））T（x<$−wk）≤0。（2.3）因此，考虑（2.2）和（2.3），我们推断：Hk={x ∈ Rn| F（wk）T（x-w k）= 0}，描述了一个将xk与x′严格分离的平面。文[44]a采用了这种方法，指出xk+1是xk在超平面Hk上的投影，即xk+1=xk− F（wk）T（xk− wk）K现在，让集合C如引言部分所定义然后投影到向量x ∈Rn的C定义为：PC（x）= arg min <$x − y <$：y ∈ C。PC：Rn→ C表示投影算子，具有非扩张性，<$PC（x）− PC（y）<$$> ≤ <$x − y <$，<$x，y ∈Rn，我们可以这样写<$PC（x）− yy ≤ <$x − yy，<$y ∈C.（2.4）接下来，我们提出在工作过程中需要的两个重要假设。假设2.1.问题（1.3）的解集C′是非空的。假设2.2.F满足以下Lipschitz连续性条件：<$F（x）− F（y）<$≤L x − y，x，y ∈Rn，（2.5）其中L为正常数.现在，如第1节所讨论的，具有Dai-Liao更新参数（1.9）的CG方法很少满足充分下降条件（1.8）。为了解决这个问题，近年来提出了一些四年期DL型计划详情见[3、4、23]。通过混合Zhang等人提出的三项方案。[64]和（1.9）中的Dai-Liao（DL）更新，Babaie-Kafaki和Ghanbari [7]提出了具有以下搜索方向的四项DLK. Ahmed等/EURO Journal on Computational Optimization 11（2023）1000577KKKK（yk+1）sTykKKKKKKKKKKKKKkKsykθk I − θkKsTykKk，sTykGTskgT dkdk+1=−gk+1+βHSdk− tk+1dk−k+1yk， k≥ 0。（二、六）|dTyk|dTyk基于最小化（2.6）的搜索方向矩阵与自缩放无记忆BFGS更新之间的距离，即，θ=skyT+yksTK+。1 个以上yksTykK作者得到了确保（1.8）成立的参数tt′θ =m a x.你好，1+ θk ǁykǁ2sTyk-（θk不KKS2其中θk是非负常数，取为1，skK或STYK。ǁykǁ2现在，如[12]中所解释的，近几十年来已经提出了各种Dai-Kou参数τk的选择，其中包括Oren和Spedicato [36]提出的选择，即1=sTyk2002年2月τkkyTHkyk，τk=，sTyk[37][38][39][τ3= sTH−1sksTyk，τ4=sTyk ，sTBksk”[11]“以其人之道还治其人之身”。τH=min.一、ǁykǁ2sTyk，τB=min.一、不KKS2其中Hk和Bk是对称正定矩阵。参数的选择在[12]中给出的τksT ykτk=KKS2似乎是目前为止最有效的。如[12]所述，可以研究和探索τk最近，考虑到文献中没有对解（1.3）的Dai-Kou方法的适应性进行研究，Ding等人[15]通过提出Dai-Kou参数的其他选择，提出了一类改进的解（1.3该方案的搜索方向定义为M2ΣθkKK，，，8K. Ahmed等/EURO Journal on Computational Optimization 11（2023）100057.−F+β（τ）d，为 k=1，2;k+1kk=KKK与dk+1+K−Fk+1，对于 k=0，（）=max.K（）FTdk[0 1]和β+τkβkτk，ηk+1K12，η∈，，（）=FTyk.+K2K2sTykFTskK（2.7）βk τk其中，τk的计算公式为k+1dTyk- τk一sTykǁyk ǁ2---k+1，dTykτk= STY，KK和BsTyk或其凸组合，即τk=KKS2τk=δτA+（1 − δ）τB，δ ∈ [0，1].K K在（2.7）中，和yk=yk−λkσk <$Fk <$dk，σkdk=sk，σk>0，（2.8）= 1 +最大-10−σk（y<$Tdk）==（）λk<$Fk <$Kσkdk，ykFk+1−Fk，FkF xk。作者证明了该方案不k+1dk+1≤−c<$Fk+1<$2，c>0。（2.9）最近，Waziri et al.[58]提出了另一种Dai-Kou型方法来求解（1.3），并应用于信号和图像去模糊。基于牛顿方向的思想F，，K. Ahmed等/EURO Journal on Computational Optimization 11（2023）1000579KMDK= 1+sTukτKukks k2−，sTuk10K. Ahmed等/EURO Journal on Computational Optimization 11（2023）100057KKKKKKK.−s<$yk=maxKKKKKKKK哪里uk=yk+Aksk+E Fkrsk，yk=F（k）−F（xk），sk=k−xk=σkdk，���Ak=m a x.−sTyksTsk，0个，E>0、 r >0。在这里，作者还表明，他们的方法的搜索方向满足不等式（2.9）。然而，仔细观察发现τMDK可能并不总是正参数。因此，受此启发，Ding等人的工作。[15]，Babaie-Kafaki和Ghanbari的四项方案 [7]以及计算τk的不同和更有效的近似的需要，我们提出了以下四项Dai-Kou搜索方向：FTSkdk+1=−Fk+1+βNDKdk+k+1y<$k，（2.10）哪里=FTβyākK.+k2斯泰克S<$TY<$kFTK什克（2.11）NDKK其中，k被定义为k+1德泰s¯Ty¯k -k2k+1，德泰与y<$k=yk+Qks<$k+GFkrs<$k，yk=F（wk）−F（xk），s<$k=wk−xk，（2.12）不KSTk，0分，（2.13）其中G为正常数，τk待定。式（2.10）中的修正型Dai-Kou搜索方向是通过在式（1.6）和式（1.10）定义的Dai-Kou搜索方向的修正版这种方法的灵感来自[7]中提出的四项方案此外，（2.12）中的yk的定义是受（2. 8）。引理2.3.由式（2.11）定义的参数βNDK定义得很我的律师。 当dTy<$k/=0时，β N D K定义得很好，通过扩展，s<$Ty<$k=0。很容易参见（2.13）th a tQ≥−s<$Tyk。因此，根据（2.12），（2.13）和s<$=σd的事实，我们有ks<$Ts<$kT Tσ2dTyk2k k kR2dky<$k≥dkyk−kk<$dk<$+ σkG Fkdkσ2dk2−τkQKK. Ahmed等/EURO Journal on Computational Optimization 11（2023）10005711=σkG Fkr dk2> 0。12K. Ahmed等/EURO Journal on Computational Optimization 11（2023）100057KKKKKKKKKKΣs¯s¯kKKKi=1KKKK+KK因此，我们得到s<$Ty<$k≥G<$Fk <$r<$s<$k<$2>0。□（2.14）现在，通过从公式2.10中定义的搜索方向dk+1中分解出Fk+1，根据公式2.11中定义的βNDK，我们有dk+1=−。I−`s<$ky<$Ts<$Ty<$k是的-是的s<$ks<$Ts<$Ty<$kQk+1+y<$k<$2s<$ks<$T（s<$T<$k）2不-k2XFk+1，也就是说dk+1=−Qk+1Fk+1。（2.15）类似地，通过交换Qk+1的第二项和第三项的位置，并在新的设置中从剩余的四项中分解出s<$k，我们可以将对称矩阵Qk+1重写为以下秩2更新：=y<$ks<$T s<$k（s<$Ty<$ks<$k2y<$k−τks<$Ty<$k 2s<$k −s<$k2y <$k 2s<$k+（s<$Ty<$k）2s<$k）TKK.Qk+1I−s<$T−K KT2 2kyk（s<$ky<$k）s<$k（2.16）现在，为了研究搜索方向（2.15）的下降性，我们对矩阵Qk+1进行特征值分析。y<$Ts<$k=0的事实意味着s<$k和y<$k是而不是零矢量。因此，给定S=spa n{s<$k，y<$k}，则dim（S）≤2且ddim（S）≥n−2。然后，存在一组相互正交的向量{，使得s<$Ti=y<$Ti=0，这最终会产生k k k kQk+1i= i，i = 1，.，n − 2。因此，对于i= 1，Qk+1的特征向量具有重数为1的特征值，1、......、 n−2。接下来，我们专注于找到剩下的两个特征值，say，η+和η−。此外，对称矩阵Qk+1的迹是通过将其所有特征值相加而获得的，即，（ǁs¯kǁ2ǁs¯kǁ2ǁy¯kǁ2τkK. Ahmed等/EURO Journal on Computational Optimization 11（2023）10005713Qk+1）=n−2 +τks +的（s）2−1kkk k=1+. + 1+η++η−，`（n-2）时间xKK14K. Ahmed等/EURO Journal on Computational Optimization 11（2023）100057K斯泰克K，u=−3KKǁ ǁ ǁ ǁK241312作为我们拥有+−s<$k<$2s<$k<$2y<$k<$2ηk+ηk=τks +（s）2−1。（2.17）kkk k此外，通过应用[45]中提出的方法，即det（I+u1uT+u3uT）=（1+uTu2）（1+uTu4）−（uTu4）（uTu3），设u1=−y<$k，u2=<$s<$k什克sTk）2u=（s<$Ty<$k<$s<$k<$2y<$k−τks<$Ty<$k<$2s<$k− <$s <$k<$2<$y<$k <$2s<$k+（s<$Ty<$k）2s<$k）T，我们得到Q的行列式k k k4小时2分钟det（ǁs¯kǁ2k+1Qk+1）=τks -1。KK利用方阵的行列式等于其特征值的乘积这一已知事实，我们可以进一步写出：+−sk2ηkηk=τks-1。（2.18）KK尽管如此，为了使矩阵Qk+1是正定的，并最终满足公式2.15所需的下降条件，它η+η−>0，它可以在任何时候Kτk>Kyāks¯Ty¯k .（2.19）因此，由式（2.17）和式（2.18），设Λ=s<$Ty<$k，χ=s<$k和Φ=y<$k，Qk+1的其余两个特征值可以得到：1美元。 χ2χ2Φ2- 是的.χ2χ2Φ2Σ2χ2Φ2⎤ηk±=2πτkΛ+ Λ2−1 ±τkΛ+Λ2−3+ 4Λ2-400（2.20）通过（1.2）和一些代数简化，可以推导出：0<ηk−≤1 ≤η+。（2.21，K. Ahmed等/EURO Journal on Computational Optimization 11（2023）10005715）这清楚地表明，ηk−是矩阵Qk+1的最小特征值。因此，根据（2.15）式，对于ηk−=η∈（0，1]，我们有一个16K. Ahmed等/EURO Journal on Computational Optimization 11（2023）100057k+1+1个KKKKτk，q1s<$Ty<$不k+1Fk+1=−FTQk+1Fk+1≤−η<$Fk+1<$2。（2.22）现在，在[47]中已经解释过，在矩阵分析问题中，条件数是至关重要的，因为它衡量了解决方案对数据扰动的敏感性。此外，矩阵Qk+1的条件数定义为：κ（Qk+1）= ×。（2.23）推广（2.23）式，我们从不等式（2.21）中看到，我们可以写为<$Qk+1<$=η+且<$Q−1<$=η−−1。因此，我们可以将公式2.23改写为：k+1kη+κ（Qk+1）=k，（2.24）ηk−这被称为Qk +1的谱条件数。从式（2.24）可以看出，ηk−和η+之间的距离越大，条件numberκ（Qk+1）越大。这对于该方案是不利的，因为大的κ（Qk+1）值将使Qk+1病态，这将因此影响该方案的性能。因此，取τk作为κ（Qk+1）的最小值是合适的，这将提高改进的Dai-Kou格式的数值稳定性。因此，利用这个想法，（2.20）并进行一些代数简化，我们得到τk的最优选择为：=arg min（+−三天Kyāk，τkτ ηk− ηk）=ss¯Ty¯k这清楚地确保了ηk−b尽可能接近η+，从而使κ（Qk+1）尽可能接近1。然而，在某些情况下，τ k可能不满足（2.19）式和ulti-τ k（2.22）式，因此我们建议如下两个修正的选择：.ǁy¯kǁ2ΣKK和τk= max.τk，q2+yāk是的，（2.26）KK其中q1>1且q2>0。算法2.1.新戴口法1（NDKM 1）步骤0：设置容差<$0>0，猜测x0∈ C，参数<$0 ∈（0， 1），<$0> 0，r>0，0<< $2。<设k= 0，d0=−F0。DΣτ <$k=max，（2.25）K. Ahmed等/EURO Journal on Computational Optimization 11（2023）10005717第一步：求F（xk）。如果<$F（xk）<$≤ <$，则停止。如果没有，请继续下一步。18K. Ahmed等/EURO Journal on Computational Optimization 11（2023）10005722002年。（2.29）F（w）≥关于我们关于我们K≥0m T m 2.，（+）2步骤2：设wk=xk+σkdk，其中σk=mk，mk表示最小非负整数m，保持。−F（xk+m dk）T dk≥mkanjinkanjin，（2.27）步骤3：如果wk∈ C且<$F（wk）<$$> ≤<$，则xk+1=wk，停止。否则，获得xk+1=PC[xk−<$μkF（wk）]，（2.28）与μk= F（wk）T（xk− wk）K步骤4：通过公式2.10，公式2.11，公式2.12，公式2.13和公式2.25计算方向dk+1。第5步：设置k=k+1，然后转到第1步。备注2.4.我们在（2.26）中用τk定义了第二个Dai-Kou型算法，我们称之然而，它被省略了，因为它是算法2.1的变体。引理2.5. (1)假设dk和xk是由算法2.1得到的序列。 设F在Rn上连续，对任意k 0.那么，存在一个非负整数2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2.2(2)假设2.2成立，其中xk和wk由算法2.1生成。 然后，在算法2.1的步骤2中生成的步长σk > 0满足以下不等式：σk≥min1吨/小时Fk2吨/小时- 是的（二点三十分）证据为了证明第一部分，我们假设存在k00，对于每一个非负整数m，在第k次迭代中不满足线扩张条件（2.27）。这将意味着，对于所有m≥0−F（xk0+dk0）dk< 0 dk0。考虑F在Rn上连续，则取极限为上述不等式中的整数m逼近无穷大，得到F（xk0）Tdk0≥0，这与公式2.22中的不等式明显矛盾，即K. Ahmed等/EURO Journal on Computational Optimization 11（2023）10005719/T2关于我们∈关于我们KF（xk0）T dk0 ≤ −η <$F（xk0）<$2 <0。这样，所需的结果就建立起来了。对于引理的第二部分，如果在某个迭代点xk算法终止，则F（xk）= 0或F（wk）=0，这意味着xk是一个解。现在，假设F（xk）=0。则由式（2.22）可推出dk=0。现在我们证明（2.27）中的线搜索技术总是以有限步数结束从式（2.27）我们看到，如果σk=1，则σk=σk<$−1将不满足式（2.27），即，−F（w<$k）dk<$σ<$k<$dk<$，其中，wk=xk+σkdk。 应用假设2。2和（2.22），我们有一个η <$F（xk）<$2≤ −F（xk）Tdk=（F（wk）−F（xk））Tdk−F（wk）Tdk≤Lσ<$k<$d k<$2+<$σ<$k<$dk<$2≤σk<$−1（L+k）<$dk<$2，这证明了（2.30）式成立。 □引理2.6.假设2.1和2.2成立，其中xk和wk从算法2.1获得。则以下成立：Limk→∞ σkdk= 0。（2.31）证据我们首先证明xk和wk是有界序列。对于（1. 第三章C和by应用（2. （2.28），（2.29），以及0 <≠<2的事实，我们得到xk+1−x<$2=PC（xk−μkF（wk））−x<$22≤xk−=<$（xk−x<$）− <$μkF（wk）<$2=<$xk−x<$$>2−2<$μkF（wk）T（xk−x<$）+<$2μ2<$F（wk）<$2（2.32）2T2 2 2≤−2=xk−x2−（2−）（F（wk）T（xk−wk））2（wk）≤xk−x2，因此导致20K. Ahmed等/EURO Journal on Computational Optimization 11（2023）100057--ǁ−≤Kxk+1−x≤（2.33）同样，递归式（2.33）表明，xkx<$x0x<$。因此， xkx<$ 是一个递减收敛序列，这意味着xk是有界的。根据假设2.1、（2.5）和（2.33），我们得到：≤L。设L=φ，我们得到利用公式2.27和公式2.1，我们得到：<$F（xk）<$≤ φ。（2.34）F（wk）T（xk− wk）=−σkF（wk）Tdk≥<$σ2<$dk<$2 =xk− wk2。（2.35）根据（1.1）和（1.2），我们可以写出：F（wk）T（xk−wk）=（F（wk）−F（xk））T（xk−wk）+F（xk）T（xk−wk）≤xk− wk。根据公式（2.34）、（2.35）和（2.36），我们得到<$$>xk−wk<$2≤ <$F（xk）<$$> xk−wk <$，（2.36）这给φxk−wk所以，{wk}是绑定的。 N ow，{wk}是有界的，意味着{wwk−x}是有界的，即，b>0ex是这样的：对于eachx∈C，其中k−x≤b。（2.37）再次从（2.5）和（2.37），我们有≤Lb。
