大规模抗差估计算法与自适应内核的研究

15559大规模抗差估计Huu Le and Christopher ZachChalmers瑞典科技大学@chalmers.se摘要由于大规模鲁棒参数估计的高度非凸性质，在输入数据被大量或未知部分的离群值污染的现实应用中，避免不良局部最小值是具有挑战性的。在本文中，我们介绍了一种新的求解器的鲁棒估计，具有很强的能力，以逃避穷人的局部极小。我们的算法是建立在传统的分级优化技术，这被认为是国家的最先进的本地方法来解决问题，有许多穷人的最小值。我们的工作的新颖性在于引入了自适应内核（或残差）缩放方案，这使我们能够实现更快的收敛速度。像其他现有的方法，旨在返回良好的局部极小值的鲁棒估计任务，我们的方法放松了原始的鲁棒问题，但适应过滤器框架从非线性约束优化自动选择放松的水平在实际大规模数据集上的实验结果11. 介绍鲁棒参数估计在许多计算机视觉任务中起着至关重要的作用，范围从低维模型拟合（例如，基本或本质矩阵估计[17]）到非常高维空间中的大规模实例，其可以包含数十万个测量（例如，姿态图优化[19]、SLAM [24]和光束法平差[28]）。当输入数据相对干净且粗离群值百分比较低时，可以在最大似然框架下容易地获得最佳参数集，即，通过最小化平方残差的和[29]，并且可以使用流行的现成的非线性最小二乘解算器（例如，Ceres [1]）。 然而，在存在大部分总离群值的情况下，标准最小二乘拟合经常产生偏向离群测量的结果1我们的C++实现可以在https://github.com/上找到。条款。为了在低维设置中实现鲁棒性，优选随机化方法，例如随机采样一致性（RANSAC）[11]及其变体[7，6]还存在提供全局[5]或局部解[20，4]以改进RANSAC的然而，它们不适用于大规模环境，其中必须采用一类M-估计量[18]。在此框架下，如果离群值的分数很小，则凸的Hu-1或Hu- ber核可以是足够的。然而，为了实现具有大离群值比率的参数估计任务的最大鲁棒性，通常采用准凸核，这在大多数情况下会导致非凸问题，在参数空间中存在许多次优局部极小值和平坦区域众所周知，解决这种非凸问题是具有挑战性的，因为它很可能收敛到一个差的局部最小值。我们的工作提出了一种新的算法来解决这个问题。已经提出了许多优化方案来解决稳健估计的高度非凸性，[32]评估了一些有前途的方法。其中，分级优化（graduated optimization，简称GNC）是计算机视觉领域中最有前途的一种方法，因为它具有很强的逃避劣解的能力。因此，它们已被广泛用于许多鲁棒接头应用中（例如，[3、21、32、30]）。然而，使用GNC需要仔细设计的渐进优化计划，这需要事先了解的问题。错误的时间表可能会导致在几个简单的问题实例中不必要的长运行时间，其中提供快速收敛的基本技术（如迭代重新加权最小二乘法（IRLS））是足够的，或者由于局部最小值无法有效避免而导致不良结果（如图2所示）。为了解决上述问题，本文提出了一种新的大规模抗差估计算法，它与GNC算法一样具有竞争力，但不需要固定的优化时间表。为了实现这一目标，我们建议将尺度参数视为与原始参数联合优化的变量。的25560∈∈--Nvk=12R00›→√›→Np--将尺度参数引入到原始问题中导致约束优化问题，然后可以使用滤波器方法的新适应来有效地解决该约束优化问题[12]。在几个大规模光束法平差数据集上的实验结果表明，与现有的最先进的鲁棒估计方法相比，我们的方法提供了有竞争力的目标值以及收敛速度。2. 相关工作迭代再加权最小二乘法（IRLS [16]）无疑是这种方法的主要思想是将每个测量值与基于其当前残差计算的权重相关联，然后最小化加权最小二乘的实例。在每次迭代之后更新权重，并且重复该过程直到收敛。已经证明，通过适当的权重初始化，IRLS可以提供有竞争力的结果[34]。但是，对于更复杂的问题，可以选择rogate函数作为原始鲁棒内核的缩放版本（参见第2节）。3.2），这导致比原始成本更少的局部极小值分级优化和GNC已经证明了它们在几个大规模鲁棒估计问题中的实用性，与其他方法（如IRLS或提升变体）相比，它们将优化过程引导到相对较好的局部最小值[32]。3. 背景3.1. 问题公式化本文研究了M估计框架下的大规模稳健估计问题。假设我们给出一组N个测量值，让我们用ri（θ）Rp表示由第i个观测值引起的残差向量，其中向量θRd包含所需参数。在鲁棒成本优化中，我们希望获得求解以下程序的最佳参数θεΣN由于IRLS很容易陷入局部极小值，因此转向解通常不令人满意θ= arg min（θ）（θ）：=θi=1（||ri（θ）||），（1）为了解决鲁棒估计的非凸性，Zach [31]利用半二次最小化原理[14]并提出在“提升”域中解决该问题，其中非凸鲁棒核在更高维空间中通过新函数重新参数化。重 新 制 定 的 鲁 棒 估 计 问 题 ， 包 括 原 始 参 数 和 新introduced未知数表示的置信权重的测量。通过采用这种提升方法，其中，R是满足以下性质的对称鲁棒核[14，32]：φ（0）= 0，φ′′（0）= 1，且映射φ：R+（1）x=y（2z）是凹的且单调递增。问题（1）作为几个鲁棒拟合任务的一般框架，其中参数θ和残差向量ri（θ）的定义取决于具体应用。例如，在稳健度量光束法平差中，参数向量θ由相机矩阵集合组成鲁棒核中的平坦区域可以通过间接地将鲁棒性表示到新提升的目标中，其对不良局部最小值不太敏感。利用升降机构，还介绍了不同的与[31]中提出的乘法半二次（M-HQ）提升方法相比在[33]中还讨论了结合M-HQ和A-HQ的双重提升方法。然而，上述提升方法具有一些局限性。特别地，[34]证明了半二次最小化的成功依赖于置信权重的适当初始化，并且M-HQ在具有多个“竞争”残差的问题上失败除了提升，另一种解决包含许多不良局部极小值的问题的流行方法分级优化的基本概念是成功-{Rj，tj}j=1连同三维（3D）点XK（ Nv和Np分别是摄像机的数量和点的数量），并且每个残差向量rij∈R2被定义为：rij（θ）=uij−π（RiXj+ti），（2）其 中 ， π ： R3→R2 被 定 义 为 π （ X ） = （ X1/X3 ，X2/X3），并且uij是对应于在图像i中提取的第j个3D点的2D关键点。鲁棒的核函数可以从广泛的函数中选择（参见[32]）。这种选择通常会影响结果优化问题的鲁棒性和凸性2莱姆例如，如果选择（x）使得（x）= x，得到非鲁棒最小二乘估计，其易于优化但对异常值非常敏感。在这项工作中，如果没有其他说明，我们选择了平滑截断核，通过更容易最小化的代理函数来近似原始非凸成本函数（即，领导ψ（r）=..2Σ12 1−r2如果r2≤τ2，（三）更少的局部最小值）。在鲁棒成本优化中，τ2/4否则。2τ235561θK151050 2 4 6 8 10图1：1-D鲁棒均值拟合问题的图示，其中具有缩放内核的代理目标（红色）包含比原始成本（蓝色）更少的局部最小值。2.221.81.60 5 10 15 20 25 30图2：错误的GNC时间表可能会导致不良结果（GNC-2，并不比IRLS好）或不必要的迭代（GNC-5）。这里，GNC-2和GNC-5分别表示水平数k设置为2和5的我们提出的方法提供了有竞争力的目标值，收敛速度比GNC。3.2. 分级优化及其局限性在本节中，我们简要回顾了分级优化（或分级非凸性[3]），这是一种流行的技术，通常用于避免高度非凸问题中的局部极小值。这也是我们在这项工作中提出的新方法的基础。间接评估优化由于其逃避不良局部最小值的能力而实现了用于大规模鲁棒估计任务（最重要的是，束调整问题）的现有技术的结果然而，在实践中，有必要定义具有固定数量的水平k的时间表。这需要一些关于问题的知识，以便可以为k分配适当的值。k的大值可能导致不必要的迭代，这转化为高运行时间。另一方面，设置一个低的k可能无法为优化器提供足够的缩放级别，以避免不良解决方案（如图2所示）。此外，在一些简单的应用中，尽管GNC收敛到比其竞争者更低的目标IRLS），收敛目标之间的差异可能微不足道。在这种情况下，IRLS求解器可以在几次迭代内提供可接受的结果，而GNC求解器可能需要更长的时间来遍历所有k个级别。然而，使用IRLS会带来收敛到糟糕的局部最小值的风险。因此，在选择求解器和相关联的超参数（诸如GNC中的退火时间表）与所得到的效率之间存在权衡4. 自适应核缩放在本节中，我们描述了我们的新的解决方案，强大的参数估计，解决了GNC的上述弱点。我们的方法的动机是渐进的优化和它的能力，以避免不良的局部极小值。然而，与采用固定核尺度方案的先前分级方案不同，我们将每个残差的尺度视为变量，并允许尺度与参数θ的集合联合优化。这使我们得到了一个新的鲁棒估计公式，这是一个约束优化问题，可以写为它也在所使用的粗到细方案中被利用，在光流的变分方法中[22]。这种技术背后的主要思想是通过最小化一系列问题（k，k）来优化原始的高度非凸的成本函数k。- 是的- 是的，0），其中0=，k+1“更容易”minθ，{σi}ΣNi=1.Σψǁri()ǁσiS.T. σi= 1，. - 是的- 是的、N.（五）优化比blog。从原始的鲁棒核函数开始（如（1）中定义的），通过一个缩放版本的函数来获得一组“更容易”的问题。特别地，从具有目标函数θ（θ）的原始最小化问题，每个问题θk用新的核θk构造，k（r）=s2其中尺度参数被选择为使得sk+1>sk并且s0=1。图1显示了一个一维稳健均值估计的示例，其中我们绘制了具有原始内核及其缩放版本（s=3）的问题可以看出，在这种情况下，缩放的内核导致没有不良局部最小值的问题据我们所知，依靠梯度的方法与例如相反。分级优化，它保持通常是单个平滑参数，我们为每个残差引入缩放因子σi因此，每个尺度σi在优化过程期间不同地演变很显然，(5) 似乎没有帮助，因为严格地强制约束σi= 1（即，自始至终保持可行解）使得（5）等价于原始任务（1）。诸如分级优化的策略不保持严格可行的迭代，而是使用σi的时间表来最终满足约束。将原始问题（1）转化为约束优化问题（5）具有两个潜在的好处：首先，更大的优化方法集是可应用的，以及第二，中间解可能是不可行的，但同时对应于更平滑的问题实例。注意，为了得到（5）的解，除了10435562→∞中文（简体）∈←∪←∈i=1FM2联系我们ǁǁ参数的初始化θ0 ，也可以将尺度σi初始化为大于1的值，并期望求解器将σi驱动到（5）的可行区域σi=1。因此，通过考虑问题（5）并将σi设置为大于1的初始值，我们有效地进行了内核缩放，这提供了逃避不良局部最小值的可能性。与渐进优化相比，优化方法的内部工作原理决定了最终如何实现σi的可行性在然后可以使用合适的局部方法来优化所得到的目标。通常，μ根据指定的时间表单调增加，以确保解收敛到（7）的可行域。这种方法的一个缺点是必须仔细调整µ的初始值以及如何增加它。惩罚方法的另一个实际问题是，只有在以下情况下才能保证解决方案的可行性：（除非使用精确但通常不平滑的惩罚器h[25]）。特别地，σi可以非单调地更新，并且因此在优化方法的迭代期间增加。在这项工作中，我们建议利用过滤器方法来解决约束问题（5），因为它是一个高度灵活和非单调的框架约束优化问题。另一种可能更直观的转换鲁棒成本（1）的方法是复制残差并强制一致性，例如：算法1使用过滤器方法要求：初始解x0，滤波器裕度α，最大值1：1：t0，，F2：whiletrue和tmax iterdo3：如果xt是平稳的，则4：断裂;5：如果结束6： f< $ft−αht;h<$ht−αhtmin Σ P.（P. P.）s.t.p=r（θ）。（六）7： F←F <${（f<$，h<$）}我我我θ，{pi}我8：女性电话+1←{x|f（x）≥f，h（x）≥h}在这种设置中使用滤波器方法可以被证明与加性半二次最小化[15]有关，并且实验上我们发现它远不如使用（5）作为起点。5. 过滤法优化通过引入尺度变量{σ}，我们得到了一个9： F F Ft+110：计算xt+1/F（第5.2.2）11：如果f（xt+1）0指定滤波器裕度，以确保滤波器可接受的新点必须引起足够的重新测量。35564θ我我F∈FH--∈我--θ我函数f（x）和h（x）对应于f（x）= ΣNi=1.Σψǁri()ǁ1+s2h（x）=Σs2。（九）我图3：过滤器的示例。x轴是目标，而y轴是约束冲突。灰色区域表示由三个相互非支配对（以红色显示）定义的禁区使用滤波器方法的优化涉及从当前xk中找到不受滤波器支配的新值xk+1减少f和h的步骤是优选的（如蓝色箭头所示在目标值或约束违反的情况下。因此，通过这样的裕度确保收敛到可行解计算xt+1的过程（Alg.1)将在下一节中讨论。一旦得到xt+1，如果对象ive被约化，则对（f，h）除去否则，它被保留在过滤器中。为k+15.2.1合作步骤An appealing feature of Algorithm 1 is, that it offers a flexi-ble choice of algorithms to perform variable update, as longas xt+1 is accepted by the filter (i.e., xt+1/F，如第10行所述。10算法1）。类似于用于非线性约束最小化的滤波器方法，有两个可能的步骤来获得新的可接受的最小值：在这一部分中描述的协作步骤是算法的主要工具。它取代了序列二次规划（SQP）作为一般非线性规划[12，26]的过滤方法的主要步骤协作步骤由作为回退选项的恢复步骤补充，这在以下部分中描述。合作步骤的动机是减少主目标和约束违反（即，f（x）和h（x））足够的量（如由裕度参数α引起的）导致保证滤波器可接受的新解我们使用二阶f和h在当前值xt附近的近似，计算x的最大灵活性（因此最快收敛）过滤器应包含尽可能少的元素，保证收敛到一个可行的解。另一方面，向过滤器添加已经可行的迭代会导致零余量，因此是有害的。仅证明约束违反的充分减少的新迭代导致临时添加的过滤器元件成为永久的。可以证明[26]，过滤器元素总是严格不可行的，但聚集点是可行的。这个过程一直重复到问题的一个稳定点. 感兴趣的读者可以参考[12，26]以获得更详细的信息。f（xt+x）=f（xt）+gTx+xTHfx，h（xt+x）=h（xt）+gTx+xTH hx，（10）其中gf和gh是梯度，而Hf和Hh分别是f和h的真实或近似海森。因此，可能使f和h两者都减小的协作更新方向f x由[13]给出：arg minmax（11）∆x其中，f=gTx+fxTH fx，且fh=gTx+fh5.2. 稳健估计的应用我们求解（5）的方法严格遵循算法1中描述的步骤。然而，我们的工作的主要贡献是一种新的策略来计算xt+1，这是由过滤器接受。此外，我们的方法是能够杠杆年龄现有的非线性最小二乘求解器。我们限制σi大于或等于1，因为σi（0，1）将导致比（1）更难的问题。因此，将σ i重新参数化为σi=1+s2是方便的，并且我们可以将问题（5）重写如下我的天啊 这是一个凸二次规划，可以使用任何迭代求解器有效地求解。但随着前面讨论过，我们的最终目标是将我们的算法集成到现有的求解器中，[34]之后，我们将问题（11）放松为，而不是求解，我们的目标是找到解决xt= arg minmax∆x= arg minµff+µhh，（12）∆x其中μf>0和μh>0，且μf+μh=1，minθ，{si}ΣNi=1.Σψǁri()ǁ1+s2S.T. si= 0 i。（八）选择系数。β >0是目标之间的比例因子，通过求解βx隐式确定。添加Levenberg-Marquardt型阻尼[23]和参数λ，35565在（7）的上下文中，设x=[θTsT]T，其中s=[第1条。- 是的- 是的 sn] T是收集s i的值的向量。最后，xt=（µfHf+ µhHh+ λI）−1（µfgf+ µhgh）。（ 十三）35566F−−−∇如果新的λ xt+1= xt+ λ xt是可接受的，则λ减小，否则增大。我们参考补充材料了解更多详情。通过适当选择µf、µg和足够大的λ，可以证明，只要gf和gf不指向相反的方向，则λxt会导致f和g的减少[34]。如果xt+xt导致f和h的充分减小，则该新解通过构造可否则，新迭代仍然可以是可接受的，但是增加f或h（并且因此是非单调步长）。如果滤波器不能接受新的解决方案，则应用非单调迭代步骤（ 这 也 导 致 f 或 h 的 增 加 ） 。 The filter conditionensures that h eventually con- verges to 0.5.2.2复原步骤尽管公式13给出了一种计算优选更新步长的方法在这种情况下，我们回到下面描述的简化步骤。在滤波器方法文献中，恢复步骤本质上减少了约束违反，并且如果SQP步骤没有产生可接受的新约束，则应用恢复步骤。请注意，在我们的设置中，仅仅减少约束违反是微不足道的，并且可以通过对所有i设置si=0来获得完全可行的解决方案。一个好的恢复步骤旨在为下一个主要步骤（传统滤波方法中的SQP和我们的方法中的合作步骤）产生一个好的起点。因此，我们的恢复步骤的目标是为随后的合作步骤确定合适的新解决方案。对于这样的新点的一个简单的标准由f和h的梯度之间的角度给出，该角度将被最小化以便于协作最小化。我们有意的设计选择是在恢复步骤中仅调整参数si，即6. 实验结果在本节中，我们评估我们提出的算法的性能，并将其与当前最先进的大规模鲁棒估计算法进行比较，包括：IRLS [16]，乘法半二次提升（M-HQ）[31]，如[32]中实现的分级非凸性（GNC）和LM-MOO [34]。为了简洁起见，我们将我们的方法命名为ASKER（代表KERnels的自适应S在最近的工作[34，32]之后，我们使用大规模光束法平差作为主要问题来测试我们的方法，并且一小部分实验致力于评估立体密集对应问题。我们实现了我们的算法在C++的基础上提供的框架SSBA2，这是建立在直接稀疏线性求解器3。所有实验都 在 具 有 AMD Ryzen 2950X CPU 和 64GB RAM 的Ubuntu工作站上执行。基于SSBA框架还实现了其他方法。为了更好地可视化图形，我们只将我们的算法与上面列出的方法进行比较，这些方法是基线和最先进方法的最佳代表。如[32]中所报道的，与IRLS相比，对内核进行平方根[10]或Triggs校正[29]等方法并没有提供太多的改进，因此我们在实验中省略了这些方法所有方法都从同一个起点初始化。本文报告了主要的定量和定性结果，并在补充资料中提供了更多的光束法平差和重建结构的结果。6.1. 稳健光束法平差我们使用[2]提供的众所周知的数据集进行稳健的光束平差实验4。该数据集包含根据[2]中所述的一组图像重建的3D结构整个重建分为五个子数据集：瓢虫，特拉法加广场，杜布罗夫尼克，威尼斯，和最后。我们提取了20个序列（列表在补充材料中提供），这些序列被认为是-x=γ.Σ0，（14）∆s对于鲁棒估计具有挑战性，并已在最近的工作中使用[34，32]。我们进行度量束调整，优化相机姿势和3D其中γ是由网格搜索确定的步长，γ= argminn（gf（x+ nx），gh（x+ nx））.（十五）γ请注意，调整s会影响gf和gh。搜索方向选择为s=s。由于h的特定选择，该搜索方向与到h的全局最小值s = 0的方向一致，具有负梯度sh（s），并且具有优化h的牛顿步长。我们将对γ的搜索限制在[1/ 2，1/ 2]范围详细我们的算法的总结在补充材料中提供。点，残差函数如（2）中所述。在下文中，由于篇幅限制，我们仅报告12个代表性数据集的结果。其余结果见补充材料。我们调查的性能的算法，通过执行所有的方法，最多100次迭代。（µf，µh）的值设置为（0. 七比零。（3）恢复性。滤波器容限α设置为10 −4，所有si初始化为5。0为所有数据集。2http://www.suitesparse.comhttps://github.com/chzach/SSBA4数据集可从www.example.com下载https://grail.cs。washington.edu/projects/bal/35567IRLSM-HQGNCLM-MOOASKER2.42.221.81.6110001050010000950090008500800075007.576.561.81.61.41.211.40 5 10 15 20 2570000 5 10 15 205.50 50 100 150 2002500.80 5 10 151042.82.62.42.22(a) 特拉法加-126(b) 特拉法加-13810410.5109.598.587.56500600055005000450040003500(c) 杜布罗夫尼克-1501042.82.62.42.22(d) 杜布罗夫尼克-161.80 10 20 30 40705010015020025030030000 1 2 3 41.80 10 20 30 401.21.151.11.0510.950.90.85(e) 特拉法加-2010 100 200 300400(i)杜布罗夫尼克-2532.32.22.121.91.81.71.61.5(f) 杜布罗夫尼克-2020 20 40 60 80100120(j)瓢虫-3186.565.554.543.532.5（g）特拉法尔加-210 20 40 60 80100(k)最终-93特拉法加-2259876540 200 400 600(l)最后-394图4：算法的性能。我们将我们的（ASKER）与标准IRLS，M-HQ [31]，GNC [32]和LM-MOO [34]进行比较，这些都是最先进的方法。110的情况。50的情况。5011号。021. 041. 061. 081. 11号。12个1. 14τ011号。051. 11号。151.21. 251. 3τ图5：100次迭代后的最佳成本（左）和平均成本（右）的性能曲线，对应于图5中的详细结果。4.平均成本可以被看作是图1中的“曲线下面积”。4，并且是关于目标物相对于相对于目标物减少的速度的一个度量。迭代。图图4描绘了最佳遇到的目标值相对于用于划分方法的运行时间（以秒为单位）的演变从该图中可以提取的第一个信息是，通过我们的方法获得的最终目标值与GNC或LM-MOO找到的最佳值相似或更低。正如预期的那样，经典的IRLS在大多数问题实例中都会遇到局部最小值问题（请参阅补充材料以获得重建的视觉结果结构化的结构，其中我们表明，ASKER提供了更好的结构相比，通过IRLS获得的穷人的解决方案）。M-HQ提供比IRLS更好的结果，但通常不如GNC，LM-MOO和我们的竞争力。图5总结了图5所示的发现。4使用性能简介[8]。性能曲线表示每种方法的问题实例的比例ρ104104104105104104104IRLSM-HQGNCLM-MOOASKERρρ35568ˆ该方法与最佳方法相比在因子τ内（相对于所选择的性能测量）。在图5（左）中，性能曲线w.r.t.到100次迭代后达到的最佳目标值。在一些应用中，目标值的快速减小是令人感兴趣的，例如，在实时场景中，求解器可以随时中断。我们使用前100次迭代的平均目标值作为方法降低目标的速度的粗略指标（也可以理解为图中相应图表下的面积）。4）.所得到的性能曲线如图所示。5（右）。从这些图中得到的信息是，我们提出的方法（ASKER）在两种情况下都是领先的，即。在大多数情况下产生非常有竞争力的局部最小值和表1示出了针对一些数据集通过算法获得的内点分数（内点该表与图4中所示的性能一致，其中与GNC和LM-MOO相比，我们的算法实现了具有竞争力的结果。图6：Teddy（顶部）和Cones（底部）图像对的密集对应实验的视觉结果。从左至右：LM-MOO，HOM和Ours。3210泰迪锥表1：通过所述方法实现的内围值百分比。6.2. 密集对应在[34]之后，我们还在立体稠密对应问题上测试了我们的算法，这也被认为是鲁棒估计中的一个具有挑战性的问题。鲁棒目标可以写为[34]，图7：通过密集对应的方法获得的最终目标7. 结论和未来工作在这项工作中，我们提出了一种大规模的鲁棒性估计方法，使用优化驱动的时间表来引导中间优化任务的难度。这就提出了一种与渐进优化技术相对比的方法--Σηp∈VΣKk=1a（dp−dp，k）+Σq∈N（p）reg（dp−dq）<$，（十六）诸如渐变非凸性之类的问题，从简单到相继更难的问题实例的单调调度通过使用自适应调度，在我们的实验中，所提出的方法实现了一个很好的平衡之间的快速减少目标的目标和达到一个有竞争力的局部最小值。其中v是图像V中的像素，N（p）是4邻域，并且dp，k是k局部极小的位置。参数η被设置为4。我们的方法的参数设置遵循光束法平差实验，并且所有方法都以最大150次迭代执行。我们还比较了我们的算法与GNC和LM-MOO在这个实验中。图6显示了视觉结果，而图7绘制了通过这些方法获得的目标。观察到我们在这个问题上也取得了有竞争力的结果，我们的方法提供了比LM-MOO和GNC更低的目标，并提供了视觉上更好的深度图估计。104IRLSM-HQGNCMooASKER瓢虫-4980.482.382.181.982.3特拉法加-2150.969.068.368.869.10特拉法加-20166.3169.269.168.869.33特拉法加-22567.0569.869.970.0170.0135569由于过滤器方法是一个框架放松（或平滑）困难的优化问题，在一个合理的方式，未来的工作将调查到进一步的应用这项技术。今后工作的另一个方向是进一步利用问题结构，如捆绑调整中未知数的两部分性质。确认这项工作得到了由Knut和Alice Wallenberg基金会资助的Wallenberg AI，自治系统和软件计划（WASP）的部分支持。35570引用[1] Sameer Agarwal，Keir Mierle，and Others. 谷神星解算器http://ceres-solver.org网站。[2] Sameer Agarwal，Noah Snavely，Steven M Seitz，andRichard Szeliski.大捆调整。在欧洲计算机视觉会议上，第29施普林格，2010年。[3] 安德鲁·布莱克和安德鲁·齐瑟曼。视觉反射。一九八七年[4] Zhipeng Cai，Tat-Jun Chin，Huu Le，and David Suter.双凸规划的确定性一致最大化在欧洲计算机视觉会议（ECCV）的会议记录中，第685-700页[5] Tat-Jun Chin ， Pulak Purkait ， Anders Eriksson ， andDavid Suter.树搜索的高效全局最优共识最大化。在IEEE计算机视觉和模式识别会议论文集，第2413- 2421页[6] Ondrej Chum和Jiri Matas。与prosac匹配-渐进样本共识。在2005年IEEE计算机社会计算机视觉和模式识别会议（CVPRIEEE，2005年。[7] Ondˇrej Chum、Jiˇr´ı Matas和Josef Kittler。局部优化的ransac。在DAGM。施普林格，2003年。[8] 我是D·多兰和乔·J·莫雷。使用性能配置文件对优化软件进行基准测试Mathematical Programming，91（2）：201[9] 丹尼尔·M·邓拉维和黛安·P·奥利里。全局优化的同伦优化方法。技术报告，桑迪亚国家实验室，2005年。[10] 克里斯·恩格斯，亨利克·圣·韦·尼乌斯和D·维德·尼斯特·埃尔。束调整规则。摄影测量计算机视觉，2（2006），2006年。[11] Martin A Fischler和Robert C Bolles。随机样本一致性：一个范例模型拟合与应用程序的图像分析和自动制图。Communications of the ACM，24（6）：381[12] 罗杰·弗莱彻和斯文·莱弗无罚函数的非线性规划。Mathematical Programming，91（2）：239[13] Joerg Fliege ， LM Grana Drummond 和 Benar FuxSvaiter 。 多 目 标 优 化 的 牛 顿 法 。 SIAM Journal onOptimization，20（2）：602[14] 唐纳德·杰曼和乔治·雷诺兹。约束展开与不连续面的恢复。IEEE Transactions on Pattern Analysis and MachineIntelligence，14（3）：367[15] Donald Geman和Chengda Yang。半二次正则化非线性图像恢复。IEEE图像处理学报，4（7）：932[16] 彼得·J·格林最大似然估计的重加权最小二乘迭代算法，以及一些稳健的抗干扰算法. 英国皇家统计学会杂志：Series B（Methodological），46（2）：149 -170，1984.[17] Richard Hartley和Andrew Zisserman。计算机视觉中的多视几何学。剑桥大学出版社，2003年。[18] Peter J Huber等.一种定位参数的鲁棒估计。数学统计年鉴，35（1）：73-101，1964年。[19] Rai nerKümmerle ，Gior gioGrisetti ，Hauk eStrasdat ，KurtKonolige，and Wolfram Burgard.g2o：一个通用的图优化框架. 2011年IEEE机器人与自动化国际会议，第3607IEEE，2011年。[20] Huu Le，Tat-Jun Chin，and David Suter.局部收敛最大一致 性 的 精 确 罚 方 法 在 计 算 机 视 觉 和 模 式 识 别（CVPR），2017年IEEE会议上。IEEE，2017年。[21] Hossein Mobahi和John W Fisher。高斯同伦延拓与凸包络的联系。计算机视觉和模式识别中的能量最小化方法国际研讨会，第43-56页。施普林格，2015年。[22] Hossein Mobahi，C Lawrence Zitnick和Yi Ma。看透了模糊。2012年IEEE计算机视觉和模式识别会议，第1736-1743页。IEEE，2012。[23] 乔·格·J·莫尔。勒文贝-马夸特算法：实现与理论。在数值分析中，第105116. Springer，1978年。[24] Raul Mur-Artal，Jose Maria Martinez Montiel，and JuanD Tardos. Orb-SLAM：一个多功能和精确的单目SLAM系统。IEEE Transactions on Robotics，31（5）：1147-1163，2015。[25] Jorge Nocedal和Stephen Wright数值优化Springer ScienceBusiness Media，2006.[26] Ademi rARibeiro ， ElizabethWKaras ， andClo' visCGon-zaga.非线性规划滤子方法的全局收敛性。SIAM Journalon Optimization，19（3）：1231[27] 肯尼斯·罗斯用于聚类、压缩、分类、回归和相关优化问 题 的 确 定 性 退 火 。 Proceedings of the IEEE ， 86（11）：2210-2239，1998.[28] Noah Snavely，Steven M Seitz，and Richard Szeliski.摄影 旅 游 ： 探 索 3D 照 片 集 。 在 ACM Transactions onGraphics（TOG），第25卷，第835-846页中。ACM，2006年。[29] 比尔·特里格斯、菲利普·F·麦克劳克伦、理查德·I·哈特利和安德鲁·W·菲茨吉本。光束法平差--一种现代综合法。在视觉算法国际研讨会上，第298-372页。施普林格，1999年。[30] Heng Yang，Pasquale Antonante，Vasileios Tzoumas，and Luca Carlone.用于稳健空间感知的渐变非凸性：从非最小解算器到全局离群拒绝。arXiv预印本arXiv：1909.08605，2019。[31] 克里斯托弗·扎克稳健光束法平差的再探讨。欧洲计算机视觉会议，第772-787页。Springer，2014.[32] 克里斯托弗·扎克和纪尧姆·布尔莫。下降的，提升的或平滑的：强大的成本优化的秘密。在欧洲计算机视觉会议（ECCV）的会议记录中，第547-562页35571[33] 克里斯托弗·扎克和纪尧姆·布尔莫。乘法与稳健成本优化的加性半二次最小化2018年。[34] 克里斯托弗·扎克和纪尧姆·布尔莫。帕累托遇上胡贝尔：有效避免稳健估计中的不良极小值。在IEEE计算机视觉国际会议论文集，第10243-10251页