统一低秩优化框架：凸包函数的正则化方法及其在非刚性结构运动中的应用

minX g(rank(X)) + ∥X − X0∥2F ,(5)184740一种统一的低秩引导惩罚优化框架0Marcus Valtonen ¨ Ornhag 1 Carl Olsson 1, 201. 兰德大学数学科学中心02. 查尔莫斯理工大学电气工程系0{marcus.valtonenornhag, carl.olsson}@math.lth.se0摘要0在本文中，我们研究了一类新函数的凸包。利用这种方法，我们能够将无偏非凸形式和加权核范数惩罚的两个重要类别的正则化器统一起来。这为将两种方法的优点结合起来，并在仅强制使用其中一种正则化器不足的情况下利用每种方法的贡献提供了可能性。我们证明了所提出的正则化器可以纳入标准的分裂方案，如交替方向乘法器（ADMM）和其他次梯度方法。此外，我们提供了一种计算近端算子的高效方法。最后，我们在真实的非刚性结构运动（NRSfM）数据集上展示了使用加权核范数惩罚所引起的问题，以及如何使用我们提出的方法来解决这些问题。01. 引言0使用主成分分析（PCA）进行降维在各种数据分析、分类和聚类中被广泛使用。近年来，已经提出了许多子空间聚类方法，以解决传统PCA方法的缺点。Cand`es等人关于鲁棒PCA的工作[6]是该领域最有影响力的论文之一，引起了包括计算机视觉在内的各个领域的大量研究兴趣。应用包括但不限于刚性和非刚性结构运动[4, 1]，光度立体[2]和光流[13]。01.代码可用：https://github.com/marcusvaltonen/Uni�edFramework。本工作得到了瑞典研究委员会（批准号2015-05639和2018-05375）和瑞典战略研究基金会（语义映射和智能机器人的视觉导航）的支持。0众所周知，...的解是...0最小化秩(X)≤r∥X−X0∥2F，(1)0其中∥∙∥F是Frobenius范数，可以使用测量矩阵X0的奇异值分解（SVD）来给出闭合形式。当考虑诸如...的目标时，问题的性质发生了巨大的变化。0最小化秩(X)≤r∥A(X)−b∥2，(2)0其中A:|m×n→|p是一个线性算子，b∈|p，∥∙∥是标准欧几里德范数。事实上，这类问题通常被认为是NP难问题[14]。然而，在许多情况下，秩是未知的，可以使用“软秩”惩罚代替。0最小化Xµ秩(X)+∥A(X)−b∥2，(3)0这里，正则化参数µ控制着强制秩和最小化残差误差之间的权衡，并且可以根据问题特定的应用进行调整。为了处理形式为（2）和（3）的目标，通常使用秩惩罚的凸替代方法。一种常用的方法是使用核范数[30, 6]。0∥X∥�=0i=1σi(X)，(4)0其中，σi(X)，i=1,...,n，表示X的第i个奇异值。使用核范数惩罚的一个缺点是对大和小的奇异值同样严厉地进行惩罚。这被称为收缩偏差，为了抵消这种行为，已经提出了一些更严厉地惩罚小奇异值（假设为噪声）的方法[29, 23, 16, 26,27, 20, 9, 32]。01.1. 相关工作0我们的工作是Larsson和Olsson [ 20]的推广。他们考虑了以下形式的问题g(k) =ki=1gi.(6)minX Rg(X) + ∥X − X0∥2F ,(7)Rg(X) = maxZ� ni=1min(gi, σ2i (Z)) − ∥X − Z∥2F�.∥X∥w,∗ =kfh(X) = h(σ(X)) + ∥A(X) − b∥2,(10)̸̸̸84750其中正则化项  g  是非递减且分段常数。0注意，当  g i  ≡  µ 时，我们得到 ( 3 )。此外，如果我们让g i  = 0  对于  i  ≤  r 0 ，否则为  ∞ ，则得到 ( 2)。目标函数 ( 5 )很难优化，因为它们通常是非凸且不连续的。因此，自然而然地考虑进行松弛。0其中0(8) 在[ 20 ]中已经证明了这是 ( 5 )的凸包，因此具有相同的全局最小值。另一种在低级图像处理应用中成功使用的正则化项是加权核范数（WNNM）。0i =1 w i σ i ( X ) , (9)0其中  w  = ( w 1 , . . . , w k )是一个权重向量。注意，WNNM的形式不符合假设 ( 6)，因此不能在这个框架中考虑。对于某些应用，包含两个正则化项是有意义的，我们将在第 6节中展示。通常情况下，当仅有秩约束不足以产生准确的重建时，进一步的惩罚是必要的来限制解的范围。为此，我们建议合并这些惩罚项。在[ 28]中提出了一种类似的方法，但不足以包括像WNNM这样的惩罚项。我们的主要贡献是：0• 一种将偏差减小和非凸低秩引导目标结合的新方法。0• 一种计算所提出的正则化项的高效快速算法。0•通过WNNM对重建的缺失数据的质量进行理论分析，并在这些应用中展示了如何感知缩小偏差的实际演示。0•一种新的非刚性运动结构（NRSfM）目标，与无先验方法相比具有更好的性能，在图像序列无序的情况下能够工作。0然而，首先我们将为低秩引导目标的理论奠定基础。02. 问题的形式化和动机0在本文中，我们提出了一种新的正则化项类别，用于低秩矩阵恢复问题，该类别控制恢复矩阵的秩和奇异值的大小。我们的目标函数形式为0其中  h ( σ ( X )) = � k i =1 h i ( σ i ( X ))and0� 2 a i σ i ( X ) +  b i σ i ( X )  � = 0 ,其他情况为0. (11)0我们假设序列  { a i } k i =1 和  { b i } k i =1都是非递减的。我们的方法将[ 19]的公式与加权核范数统一起来。项  2 a i σ i ( X )对应于加权核范数的奇异值惩罚项 [ 15]，它们可以用来控制非零奇异值的大小。相反，常数  b i对应于与这些大小无关的秩惩罚项，并且正如我们将在下一节中看到的，使得选择无偏秩成为可能。02.1. 控制偏差和排名选择0为了推动同时使用变量集合  { a i } k i =1 和 { b i } k i =1的目的，以及理解它们的作用，我们首先考虑简单的恢复问题  min X  f h ( X ) ，其中0f h (X) := h(σ(X)) + ∥ X - X 0 ∥ 2 F. (12)0这里假设 X 0 由一组大的奇异值 σ i (X 0), i = 1, ..., r组成，对应于我们希望恢复的矩阵，以及一组小的奇异值 σi (X 0), i = r + 1, ...,k，对应于我们想要抑制的噪声。根据vonNeumann的迹定理[22]，可以通过分别考虑每个奇异值来闭式计算解，并最小化� 2 a i σ i (X) + b i + (σ i (X) - σ i (X0)) 2 σ i (X) ≠ 0, σ i (X 0) 2 σ i (X) = 0, (13) 在 σ i (X) ≥ 0上。对于 σ i (X) ≠ 0 的情况进行微分，得到一个在 σ i (X)= σ i (X 0) - a i 处的驻点，如果 σ i (X 0) - a i >0。由于该点的目标值为 2 a i σ i (X 0) - a 2 k + bk，很明显该点将是最优的，如果02 a i σ i (X 0) - a 2 i + b i ≤ σ i (X 0) 2, (14)0或者等价地，σ i (X 0) - a i ≥ √ bi。总结起来，我们得到最优奇异值0σ i (X) =0� σ i (X 0) - a i σ i (X 0) - a i ≥ √ b i, 0otherwise. (15)00.511.5h(σ(X)) + ∥A(X) − b∥2,(16)f ∗∗h (X) = Rh(X) + ∥X − X0∥2F ,(18)Rh(X) := maxZ�n�i=1min�bi, [σi(Z) − ai]2+�+ ∥Z∥2F− ∥X − Z∥2F −ni=1[σi(Z) − ai]2+�.Rh(X) = maxσ(Z)�n�i=1min�bi, [σi(Z) − ai]2+�+ σ2i (Z)− (σi(X) − σi(Z))2 − [σi(Z) − ai]2+�.(20)84760− 0 . 4  − 0 . 2 00√0b i0− a i a i + √0b i0图1. 恢复的最优奇异值 σ i (X) 作为观察到的 σ i (X 0)的函数（红色曲线）。0注意，这是一个有效的奇异值序列，因为在我们的假设下，σ i (X 0) - a i 是递减的，√ b i是递增的。图1中的红色曲线显示了恢复的奇异值作为相应观察到的奇异值的函数。为了比较，我们还绘制了虚线蓝色0b i，即小于 a i + √0当其余部分保持不变时，b i会消失。现在，假设我们想要恢复最大的奇异值而不改变它们。使用加权核范数（b i =0），很明显只有在我们知道所寻找的矩阵的秩为 r 并且让 i = 1, ..., r 时 a i = 0时，才能实现这一点。对于任何其他设置，正则化将从相应的非零奇异值中减去 ai。相反，通过让 a i = 0，即使在秩未知的情况下，通过适当选择 bi，也可以精确恢复大的奇异值。因此，在矩阵秩的先验较弱的情况下，仅使用 bi（[20]中的框架）可以对比使用 ai（加权核范数公式）在更一般的问题集上实现精确恢复。上述类别的问题在具有强数据项∥ X - X 0 ∥ 2 F的情况下是良好定义的。对于具有较弱数据项的问题，奇异值的大小先验仍然非常有用。在NRSfM的背景下，已经观察到[27,12]添加偏差可以改善与真实重建的距离，即使它不改变秩。原因是当场景不是刚性时，可能存在具有相同秩的多个重建，从而导致类似的投影。通过对奇异值引入偏差，可以进一步对变形施加正则化，这可能有助于搜索正确的重建。例如，当 a 1 = 0 且 a i > 0，i > 1时，我们得到一个偏好“接近”秩 1 的矩阵的惩罚。在[12]的公式中，其中秩 1对应于刚性场景，这可以被认为是一个“尽可能刚性”的先验，在许多情况下是现实的，但在因子分解方法的背景下尚未考虑。02为了正则化问题，Dai等人引入了一个惩罚项02.2. 二次包络0如上所述，参数集合  { a i }  和 { b i }具有互补的正则化效果。将它们统一起来的主要目的是创建更灵活的先验，使我们能够通过控制偏差进行准确的秩选择。在接下来的几节中，我们还将展示它们具有可靠优化的松弛。具体而言，所得到的公式  h ( σ ( X ))通常是非凸且不连续的，可以通过计算所谓的二次包络[ 10 , 11 ]来进行松弛。所得到的松弛  R h ( σ ( X ))是连续的，并且此外 R h ( σ ( X )) +  ∥ X  −  X 0 ∥ 2 F是凸的。对于更一般的数据项，可能存在多个局部最小值。然而，已知0和 R h ( σ ( X )) +  ∥A ( X )  −  b ∥ 2 , (17)0当  ∥A∥  <  1 时，( 17 ) 和 ( 16 ) 有相同的全局最小值[ 10]。此外，( 17 ) 的潜在局部最小值也是 ( 16 )的局部最小值；然而，反之不成立。我们还展示了可以有效计算  R h ( σ ( X ))的近端算子，这允许使用分裂方法（如ADMM [ 3]）进行简单的优化。03. 一类新的函数0考虑形式为 ( 12 ) 的函数。这是[ 20]的一般化；我们的目标的推导遵循类似的结构。我们在补充材料中详细概述了这一点，其中我们展示了凸包  f �� h的表达式为0其中0(19) 如同[ 20 ]，优化可以仅限于奇异值，03D轨迹的导数，也可以看作是偏好刚性重建的先验。然而，这个选项对于未排序的图像集合来说是不可行的。s.t.σi+1(Z) ≤ s ≤ σi−1(Z).481216202224262884770这可以通过应用vonNeumann的迹定理来实现（见补充材料）。优化问题是凹的，因此可以使用标准的凸求解器（如MOSEK或CVX）来求解；然而，在下一节中，我们将展示该问题可以转化为一系列一维问题，并且计算（ 19）的结果算法比应用通用求解器快几个数量级。04. 寻找最大化序列0按照[ 20 ]中使用的方法，考虑程序 max s f ( s )0其中  σ i ( Z )  是（ 20 ）中最大化序列的第  i个奇异值，而0f ( s ) = min { b i ,  [ s − a i ] 2 + }− ( s − σ i ( X )) 2  + s2  − [ s − a i ] 2 + . (22) 目标函数  f可以看作是两个凹函数的逐点最小值，即  f 1 ( s ) =  b i  +2 σ i ( X ) s  −  σ 2 i ( X )  −  [ s  −  a i ] 2 + 和  f 2 ( s ) =2 σ i ( X ) s  − σ i ( X ) 2 的最小值，即  f ( s ) = min { f 1 (s ) , f 2 ( s ) } ，因此  f  是凹函数。个体无约束优化器由 s i=  a i  + max { √ b i , σ i ( X ) } 给出。在之前的工作中[ 20]，其中 a i  ≡  0，设计了一种算法来找到最大化的奇异向量，将其转化为单变量的优化问题。然而，这种方法不直接适用，因为序列  {s i } k i =1 通常不满足必要条件 3 。事实上，序列  { s i } ki =1  的局部极值点的数量仅由其长度限制。我们在图  2中展示了一个序列的例子以及相应的最大化序列。然而，我们可以设计一种算法来返回最大化的奇异值向量，稍后我们将展示这一点。为了做到这一点，我们可以应用[ 20]的证明背后的一些思想。考虑更一般的优化问题，即最小化 g ( σ ) = � k i =1 f i ( s i ) ，满足  σ 1 ≥ σ 2 ≥ ∙ ∙ ∙ ≥ σ k ≥0 ，其中  f i  是凹函数。然后，给定无约束的最小化序列  {s i } k i =1 ，约束序列的元素  { σ i } k i =1可以限制为三个选择0σi =0如果σi+1 ≤ si ≤0如果si < σi+1，则σi+1。 (23)0此外，无约束奇异值的局部极值点之间的区域是恒定的。0为了使用该算法，序列{si}ki=1必须对于i < p是非递增的，对于p ≤ i ≤q是非递减的，对于i > q是非递增的，其中p和q是某些值。0数据：权重a，b和σ(X) 结果：最大化向量σ(Z*) ={σi}i 初始化为无约束最大化器σi = ai + max{√bi,σi(X)}；当σ(Z*)不是有效奇异值向量时执行0找到σ(Z*)的局部极值并生成子区间{ιk}k∈I；对于k ∈ I执行0找到标量s* = arg max s f(s)，其中f定义如（22）；更新σi =s*对于所有i ∈ ιk。结束 结束算法1：找到最大化奇异值向量的算法。0引理1.假设sp和sq是{si}ki=1的局部极值，并且子序列{si}qi=p是非递减的。那么约束问题的相应子序列{σi}qi=p是恒定的。0证明. 考虑σi，其中p ≤ i ≤ q - 1。如果σi >si，则根据（23），有σi+1 = σi。如果σi ≤ si，则有σi+1≤ σi ≤ si ≤ si+1，并且根据（23），有σi+1 = σi。0现在我们可以设计一个算法，返回最大化序列，参见算法1。基本上，该算法从无约束解开始，然后通过利用引理1添加更多约束，直到所有约束都满足。0定理1. 算法1返回最大化序列。0证明. 见补充材料。0奇异值编号0奇异值0图2.无约束最大化器序列示例（蓝线），局部极值点（绿色和红色）和由算法1得到的最大化序列（虚线黑色）。05. ADMM和Proximal Operator0我们采用分裂方法ADMM[3]，这是解决这类问题的标准工具。因此，考虑00.04000.02460.04060.05010.05440.05450.05510.02290.19590.0198 0.0199200.37070.29900.37510.12360.13220.09720.04400.02330.22870.0257 0.0198401.00000.61850.93550.12650.12220.11370.04970.02910.31830.2105 0.0248601.00000.82781.00000.13540.18090.13490.06970.08260.54440.3716 0.0466801.00000.98101.00000.77750.65730.59450.23050.46480.85810.9007 0.311700.03990.02200.03990.04910.03520.03440.04910.02050.17620.0176 0.0177100.31550.27690.18970.11710.08810.08740.09260.10390.26070.0829 0.0802200.46810.42500.36950.18930.13460.13400.14300.16860.34250.2146 0.1343300.59400.51430.41470.16810.28220.30810.13160.15940.34350.4137 0.1277400.72950.63620.93310.28540.42620.40890.17310.28000.50280.5072 0.1705500.79770.72280.91620.44390.56460.55230.28470.42190.58310.6464 0.3128maxZ�n�i=1min�bi, [σi(Z) − ai]2+�− ρ + 1ρ∥Z − Y ∥2F+ ∥Z∥2F −ni=1[σi(Z) − ai]2+�.84780表1. 不同缺失数据百分比和数据模式的20个问题实例的与真实值的距离（归一化）的平均值。噪声的标准差保持在σ =0.1不变。最佳结果以粗体标记。缺失数据（%）PCP [7] WNNM [15] Unifying [5] LpSq [25] S12L12 [32] S23L23 [32] IRNN [9] APGL [34] ||∙||� [3] Rµ [20]我们的0均匀0跟踪0增广拉格朗日函数0L(X, Y, Λ) = f**h(X) + ρ||X - Y + Λ||2F + C(Y) -ρ||Λ||2F，其中X和Y依次最小化，Λ是对偶变量。所有变量的维度相同。函数C被假设为凸函数，并且包含额外的先验知识。在每次迭代中，我们解决0Xt+1 = arg min X f**h(X) + ρ||X - Yt+Λt||2F, (25)0Yt+1 = arg min Y ρ||Xt+1 - Y + Λt||2F + C(Y), (26)0Λt+1 = Xt+1 - Yt+1 + Λt. (27)0为了评估Proximal Operator f**h，必须解决0最小化 X Rh(X) + ||X - X0||2F + ρ||X - M||2F. (28)0注意，由于（19）的定义，这可以看作是一个凸凹极小极大问题，通过将X的最小化限制在一个紧致集合上。通过先解决X，可以得到0X = M + X0 - 0ρ = (ρ + 1)Y -0ρ ，(29)01+ ρ 。类似于 [ 20]，我们得到一个类型的程序（不包括常数）0(30) 同样，优化可以简化为仅涉及奇异值。这与 ( 21 )非常相似，我们在补充材料中展示了算法 1可以以最小的努力修改来解决这个问题。06. 实验0我们展示了在非刚性重建估计和运动结构中使用WNNM的缺点，并且展示了我们提出的方法与当前最先进方法的性能相当或更好。在所有应用中，我们应用了流行的方法 [ 8 ,15 ,  17 ] 来选择与奇异值成反比的权重。0w i = 0σ i ( X 0 ) +  � ，(31)0其中 � > 0 是一个小数（避免除以零），X 0 是矩阵 X的初始估计。权衡参数 C将根据具体应用进行调整。在实验中，我们使用 w i = 2 a i，并根据具体应用选择 b i。这样可以控制所得解的秩，而不会过度惩罚非零奇异值。06.1. 合成缺失数据0在本节中，我们考虑未知秩的缺失数据问题0最小化 X µ  rank( X ) +  ∥ W  ⊙  ( X  −  M ) ∥ 2 F，(32)0其中 M 是测量矩阵，⊙表示Hadamard（或逐元素）乘积，W是缺失数据掩码，其中 w ij = 1 表示条目 ( i, j )是已知的，否则为零。生成大小为 32 × 512 且 rank( M 0) = 4 的真实矩阵 M 0 ，为了模拟噪声，添加矩阵 N以获得测量矩阵 M = M 0 + N。噪声矩阵的条目服从均值为零、标准差为 σ = 0.1的正态分布。在图像修复和去模糊的基准测试中，通常假设缺失数据模式是均匀分布的。然而，在计算机视觉的许多其他子领域中，这个假设是不适用的。在运动结构中，缺失数据模式通常是非常结构化的。84790由于跟踪失败，导致缺失数据。为了比较，我们展示了几种方法的重建结果，包括均匀随机缺失数据模式和跟踪失败。跟踪失败模式的生成方式与 [ 21 ] 相同。结果如表 1所示。在这里，我们使用 a i = √ µ0σ i ( M )+ � , 且 b i  = µ0σ i ( M )+ � ，其中 � = 10 − 6。所有其他参数按照各自作者的建议设置。06.2. 非刚性变形与缺失数据0这个实验旨在突出使用WNNM的缺点，并说明收缩偏差如何在实际应用中表现出来。非刚性变形可以被视为一个最小化低秩问题，假设跟踪的图像点在一个低维子空间中移动。这使得我们可以使用线性形状基础来建模这些点，其中运动的复杂性受到基础元素数量的限制。这反过来导致了在强制低（且未知）秩的同时准确进行权衡的任务，从而导致了问题的形式化0最小化 X µ  rank( X ) +  ∥ W  ⊙  ( X  −  M ) ∥  , (33)0其中 X =  CB T ，B 是连接的基础元素，C是相应的系数矩阵。我们使用 [ 19 ]中的实验设置，该实验使用KLT跟踪器对视频序列进行跟踪。跟踪器的使用自然地引入了结构化的缺失数据模式，因为无法在整个序列中跟踪点。我们考虑 ( 33 ) 的放松形式0min X Rh(X) + ||W ⊙ (X - M)||2F，(34)0σi(M)+�，bi = 0对于i ≤ 3，否则bi = 1 / (C +�)。选择bi的方式鼓励秩为3的解，而不对较大的奇异值进行惩罚。通过选择参数C，可以调整固定秩正则化与加权核范数惩罚之间的强度。参数C对应的数据拟合如表2所示，书序列的四个帧的重建点如图3所示。请注意，尽管C =1的数据拟合更好（鼓励WNNM惩罚），但通过目视检查可以明显看出，丢失的点的恢复是次优的。在图3中，白色中心标记是原点，我们注意到WNNM惩罚倾向于使丢失的点更接近原点。这是收缩偏差的结果，只有通过保留较大的奇异值才能解决这个问题，因此排除了WNNM作为这种应用的可行选项。0表2.不同C值的数据拟合。请注意，C = 1的数据拟合优于C =10^-2。但这是以错误重建丢失点为代价的，如图3所示。数据拟合是通过||W ⊙ (X - M)||F来衡量的。C 10^-2 1 1000数据拟合 0.8354 0.4485 6.522106.3.动作捕捉0Dai等人提出的流行的无先验目标函数[12]，用于NRSfM。0min X µ �� X� �� � + ||RX - M||2F，(35)0其中X�是X的堆叠版本（详见[12]），由于核范数惩罚，会出现收缩偏差。实质上，核范数惩罚是一种放松软秩惩罚的方法。0min X µ rank(X�) + ||RX - M||2F，(36)0然而，[27]中表明，简单地使用秩函数的凸包会导致非物理重建。为了解决这个问题，提出了使用差分算子D对3D轨迹进行惩罚的方法。0min X µ rank(X�) + ||RX - M||2F + �� DX� �� 20F. (37)0虽然这样的目标函数可以得到更物理的解[27]，但它也限制了该方法只能用于有序的图像序列。为了允许无序序列，我们用一个递增的惩罚来替代差分算子，该惩罚对较小的奇异值有增加的权重，由递增的权重序列{ai}建模。更具体地说，我们考虑最小化的问题。0min X Rh(X�) + ||RX - M||2F，(38)0其中序列{ai}和{bi}是非递减的。这与[17]中提出的加权核范数方法相似，最近的研究结果相符，对于特殊情况bi ≡0，它们是一致的。此外，与Dai等人[12]提出的原始方法相比，这种修改的方法在重建结果上表现出更好的效果。在我们的比较中，我们采用与[15,17]中相同的权重初始化启发式方法，即0wi = 0σi(X�0) + �，(39)0其中� = 10^-6，C > 0。矩阵X�0 = R + M，其中R+是R的伪逆，已成功地被其他人用作NRSfM的初始化方案[12, 35, 17]。84800帧1 帧121 帧380 帧6680图3。从上到下，C = 10^-2，C = 1和C =100。白色中心点是所选坐标系中的原点。绿色十字表示观测数据，蓝色点表示这些点的重建。黄色点对应于恢复的（和丢失的）数据。注意，随着WNNM惩罚的增加，由于恢复的丢失数据被拉向图像中心，出现了明显的收缩偏差。0在实践中，我们选择  2 a i  =  w i ，如（ 39）中所示，其中  C  = 2 √ µ 且  b i  =  w i ，其中  C  =  µ。这强制执行了混合的软秩和硬秩阈值。我们从CMUMOCAP数据集中选择了四个序列，并与Dai等人提出的原始方法[12]、Kumar提出的新的加权方法[17]、Larsson和Olsson的方法[20]以及我们提出的目标函数（38）进行比较，所有这些方法都是无先验的，并且不假设图像序列是有序的。对于Dai等人的核范数方法，我们使用正则化参数 λ = 2 √µ ，对于Kumar，我们设置 C = 2 √ µ（与 R h相同），并对不同的 µ值运行不同的方法，使用相同的随机初始解。然后，我们测量数据拟合度，定义为 ∥ RX - M ∥ F，以及与地面真实值的距离 ∥ X - X gt ∥ F，并展示这些结果如何依赖于输出的秩（在这里定义为奇异值大于 10^-6的数量）。通过这样做，我们可以看到该方法在在适当权衡数据拟合和秩的能力。结果如图4所示。请注意，所有方法的数据拟合度随着秩的增加而减小，这是可以预期的；然而，我们立即注意到，“软秩”惩罚（3）在这种情况下太弱了。这表现为主要拟合数据，并且对于秩大于三的解，与地面真实值的距离与数据拟合度没有相关性。0通过与Kumar[17]的方法以及我们的方法进行比较，两者之间的相关性要强得多。有趣的是，我们的方法在低秩水平上的表现始终优于WNNM方法，这表明缩小偏差影响了这些重建的质量。然而，需要注意的是，使用WNNM方法获得的与地面真实值的最小距离与使用 R h获得的最小距离一样好（或更好）。然而，要获得这样的解决方案，需要仔细调整 µ参数，并且不太可能在其他数据集上起作用。07. 结论0尽管在许多低级图像应用中取得了成功，但WNNM在其他低秩正则化应用中的适用性存在一些限制。在本文中，我们对缩小偏差的问题提供了理论洞察，并提出了一种解决方案，可以在保持低秩的同时部分或完全消除缩小偏差。这可以通过使用所提出的R h正则化器来实现，该正则化器具有将加权核范数正则化与另一类低秩诱导惩罚统一起来的优点。此外，还提出了一种计算正则化器的高效方法，以及相关的近似算子，使其适用于使用分裂方案（如ADMM）进行优化。84810饮料0接送0伸展0瑜伽0图4. CMU MOCAP数据集实验的结果。第一列：示例图像，添加了骨架以进行可视化。第二列：数据拟合度，以秩的函数形式测量，定义为∥ RX - M ∥ F 。最后一列：与地面真实值的距离，以秩的函数形式测量，定义为 ∥ X - X gt ∥ F 。84820参考文献0[1] Roland Angst, Christopher Zach, and Marc Pollefeys.广义迹范数及其在结构运动问题中的应用。计算机视觉国际会议，2011年。  10[2] Ronen Basri, David Jacobs, and Ira Kemelmacher.具有普遍、未知照明的光度立体。计算机视觉国际期刊，72(3)：239-257，2007年5月。  10[3] Stephen Boyd, Neal Parikh, Eric Chu, BorjaPeleato和Jonathan Eckstein.通过交替方向乘子法进行分布式优化和统计学习。机器学习基础趋势，3(1)：1-122，2011年。  3 ,  4 ,  50[4] C. Bregler，A. Hertzmann和H.Biermann。从图像流中恢复非刚性3D形状。在《计算机视觉和模式识别（CVPR）IEEE会议》中，2000年。10[5] R. Cabral，F. De la Torre，J. P. Costeira和A.Bernardino。统一核范数和双线性因子化方法用于低秩矩阵分解。在《国际计算机视觉会议（ICCV）》中，2013年。50[6] Emmanuel J Cand`es，Xiaodong Li，Yi Ma和JohnWright。鲁棒主成分分析？《ACM杂志（JACM）》，58（3）：11，2011年。10[7] Emmanuel J. Cand`es，Xiaodong Li，Yi Ma和JohnWright。鲁棒主成分分析？《J.ACM》，58（3）：11：1-11：37，2011年。50[8] Emmanuel J Candes，Michael B Wakin和Stephen PBoyd。通过重新加权l1最小化增强稀疏性。《傅里叶分析与应用杂志》，14（5-6）：877-905，2008年。50[9] Lu Canyi，Jinhui Tang，Shuicheng Yan和ZhouchenLin。通过迭代重新加权核范数实现非凸非光滑低秩最小化。《IEEE图像处理杂志》，25，2015年10月。1，50[10] MarcusCarlsson。关于包含l2-misfit项的凸化/优化泛函。arXiv预印本arXiv:1609.09378，2016年。30[11] Marcus Carlsson，Daniele Gerosa和CarlOlsson。一种无偏的压缩感知方法。arXiv预印本，arXiv:1806.05283，2018年。30[12] Yuchao Dai，Hongdong Li和MingyiHe。一种简单的无先验方法用于非刚性结构运动因子化。《国际计算机视觉杂志》，107（2）：101-122，2014年。3，6，70[13] Ravi Garg，Anastasios Roussos和LourdesAgapito。具有子空间约束的视频配准的变分方法。《国际计算机视觉杂志》，104（3）：286-314，2013年。10[14] N. Gillis和F.Glinuer。具有权重或缺失数据的低秩矩阵逼近是NP难的。《SIAM矩阵分析与应用杂志》，32（4），2011年。10[15] Shuhang Gu，Qi Xie，Deyu Meng，WangmengZuo，Xiangchu Feng和LeiZhang。加权核范数最小化及其在低水平视觉中的应用。《国际计算机视觉杂志》，121，2016年7月。2，5，60[16] Y. Hu，D. Zhang，J. Ye，X. Li和X.He。通过截断核范数正则化实现快速准确的矩阵补全。0《IEEE模式分析与机器智能交易》，35（9）：2117-2130，2013年。10[17] SuryanshKumar。非刚性运动结构：无先验因子化方法的再审视。在《应用计算机视觉（WACV）IEEE冬季会议》中，2020年3月。5，6，70[18] Suryansh Kumar，Yuchao Dai和HongdongLi。超像素汤：复杂动态场景的单目密集3D重建。《IEEE模式分析与机器智能交易》，2019年11月。30[19] Viktor Larsson，Erik Bylow，Carl Olsson和FredrikKahl。具有结构化数据模式的秩最小化。在《欧洲计算机视觉会议》中，2014年。2，60[20] Viktor Larsson和CarlOlsson。凸低秩逼近。《国际计算机视觉杂志》，120（2）：194-214，2016年。1，2，3，4，5，70[21] Viktor Larsson和CarlOlsson。具有相关子空间的紧凑矩阵因子化。在《计算机视觉和模式识别（CVPR）IEEE会议》中，第4361-4370页，2017年7月。60[22] L.Mirsky。约翰∙冯∙诺伊曼的一个迹不等式。《数学月刊》，79：303-306，1975年。20[23] Karthik Mohan和MaryamFazel。迭代加权最小二乘法用于矩阵秩最小化。在《年度Allerton通信、控制和计算会议》中，第653-661页，2010年。10[24] R. A. Newcombe，D. Fox和S. M. Seitz. Dynamicfusion:实时非刚性场景的重建和跟踪.在计算机视觉和模式识别会议（CVPR）中，第343-352页，2015年6月。 30[25] Feiping Nie，Hua Wang，Xiao Cai，Heng Huang和ChrisH. Q. Ding. 通过联合Schattenp-范数和lp-范数最小化实现鲁棒矩阵补全.在ICDM中，第566-574页，2012年。 50[26] T. H. Oh，Y. W. Tai，J. C. Bazin，H. Kim和I. S. Kweon.鲁棒PCA中奇异值的部分和最小化：算法和应用.IEEE模式分析与机器智能交易，38（4）：744-758，2016年。 10[27] Carl Olsson，Marcus Carlsson，FredrikAndersson和Viktor Larsson. 非凸秩/稀疏正则化和局部极小值.计算机视觉国际会议论文集，2017年。 1，3，60[28] Carl Olsson，Marcus Carlsson和Daniele Gerosa.压缩感知中的偏差减小.arXiv预印本，arxiv:1812.11329，2018年。 20[29] S. Oymak，A. Jalali，M. Fazel，Y. C. Eldar和B. Hassibi.具有稀疏和低秩矩阵应用的同时结构化模型.信息理论的IEEE交易，61（5）：2886-2908，2015年。 10[30] Benjamin Recht，Maryam Fazel和Pablo A. Parrilo.通过核范数最小化保证线性矩阵方程的最小秩解.SIAM评论，52（3）：471-501，2010年8月。 10[31] C. Russell，R. Yu和L. Agapito. Video-popup:动态场景的单目3D重建.在欧洲计算机视觉会议（ECCV）中，2014年。 384830[32] F. Shang，J. Cheng，Y. Liu，Z. Luo和Z. Lin.用于鲁棒PCA的双线性因子矩阵范数最小化：算法和应用.IEEE模式分析与机器智能交易，40（9）：2066-2080，2018年9月。 1，50[33] Jonathan Taylor，Allan Jepson和Kiriakos Kutulakos.非刚性结构来自局部刚性运动.在计算机视觉和模