有
M2
,
2
表示M的谱范数。给定两个实值a
,
b,如果存
在一个绝对常数C< 使得a Cb
,
我们写a=O
(b),如果存在一个绝对常数c >0使得a
Cb
,我们写
a= Θ(b),如果存在一个绝对常数c和C使得cb a
Cb。对于任何r >0,我们将Rk中的半径为r的球
记
为
Bk
(r)
:
:z
2
r,我们使用
n
−1
:= s
R
n
: s
2
= 1 来表示
Rn
中的单位球面。生成
模型是具有潜在维度k、环境维度n和输入域DR
k
的函
数G:R
n
。对于生成模型G和集合B<$D,我们写G
(B)={G(z):z∈B}。在下文中,我们关注D=B
k
(r)和kn的设置。我们用R(G)表示G的值域,
即,R(G)=G(
Bk
(r)).
1.3.
贡献
本工作的主要贡献如下:
•
我们提出了一种高效的非迭代方法,非线性CS与
SIM和生成先验。
•
我们为我们的非迭代方法提供了接近最优的恢复
保证。值得注意的是,在我们的分析中,我们不
需要[65]中的可微性假设或[37]中关于亚高斯观测
的假设。
•
为了验证我们的方法的有效性,我们在图像数据
集上对不同的非线性测量模型进行了广泛的数值
实验。特别是,对于有噪声的
1
位测量模型,我们
观察到,随着计算速度的加快,我们的非迭代方
法也导致了与[34]中提出的迭代算法更准确的重
建,[ 34 ]中提出的迭代算法是具有生成先验的1此
外,对于有噪声的立方测量模型,我们观察到我
们的非迭代方法显着优于几个基线,并与迭代方
法相当。
我们还展示了图1,以突出显示总体贡献。更多详
情见(8)、(9)和第4
2.
问题公式化
在这一节中,我们提供了一些辅助结果,并将我们
所研究的问题形式化。在继续之前,我们总结了本文
中使用的符号。
2.1.
符号
我们使用大写和小写黑体字母分别表示矩阵和向
量 。 对 于 任 何 N∈N , 我 们 使 用 简 写 符 号 [N] ={1
,
2
,
. . .
,
N},我们使用
2.2.
设置
假设生成模型G:
Bk
(r)
Rn
是L-Lipschitz连续的,
即, G(
z
1
) G(
z
2
)
2
L
z1z2 2
对任意
z1
,
z2
Bk
(r). Lipschitzness定理自然地
被一些流行的神经网络生成模型所满足。例如,在
[4,34]中显示,任何具有有界权重和广泛使用的激活
函数(包括Sigmoid,ReLU和双曲正切函数)的全连
接神经网络生成模型都是Lipschitz连续的,其中
Lipschitz常数为L=n
Θ
(
d
)
,其中d是神经网络的深度。
非线性观测值
y1
,
y2
,
. -
是的
-
是的,
y
,
m
被假定
为根据(
2
)中的
SIM
生成,
其中
i
是
i.i.d.
(
0
,
I
n
)
和
x
n
−
1
的实现是要估计的信号。我们进一步假设
μ
x
(
G
),其中
μ
是取决于非线性
f
的参数
,
在(3)中定义,并且(G)是指G的范围。 这种假设
对于具有生成先验的非线性CS是标准的,并且在[37,
65]中也做出了这种假设。在这项工作中,对于非线性
函数
f
,除了(7)中的流行假设μ
0
外,我们仅额外假
设:
E
f
(g)
4
∞
,
(
8
)<
其中g (0
,
1)是标准正态随机变量, 有能力在
此假设下,在(3)至(6)中定义的参数μ
、
μ
2
、
ρ
2
和
θ
4
(8)中的条件适用于量化测量模型,这些模型不满
足[65]中的可微性假设。此外,它不需要
f
(g)(对应
于每个观测
yi
)是如[37]中假设的亚高斯,因此使我们
能 够 处 理 更 一 般 的 非 线 性 测 量 模 型 , 例 如
f
( x )
=
x
3
+
η(噪声三次模型)或
f
(x)
= sign
(x)x
2
+ 1
+η,其中η是零均值随机高斯噪声项。
为了从测量矩阵
A∈R
m
×
n
和