自监督深度学习方法中的自适应随机梯度Langevin动力学用于图像恢复问题的研究

1989基于自适应随机梯度Langevin动力学的Weixi Wang，Ji Li，Hui Ji新加坡国立大学数学系，119076，新加坡wangweixi@u.nus.edu，matliji@nus.edu.sg，网址：www.example.com，matjh@nus.edu.sg摘要虽然监督式深度学习已经成为解决许多图像恢复问题的重要工具，但人们对研究自我监督或非监督方法以解决收集真实图像的挑战和成本的兴趣越来越大。基于问题的贝叶斯估计器的神经化，本文提出了一种用于一般图像恢复问题的自监督深度学习方法。神经化估计器的关键成分是一个自适应随机梯度Langevin动态算法，用于有效地采样网络权重的后验所提出的方法应用于两个图像恢复问题：压缩传感和相位恢复。在这些应用程序上的实验表明，所提出的方法不仅优于现有的非学习和无监督的解决方案在图像恢复质量方面，但也更计算效率。1. 介绍图像恢复是关于从其测量值的集合计算图像x，由y表示，其关系可以描述为y=n（x）+n，（1）其中，n表示图像形成过程，n表示测量噪声。图像复原是图像相关应用中的一个基本问题。例如，数字照相术中 的图像恢复 、压缩感测 、计算机 断层摄影（CT）、以及医学成像中的磁共振成像（MRI）、用于科学成像的相位恢复、以及许多其他。一般来说，问题（1）是一个不适定的反问题，其直接反演要么不是唯一的，要么对测量噪声不敏感。在过去的几十年里，正则化方法，或等价的贝叶斯估计，一直是图像处理的主要工具，修复这些非学习方法要么对图像施加一定的先验知识，要么假设图像具有一定的先验分布，以解决解的模糊性和噪声敏感性问题。然而，要精确地定义一个先验图像仍然是一个挑战.近年来，深度神经网络（DNN）成为解决逆问题的重要工具;参见例如。[11、12、16、17、20、33、49、52、58、61、62]。大多数现有的基于DNN的解决方案在具有真实图像的外部训练数据集上进行监督这种对真像的先决条件限制了真像在实践中的广泛应用。例如，在医学成像和科学成像中，收集真实图像可能非常具有挑战性此外，监督学习方法的泛化性能在实践中可能是一个问题，如果网络是在有偏数据集上训练的，其中测试图像的结构不存在于训练样本中。近年来，人们对开发用于成像的深度学习方法越来越感兴趣，这种方法不需要真实图像来训练DNN。所谓的即插即用先验试图通过在迭代图像恢复方案中采用一些预先训练的去噪网络来解决这样的问题;参见例如[35、48、56、63]。虽然这些方法没有显式地调用真实图像，但预训练的网络仍然通过与用于恢复的图像相关的真实图像来监督数据集。另一种方法是使用生成对抗网络（GAN）来合成用于训练网络的训练样本;请参见e.G. [43]。同样，基于GAN的方法的性能虽然GAN在模拟特定领域的图像（如人脸和文本）方面非常有效，但对于其他类型的图像，例如，医学图像和科学图像。上述方法并不是完全摆脱了获取相关真像的前提。最近，在使用未经训练的DNN进行图像去噪的无监督或自监督学习方面取得了快速进展;参见例如[3、14、28、40、41、50、55]。然而，将这些去噪网络推广到不适定的图像恢复问题并不是微不足道的。存在的非-1990联系我们222||∼N√K−∇|零零空间（通过MC方法计算积分（3x^<$$>f（θ0;θk），其中θk<$p（θ|y，0）。由于非平凡空间的存在，导致的误差不能被看作是随机噪声。一项开创性的工作是所谓的深度图像先验（DIP）[55]，它表明存在由卷积神经网络（CNN）引起的某些隐式DIP指出，在训练CNN时，规则的图像结构出现在随机噪声之前。这样的先验知识已经在许多图像恢复任务中被利用，例如，超分辨率[55]、CT重建[23]、图像分离[22]和盲解K有效抽样受限于可行集。如何有效地采样θ对于积分（3）的精确计算至关重要。一种自然的处理方法是，我们只在一个可行的集合中对这些参数进行采样，而不是在整个空间中对θ进行采样，其中密度函数π（θ）集中。假设测量噪声n是i.i.d.方差为σ2的高斯白根据大数理论，我们有，图像大小N→∞，模糊[32，44]。 除此之外，还有一些其他解决训练过程中由于缺乏真实图像而导致的过拟合问题的方法 对于CS图像重建c-L（θ）=1N（f（0;θ））−y2=1N（x）−y2→σ。Tion，Pang等人，[39]提出用高斯随机权重训练贝叶斯DNN 。 Heckle [24] 使 用 了 一 个 欠 参 数 化 的 网 络 。Metzler等人[38] Zhussipet al. [67]提出通过Stein的无偏风险估计器（SURE）在迭代方案1.1. 动机和主要思想自监督深度学习方法用于图像重建对于收集真实图像具有挑战性的应用非常有吸引力，例如。医学和科学成像。本文研究了一种高效的神经网络训练方法，训练过程中既不使用预训练模型，也不使用带有真实图像的训练样本所 提 出 的 方 法 是 来 自 所 谓 的 最 小 均 方 误 差（MMSE）估计的(1) 定义∫（四）换句话说，对于足够大的图像尺寸，其f（θ0;θ）接近x的θ的密度Ωϵ:={θ:σ2−ϵ≤L(θ)≤σ2+ϵ},(5)其中，k是小阈值。 对第（5）项的详细分析见补充文件。综上所述，在由（5）定义的可行集π（θ）内的样本足以精确计算积分（3）。用于受限MC采样的自适应SGLD。SGLD是一种马尔可夫链蒙特卡罗（MCMC）采样算法，在[ 57 ]中提出，用于有效地对网络权重进行采样。SGLD模拟分子系统动力学的随机微分方程为dθ t=L（θ t）dt+2dWt，其中Wt为零均值平稳高斯过程，L为损失函数.本文提出了一种新的SGLD，它能在（5）定义的可行集范围内从π（θ）=p（θy，θ0）有效地相应的随机变量-x^=xp（x|y）dx，（二）tial方程定义为：σ2其中p（x y）表示后验分布。 一种方式计算（2）是使用蒙特卡罗（MC）方法。 代替直接采样p（x y），我们使用生成CNNf（θ0; θ），由θ参数化，重新参数化x：x= f（θ0; θ）.然后，（2）中的x可以重新表示为dθt=− <$L（θt）dt+βexp（c0（L（θ）−1））dWt，其中L（θ）由（4）定义，在n（0，σ2I）和θ服从均匀分布。然后，上述方程的离 散 化 导 致 自 适 应 随 机 梯 度 朗 之 万 动 力 学（ASGLD）：^x^=0f（θ0; θ）p（θ|y，θ0）dθ。（三）σ2θk+1=θk−γk·L（θk）+βexp（c0（L（θ）−1））N你好，（六）这样的重新参数化允许我们利用隐式图像由CNN事先诱导。接下来的任务就是如何对后验分布进行π（θ）= p（θ|y，0），不1991Where（0，1）。 可以看出，与经典的SGLD，ASGLD自适应调整幅度基于损失函数L（θ）的噪声扰动。来自ASGLD的样本将在可行集范围内集中。更多详情请参见第31992∇---|−|−1.2. 主要贡献提出了一种不需要任何外部真像的自监督图像复原方法。该方法通过基于MC的积分训练CNN，其近似问题的MMSE估计器，其中关键是如何有效地对后验分布进行采样。本文的答案是自适应SGLD方法，一种有效的MCMC方案，专注于后验分布的集中区域所提出的方法被应用于解决两种成像模态中的图像重建问题：CS和相位恢复。实验结果表明，该方法不仅在现有的无网格算法中具有最好的性能，而且计算效率更高差异总结见下文ASGLD和大多数相关的无监督方法之间的差异。• ASGLD vs. DIP [55]及其扩展：DIP利用CNN诱导的隐式先验，并使用早期停止训练网络。ASGLD还训练网络，其算法的动机是基于MCMC采样逼近问题的MMSE估计器。• ASGLD与BNN [39]：两者都训练网络以逼近问题的MMSE估计器BNN通过变分近似使用具有随机权重的贝叶斯神经网络（BNN）来近似它。ASGLD使用基于MC采样的积分来近似它，该积分使用高效的MCMC采样器来实现。• ASGLD与普通SGLD：与用于一般MCMC采样的具有恒定噪声方差的经典SGLD相比，ASGLD提出了一种具有自适应噪声方差的新SGLD方案，该方案使人们能够有效地计算基于MC的积分。主要贡献摘要见下文：• 一种基于MC采样的MMSE估计器，用于未训练深度网络的图像恢复。• 一种新的MCMC采样的自适应SGLD方案，用于MC积分的有效计算。• 在两个图像恢复任务中，与现有的非监督方法相比，性能有显著• 一种通用的自监督方法，对成像中的其他不适定逆问题具有潜在的应用。2. 相关工作有大量的文献反问题。由于篇幅所限，我们只介绍最相关的内容。具有手动定义先验的正则化方法。正则化是图像恢复的一种重要方法，它通过对潜像施加一个预先定义的先验来解决问题的不适定性。大多数正则化方法可以被视为MAP估计器最小化minx logp（x y）=minxlogp（y x）logp（x），其中p（x）表示x的先验分布。过去提出了x上的不同先验，包括x上的高斯先验、x上的拉普拉斯先验[5，9，10，47]或相关测量，如小波系数[6，18]。监督学习方法。监督式深度学习已被用于解决广泛的图像恢复问题。一种方法是在具有许多对（y，x）的数据集上训练网络，该网络将输入测量映射到图像以进行恢复;参见例如。[12、13、53、64、65]。这种方法对于去噪效果很好，但它没有利用前向过程的信息。为了利用网络中的卷积信息，所谓的优化展开方法展开一些迭代方案，并通过具有可学习参数的去噪CNN来替换先前相关的操作;参见例如。[1、15、17、42、58、60]。使用预训练网络的深度学习方法在优化展开方案中，嵌入的CNN可以被视为对图像的先验进行编码的图像去噪器。所谓的即插即用的深度学习先验直接将预先训练好的去噪网络插入迭代方案中;参见例如。[35、46、48]。与使用预训练的去噪网络不同，预训练的GAN也用于提供先验以正则化来自网络的预测; AnkitRaj et al. [43]使用预先训练的GAN来取代压缩感知的手工先验。无监督学习专门用于图像去噪。无监督学习在去噪或类似任 务（如图像修 复）方面取 得了稳步进 展。Noise2Noise [30]从同一场景的两个嘈杂的实例中训练网络。Noise2void [28]提出了一种盲点技术，用于在一组噪声图像上训练去噪网络。基于SURE的正则化方法[51]提出了来自噪声图像的监督损失函数的Stein 提出了一种丢弃神经网络在[41]中，在单个噪声图像上训练NNR2R [40]介绍了一种数据增强方案，以提供对真实图像监督的损失函数的图像复原的自监督和无监督学习。Ulyanov等人[55]提出了DIP，它使用早期停止来避免过拟合，因为在早期迭代期间，训练更倾向于规则结构而不是随机模式。DIP已被用于许多图像恢复任务，包括盲去模糊[44]和图像抠图[59]。为了进一步提高DIP解决过拟合的有效性，Heckelet al.[25]提出了一种欠参数化的深度解码器来处理过拟合。Metzler等人[38] Zhussipet al. [67]提出了在迭代近似消息传递（AMP）方案中通过SURE对去噪器进行正则化。Pang等人[39]提出了一种MMSE估计的变分逼近方法，通过训练一个具有正态分布的权重的BNN，1993N不K不不氮不bitions。Cheng等人[14]提出使用经典的SGLD进行图像去噪和图像修复。Chen等人[11]假设数据中的等价性，并仅在测量值上在对偶空间中训练NN。Li等[32]提出了使用基于丢弃的MC采样方法进行盲图像去模糊。3. 使用ASGLD本节将详细讨论ASGLD方法，更多细节请参见补充文件。通过MC采样的近似MMSE估计器。考虑一个逆问题，表示为y= n（x）+n，（7）其中y表示测量集，x表示图像，n表示测量噪声。在这里，我们考虑高斯-正弦白噪声：n <$N（0，σ2I）。 设f（θ0; θ）= x表示Where（0，1）。可以看出，迭代（12）可以被视为 被 附 加 高 斯 白 噪 声 破 坏 的 噪 声 随 机 梯 度 下 降（SGD）方法。为了以足够的计算效率精确地计算（8），我们需要限制采样器，使得样本可以集中在由（9）定义的可行集合中。一个自然的想法是，如果在SGLD中，当θ在θ内时增加噪声扰动，而当θ在θ外时减少噪声扰动，则所得到的采样器将更有可能在可行集θ内进行随机游走。基 于这种思 想，我们 提出了一种 新的形式 的Langevin动力学的限制MCMC采样。假设θ服从均匀分布：θ ∼1 [−T，T]，且T足够大。然后，根据贝叶斯规则，π（θ）=p（θ|y，0）p（y|θ，θ0）p（θ）.（13）两边取负对数，我们有具有权重θ的生成网络，其将初始种子θ0映射到图像x。然后，我们有一个MMSE估计N-log p（θ|y，θ0）=2 σ2L（θ）+常数， （十四）或者所谓的条件平均值，由下式x^= xp（x|y）dx=<$f（<$0;θ）p（θ|y，θ0）d θ。（八）其中L由（10）定义我们提出了一种新的具有自适应随机项的朗之万动力学，其基础随机微分方程定义为：在我们的方法中，上述积分由MC法然后，剩下的问题是如何对定义为的后验分布进行采样σ2dθ t= − <$L（θ t）dt + βexp（c0（L（θ）−1））dW t。（15）然后，其离散化给出作为维度π（θ）= p（θ|y，0）。θ非常高，以有效地近似σ2θk+1=θk−γk·L（θk）+βexp（c0（L（θ）−1））γk·ε，（十六）积分时，采样器应集中于对积分计算有足够贡献的样本。换句话说，样本应该集中在π（θ）显著的子集中。因此，我们认为有一个有限的采样器，其样品集中在对于某个小常数ε，ε：={θ：σ2−ε≤L（θ）≤σ2+ε}，（9），其中L（θ）=1<$$>（f（θ;θ））−y<$2。（十）自适应朗之万动力学。一种流行的MC采样器是所谓的MCMC采样器。对于深度网络，在[57]中提出了Langevindynamics，一种MCMC采样器，可以用于对与网络权重相关的后验分布进行采样。Langevin动力学最初是用随机微分方程描述分子系统的动力学，dθ= − ΔL（θ）dt+Δ2dW，（11）其中L表示损失函数。上述方程的离散化给出了所谓的SGLD：θk+1=θk−γk·L（θk）+2γk·，（12）√199420 L（θ）2其中N（0，I）.迭代（16）被称为ASGLD。可以看出，随机项exp（c（σ−1））适应于L（θ）的值。当通过SGD训练DNN时，损失函数L的值将随着迭代而减小在损失较大的初始迭代中，ASGLD接近经典SGD。当L（θ）> σ2时，噪声水平随SGD扰动的减小而降低进而，第n个样本θt+1可能具有较小的L（θ）。当L（θ）<σ2，噪声电平随扰动的增大而增大关于SGD 进而，第n个样本θt+1可能具有较大的L（θ），因为SGD被大量失真。在这两种情况下，迭代方案（6）保持顺序样本当当前样本远离最 小 值时， 最小值被拉回到可行集。 选取常数c0，使得当L（θ）>3σ2时，随机项可忽略不计.分析和讨论。我们首先给出了随机微分方程（16）的平稳分布。定理3.1（平稳分布）。将θ t的密度函数定义为p（θ; t），其中θ t由随机初始化的（16）式确定。那么θ的平稳分布1995−2σ2σ了c0--了c0.--（ds）−Uk=K0β20S2ds β20 σ2σ40可以明确表示为σ2p∞（θ）<$exp[−G（L（θ））−2c0L（θ）]，其中G（s）：=2<$exp（−2c（σ2−1））ds是函数证据证明见补充文件实际上，在适当的β和c0下，p∞（θ）集中在L（θ）<$σ2附近，即这一套以小提琴演奏。定义σ2E（s）=G（s）+2c0s，则迭代（16）提供以下后验p（θ|y，σ，0）exp（−E（L（θ）））（17）而不是由（11）提供的exp（−NL（θ））。然后，(a)（b）第（1）款图1. (a)在不同的c 0和σ 2 = 0时，密度函数exp（E（s））（无正规化）. 01w.r.t.像素值范围[0，1]，在s = 0处获得最大值。01;（b）L（θ）的值w.r.t.在训练过程中反复。d2−2c（−1）σ2E（s）= e0Sβ2型双链淀粉-2c0s2.（a）（b）图2.生成的样本分布可视化设β =。σ2，我们有dE（σ2）= 2−2 c1= 0，来自ASGLD w.r.t. f（θ0，θ k）. (a)来自迭代100的样本的分布;（b）迭代1100之后的样本的分布通过取平均值对MMSE估计器（8DD2−2c（σ21）− 2c0σ24c0σ2∫1Σ（ds）2E（s）= e0Sβ2S2+s3>0，对于s >0。xx=f（θ0; θ）p（θ|y，0）d θK−K0k=K0f（θ0; θ k）.显然，对于s>0，E（s）是凸的，并且s=σ2是全局的。E（s）的最小值。 此外，E（s）具有较大的曲率围绕着最小化。例如，设β =σ2，我们有4. 实验所提出的方法是一种用于训练的训练算法DD（ds）2E（α）= 4c0（1 + c）. 在σ2= 0的情况下，01，准备没有真实图像的DNN虽然它独立于网络架构，但我们采用与DIP相同的U-Net [55]c0= 50。则dd2E（σ2）>108.CS-MRI中的经验图示。该图示通过在CS-MRI上应用ASGLD进行，配置有10%测量噪声和具有25%采样率的1D高斯掩模图1为密度函数exp的可视化（E（s））和Fig.2用于分配 f（θ0，θ k）由ASGLD沿迭代生成，通过PCA降维可视化。可以看出，ASGLD在大约1000次“老化”迭代之后快速开始对接近真实值的区域进行采样，最后，这些样本的平均值提供了一个很好的近似值。培训和测试。 给定一个生成的未训练网络，该网络通过ASGLD（16）训练总共K次。令K0表示换句话说，我们生成一个集合，通过所有的实验来排除网络结构的影响，以实现公平性。该架构是5层自动编码器与跳跃连接，每层包含128个通道。 我们将固定输入设置为从均匀分布（0，0. 1）。所有的实验都是基于Py- torch的，在一台带有NVIDIA Titan RTX GPU的服务器上进行 该代码可在https://github.com/Wang-weixi/restricted_sampling上公开获取。在定量比较表中，所有监督方法的最佳结果标记为粗体，所有传统正则化和无监督学习方法的最佳结果标记为蓝色。4.1. CS图像重建CS [8]是一种用于更快采样和更低能耗的成像模式。它具有广泛的应用，包括医学成像[21，34]和计算样本数{θk}K，可用于计算摄影 [2，19]。 用于CS的图像重建可以是K定义为不定积分。1996N××[31]第一届全国政协副主席、全国政协副主席、全国政协副主席图3.对于“Barbara”，使用比率为25%的噪声输入的CS图像重建结果表1. Set11上自然图像重建的不同方法的平均PSNR（dB）结果正规化方法监督方法自监督方法噪声CSTVAL3D-腺苷酸ReconNet ISTA ISTA+ DPANet MACNet FISTANetSURE-DIP BNNASGLDσ比[三十一][37]第三十七届[29][61] [12][58]第二届世界卫生大会[55]第二届全国人大代表选举百分之四十30.5233.49-35.97 36.0235.0435.3136.2434.1235.7135.870百分之二十五26.4428.2125.5432.59 32.4431.7432.9132.6029.7631.33 32.30 33.06百分之十21.3521.1622.6826.64 26.4926.9927.6826.9422.6527.40 27.49 28.15百分之四十26.6629.25-27.9831.0930.0130.3431.0731.1428.87 30.39 31.1110百分之二十五24.7526.3524.3627.26 29.2029.2529.3130.3228.5027.36 28.67 29.35百分之十21.0220.8422.00二十四点五五分二十四点五五分25.2125.5625.1122.1124.19 25.23 26.02求解一个病态线性系统：y=Ax+n，其中A∈RM×N（M<$N）表示感知矩阵。CS用于自然图像采集。在[39，61]的基础上，我们考虑通过逐块随机高斯感知矩阵进行基于CS的自然图像采集。来自Set 11 [61]和BSD 68 [28]的图像被裁剪成大小为33 33的非重叠块，以生成测量值。大小为MN（N = 1089）的感测矩阵A是利用行正交化从（0，I）采样的。带标准差的高斯白噪声。10加到测量值上。测试了三种不同的下采样率用于比较的方法包括正则化方法：TVAL 3 [31]和D-AMP [37];六种监督学习方法：ReconNet [29]，ISTA和ISTA+[61]，DPANet [53]，MACNet [12]和FISTANet [58];三种自监督方法：SURE-AMP [67]，DIP [55]和BNN [39]。我 们 将 学 习 率 设 置 为 0 。 001. 对 于 噪 声 数 据 ，K=10000，K0=2000。 对于无噪声数据，K=30000，K0= 5000。不 同 配 置 下 不 同 方 法 的 定 量 比 较 见 表 1 这 表 明ASGLD不仅明显优于所有非学习和无监督的深度学习方法，而且与监督学习方法相比仍然非常具有竞争力。一个示例和补充文件的不同方法的可视化比较见图3。CS-MRI。第二个CS应用是基于CS的MRI，这是一种用于快速MRI成像的重要技术。实验-1997这是一个过程[33，39]。测量矩阵A使用随机傅立叶下采样矩阵来实现，并且数据集包含来自ADNI（阿尔茨海默病神经成像倡议）的21个MRI图像。测试了三种下采样率为25%的下采样模板：一维高斯模板、二维高斯模板和径向模板;[39] 更多详情ASGLD与不同的方法兼容，包括直接补零（ZF）方法[4]和TV正则化方法[34];监督ADMM-Net [60];具有三种不同网络的即插即用方法[33]：SCAE，SNLAE ， GAN; 调 整 自 由 即 插 即 用 深 度 学 习TFPBLOG [56];三种自监督学习方法：DIP [55]，BNN [39]和EI [11]。对无噪声测量和噪声水平σ=10%的有噪声测量进行了测试。学习率为0。002.对于噪声数据，K=7000，K0=1000。 对于无噪声数据，K=15000，K0= 5000。不同配置下不同方法的定量比较见表3不同方法结果的可视化见图4可以看出，在包括监督学习方法在内的比较方法中，ASGLD总体上表现最好更多实验和可视化见补充文件4.2. 相位恢复相位恢复是一种成像技术，在工程和科学的许多领域都有应用. 衍射成像[26，27]、显微成像[66]和全息成像[45]。它需要解决一个非线性问题：b=√|Ax|2+n，1998表2. 在BSD 68上进行自然图像重建的不同方法的平均PSNR（dB）结果正规化方法监督方法自监督方法噪声CSTVAL3D-腺苷酸ReconNet ISTA ISTA+ DPANet MACNet FISTANetSURE-DIP BNNASGLDσ比[三十一][37]第三十七届[29][61] [12][58]第二届世界卫生大会[55]第二届全国人大代表选举百分之四十29.3928.03-32.17 32.1731.3331.3932.2530.2630.10 31.28 31.360百分之二十五26.4825.5725.3129.36 29.2929.0029.4229.1827.0227.78 28.63 29.51百分之十22.4921.9223.1625.32 25.2925.5725.8025.0922.5324.82 25.24 25.51百分之四十26.1526.55-26.68 28.9828.7828.9229.0128.1625.24 28.13 28.7510百分之二十五24.8024.8724.1225.84 27.2627.2427.5728.1226.1424.07 26.47 27.16百分之十22.0321.7022.3623.86 23.8624.3424.6324.3421.9322.46 23.79 24.56表3. 不同MRI重建方法的平均PSNR（dB）结果正规化方法监督方法自监督方法方法噪声ZF TV Prior[4][34]ADMM SCAE SNLAE GANTFPPLEND[33]第二阶段：2000年至2001年 [56个][11]第十一届全国政协副主席、全国政协副主席。1D 023.0625.7728.9929.3729.06 27.47 29.9428.98 31.80 31.38 32.18高斯10%20.3722.2522.9822.7224.37 23.32 24.2422.98 23.38 25.65 26.032D 025.332.7934.9735.6132.85 32.94 33.8831.7635.63 36.07高斯10%22.3824.9225.8426.0626.06 26.15 26.8924.61 24.41 27.40径向0百分之十25.4522.3832.3225.1633.6725.9633.9426.1332.5326.3832.2625.3333.2427.1231.14 33.8124.73 24.5434.3827.37[33]第一届中国国际纺织品博览会[36]图4.采用采样率为25%的1D高斯掩模的CS-MRI重建结果。表4. 不同相位恢复方法的平均PSNR（dB）结果数据集不自然-6 [35]自然-6 [35]传统即插即用自监督传统即插即用自监督噪声类型WF海豚prGAMP prDeep烫 BNNASGLDWF海豚prGAMP prDeepDIP BNNASGLD[54]第二次世界大战期间，[36][35][55][39][54]第二次世界大战期间，[36][35][55][39]1020.3724.7130.0030.2028.71 29.99 31.5315.3323.6825.2826.1124.54 24.65 25.30AWGN 1526.1826.7032.8132.1332.49 31.89 34.5321.1226.7828.1928.7929.59 29.52 30.302031.4729.8035.8135.4432.08 32.22 37.3126.4230.0930.8731.3332.17 30.19 32.321999| ·|.联系我们||938.6730.1239.4139.0132.96 43.6738.8031.2138.1237.8736.21 36.64 40.41泊松2728.6126.8132.5333.0331.88美元 37.0929.0227.1231.2931.7130.33 30.98 34.618117.9522.1125.3227.1726.25 29.81 30.0118.6119.2823.9725.2324.40 24.29 28.29哪里表示绝对值，并且A是感测值。由离散傅里叶变换和双极（或均匀）随机掩模组成的随机掩模;更多详情见[35]。实验在2个数据集上进行：非自然-6和自然-6组，每组6张图像[35]。为了公平-因此，测量数据是从三个双极掩模。我们考虑两种类型的噪声：AWGN和泊松。AWGN的噪声水平由SNR来衡量，而Poisson噪声由噪声n中的α来衡量0，α2Ax2（大α表示低SNR）。比较的方法包括2000任务CS（σ=10）MRI（σ =25。第五章）相位恢复[35][36][37] [38][图5.双极掩模相位恢复结果和SNR=15的样本数据。表5. ASGLD与经典SGLD在噪声测量方面的PSNR（dB）比较设置11BSD68高斯AWGN（信噪比）泊松（α）百分之十 25%40%百分之十 25%40%1D和2D 径向10 15 209 27 81SGLD25.30 28.5924.13 26.28 28.0225.11 26.25 26.3027.64 31.66 33.2540.74 33.09 26.73ASGLD26.02 29.35 31.1124.56 27.16 28.7526.03 27.40 27.3728.42 32.4242.04 35.85 29.15传统的非学习Wirtinger流（WF）方法[7]和字典学习DOLPHIn [54];两种即插即用方法：prGAMP与BM 3D去噪器[36]和监督学习去噪器prDeep [35];两种自监督学习方法：[55]《明史》：“五月，五月，五月。我们将学习率设置为0。01. 对于无噪声和有噪声数据，K=10000，K0= 2000。结果见表4可以看出，ASGLD是所有比较方法中表现最好的。它对测量噪声也是最鲁棒的。一个样品不同方法的目视比较见图5表6.型号尺寸比较，不。不同方法的迭代次数和计算时间，以 获 得 具 有 测 量 噪 声 的 MRI 重 建 的 报 告 结 果 （ σ= 25.（五）。方法公 司简介参数数迭代次数经过时间PSNR2M2.2M2.2M41× 10520s40的情况。3×1041× 10640s1990年代25.7026.1426.424.3. 消融研究在这项研究中，我们想看看有多少优势的性能和效率的建议ASGLD普通SGLD。在这两种应用上进行了实验性能消融研究见表5，效率研究见表6从表5中可以看出，由于我们提出的有效的限制性采样策略，在所有三个实验中，提出的ASGLD优于相同的实现方式，但SGLD的性能要高得多。在计算效率方面，ASGLD比SGLD快3倍左右，且结果更好，BNN也是如此。此外，从图6中可以看出，所提出的ASGLD在训练期间也非常稳定。限制. 所提出的方法旨在训练一个NN，图6. ASGLD和SGLD w和w/o的PSNR曲线在MRI上迭代的平均值（高斯噪声，σ= 25. （五）。解决逆问题，而无需访问任何真实图像。作为一种无监督的解决方案，它不能像有监督的方法那样有一个预训练的模型来处理新的数据。这样的问题限制了其对需要图像数据的实时处理的某些应用的适用性。5. 结论本文提出了一种用于一般图像恢复和重建问题的自监督深度学习方法，该方法基于自适应随机梯度Langevin动力学，用于积分计算的有效MCMC采样该方法具有通用性，在重建质量和计算效率方面均优于现有的在未来，我们希望研究其应用到其他问题，以及进一步提高其计算效率。确认这项工作由新加坡MoE AcRF Tier 1 Research GrantR146000229114资助。2001引用[1] J. Adler和O.好的。学习原始对偶重建。IEEE医学学报伊玛格，37（6）：1322-1332，2018. 3[2] G. R. Arce，D.布雷迪湖Carin，H. Arguello和D. S.基特尔压缩编码孔径光谱成像：一个介绍。IEEE信号处理。麦格，31（1）：105 5[3] J. Batson和L.罗耶Noise2self：通过自我监督进行盲去噪。ICML，第524-533页。PMLR，2019年。1[4] M. A. Bernstein，S. B. Fain和S. J·里德勒MRI数据的加窗和零填充重建对空间分辨率和采集策略的影响。磁共振成像杂志，14（3）：270-280，2001。六、七[5] J. - F. 蔡湾，澳-地Dong，S.Osher和Z.沈 图像恢复：全变 分 小 波 框 架 及 其 他 Journal of the AmericanMathematical Society，25（4）：1033-1089，2012. 3[6] J. - F. 蔡氏H.吉角，澳-地Liu和Z.沈基于稀疏逼近的单幅图像盲运动在CVPR，第104-111页，2009年。3[7] E. J. Candes，X. Li，和M。Soltanolkotabi通过双稳态流的相位恢复：理论和算法。IEEE Trans. INF.Theory，61（4）：1985-2007，2015. 七、八[8] E. Candes和T.涛.从随机投影的接近最佳的信号恢复：通用编码策略？IEEE Trans. Inf. Theory，52（12）：5406-5425，2006。5[9] A. Chambolle和P. - L.狮子基于全变分最小化的图像恢复及相关问题。Numerische Mathematik，76（2）：167-188，1997. 3[10] T. F. Chan和C.- K.黄。全变差盲反卷积。 IEEE传输图像处理。，7（3）：370-375，1998. 3[11] D. 陈，J.Tachella和M.E. 戴维斯等变成像：超越范围空间的学习。在ICCV，第4379一、四、六、七[12] 陈杰，Y.孙角，澳-地Liu，和R.煌用于图像压缩感知的学习记忆增强级联网络。参见ECCV，第513-529页。Springer，2020年。一、三、六、七[13] Y. Chen和T.Pock 可训练的非线性反应扩散：快速有效图像恢复的灵活框架IEEE传输模式分析马赫内特尔，39（6）：1256 3[14] Z. Cheng，M.中国植物志Gadelha，S. Maji和D.谢尔顿基于贝叶斯理论的深度图像先验。在CVPR中，第5443-5451页1、4[15] Q.丁氏G. Chen，X.张，智-地Huang，H. Ji和H.高.通过近端向前向后分裂进行深度学习正则化的低剂量CT医学生物学物理，2020年。3[16] Q. Ding，H.吉，H. Gao和X.张某可学习多尺度傅立叶插值用于稀疏视图ct图像重建。在MICCAI，第286-295页，2021中。1[17] Q. 丁氏Y.Nan，H.Gao和H.纪使用自适应超参数进行深度学习，用于低剂量ct图像重建。IEEE Trans. Comput.伊玛格，7：648-660，2021. 第1、3条[18] B. Dong，H. Ji，J. Li，Z. Shen和Y.徐基于小波框架的图像盲修复。应用和计算谐波分析，32（2）：268-279，2012年。3[19] M. F. 杜阿尔特湾A. 达文波特D.Takhar，J.N. 拉斯卡，T.孙先生，K. F. Kelly和R. G.巴拉纽克通过压缩采样的单像素成像。 IEEE信号处理。麦格，25（2）：835[20] 五E.- B. D. L. 用于噪声盲图像去模糊。基于变分EM的深度学习，用于噪声盲图像去模糊。在CVPR，第3626-3635页，2020年6月。1[21] 联合Gamper，P. Boesiger，and S.科泽尔克动态MRI中的压缩感知。磁共振医学，59（2）：365-373，2008。5[22] Y. Gandelsman，A. Shocher和M.伊拉尼“双底”：通过耦合深度图像先验的无监督图像分解。在CVPR中，第11026-11035页，2019年。2[23] K.贡角，澳-地Catana，J. Qi，and Q.李使用深度图像先验的PET图像重建。IEEE医学学报伊玛格，38（7）：1655-1665，2018. 2[24] R. 海克尔用卷积神经网络正则化线性反问题在NeurIPS2019医学影像会议上，2019年的NeurIPS研讨会。2[25] R. Heckel和P.手深度解码器：来自未经训练的非卷积网络的简洁图像表示。在ICLR，2018年。3[26] J. Holloway，M. S. Asif，M. K.夏尔马松田河霍斯特迈尔岛Cossairt和A.维拉加万使用相干相机阵列的远距离亚衍射成