航空物探数据微水准测量中的深度卷积网络和MoG-RPCA方法

地球科学中的人工智能2（2021）20基于深度卷积网络和MoG-RPCA的航空物探微水准测量李新泽a，吴邦宇a，*，刘国锋b，朱旭a，王林飞caXi交通大学数学与统计学院，陕西Xi，710049b中国地质大学地球物理与信息技术学院，北京，100083c中国自然资源航空物探遥感中心，北京，100083A R T I C L E I N F O关键词：航空物探数据微水准测量深度卷积网络MoG-RPCAA B S T R A C T在标准调平过程之后，剩余磁误差仍然存在。非地质因素的微弱影响，表现为沿光线的条纹状噪声，给航空物探数据处理和解释带来了挑战微水准测量是消除这种残余噪声的过程，现在是标准的航空地球物理数据处理步骤。本文提出了一种两步法的航空物探单点数据微水准测量方法：首先采用深度卷积网络作为逼近器，将原始数据映射为具有自然地质结构的低层部分和仍包含高层次细节地质结构的波纹残差;然后采用高斯稳健主成分分析（MoG-RPCA）混合算法从残差中分离出弱能量精细结构最终的微调平结果是添加了来自深度卷积网络的低级结构和来自MoG-RPCA的精细结构深度卷积网络不需要数据集进行训练，手工制作的网络作为先验（深度图像先验）来捕获航空地球物理数据中的低级自然地质结构对合成数据和野外数据的实验表明，深度卷积网络和MoG-RPCA相结合是一种有效的单点航空物探数据微水准测量框架1. 介绍作为一种有效的地球物理勘探技术，航空地球物理勘探在资源调查中发挥着重要作用（Gao et al.， 2016年）。对于典型的航空地球物理数据，大的非线性线间距（几千米）之间的测量可能导致水准测量误差（Luo等人，2012年）。非地质效应在标准水准测量后仍然存在，在航空地球物理图像中以沿平行光线的微弱条纹噪声的形式显示。 影响后续资料处理和解释。微整平或去皱是抑制残余噪声的过程。它已成为航空物探数据处理的标准步骤之一，为后续工作提供了高质量的数据集。关于微水准测量的具体操作方法，已有很多研究 经典的微水准测量方法基于空间/傅立叶域滤波器或组合（Syberg，1972; Minty，1991;Ferraccioli等人， 1998;西蒙，2009;帕特森，格兰特&沃森，1998）。所有的定向过滤微水准测量技术都过滤掉了沿着光线的高频地质结构的一部分（Gorune等人，2018年）。为了提取空间局部异常细节，Fedi等人。（2003）提出了基于离散小波变换的磁场去噪方法。微调平也可以通过统计方法实现（Gorune等人，2018; Davydenko等人，2014; Zhang等人，2018年）。 Gao等人（2021）设计了一种基于曲波变换的调平方法。利用曲波变换的多尺度、多方向特性，可以有效地消除数据中的水准误差航空地球物理数据微水准测量与图像处理中的条纹噪声去除具有从问题定义到操作的共同特征。 有关图像分割方法的全面系统综述，请参阅Chang等人。（2020年）。 近年来，机器学习已广泛用于物理学领域（Wanget al.， 2020，2021; Magrini等人， 2020; Cuddy，2021）。由于深度CNN模型已经成功地解决了许多地球物理问题（Zhou et al.，2021年; Yu等人， 2021; Wu等人， 2021; Huang等人， 2021年; Li等人， 2021），自然提出了使用深度CNN模型的图像去噪方法。然而，这些方法需要大量的训练样本，这是不可行的野外航空地球物理数据的微水准测量Ulyanov等人， 2020年表明，生成器CNN的结构可以* 通讯作者。电子邮件地址：bangyuwu@X jtu.edu.cn（B. Wu）.https://doi.org/10.1016/j.aiig.2021.08.003接收日期：2021年6月10日;接收日期：2021年8月27日;接受日期：2021年8月27日2021年9月8日网上发售2666-5441/©2021作者。出版社：Elsevier B.V.代表科爱通信有限公司公司这是CC BY许可下的开放获取文章（http://creativecommons.org/licenses/by/4.0/）中找到。可在ScienceDirect上获得目录列表地球科学中的人工智能杂志主页：www.keaipublishing.com/en/journals/artificial-intelligence-in-geosciencesX. Li等人地球科学中的人工21Xð Þð Þ ð Þθ捕获大量的低级图像统计先验。使用该网络作为手工先验，他们在图像去噪、超分辨率和修复方面展示了出色的应用。在没有训练数据集的情况下，Liu et al. （2021）将U形网结构作为地震数据先验，应用于地震数据缺失道重建。 Qiu等人（2021）提出了一种利用ConvNet的高低阻抗对噪声和地震数据进行去噪的无监督去噪方法。在本文中，我们提出了一个两个步骤的单一航空地球物理图像微水准测量程序。在调平之后，图像中的残余波纹与地质结构的振幅相比是弱的，并且促成了二维图像中的高频分量。在我们提出的算法中，第一步是使用具有深度图像先验（DIP）的生成器网络（Ulyanov等人，2020）提取航空地球物理数据中低层自然地质构造的强振幅。 然后从与精细尺度地质构造混合的数据中分离出水平条带弱断层。对于第二步，MoG-RPCA（Zhao等人， 2014）被用来将精细尺度结构与深度卷积网络的残差分离。 然后，在第一步中，将分离的结构细节添加回低层地质结构。本文的组织如下：第二节详细介绍了深度卷积网络和MoG-RPCA;第三节介绍了本文使用的模型结构和参数选择过程在第四节中，我们进行实验并讨论结果。在第五节中，我们得出结论。2. 该方法2.1. 深度卷积网络微水准测量的目的是从起伏的航空地球物理数据x0中恢复自然地质结构x*，其可表示为：x*1/4minEx;x0Rx;（1）其中x是神经网络的输入数据，x*是微水准测量结果，E x;x0是损失函数，R x是用于捕获自然地质结构的一般规律性的正则化函数在我们的任务中，深度卷积网络模型用卷积神经网络捕获的隐式先验替换Rx（Ulyanovet al.，2020年），如下θ*<$argminEfθz;x0;x*<$fθ*z;（2）其中θ*是基于随机初始化的网络参数通过训练获得的最优参数解，f θ是映射（具有参数θ的深度卷积网络），z是随机初始化的输入。当迭代时，每次迭代都是一个网络训练过程。具体的迭代过程如图所示。1.一、Ulyanov等人（2020）通过比较原始图像和shuffed图像的重建任务损失曲线（随机重新排列图像像素幅度），发现CNN对自然图像呈现低阻抗。这意味着CNN网络在包含随机噪声时首先评估“干净”的图像。通过这种方式，它可以用于衰减图像中的随机噪声。为了验证该方法的有效性，我们对航空物探数据进行了相似性检验利用深度卷积网络对原始航空物探数据和相应的混叠数据进行重构，损失曲线如图所示。 二、 从图 2、可以看出，阻抗到实数图1.一、深度卷积网络微水准测量流程图。图二. 原始数据（蓝线）和重排数据（红线）的重建任务损失曲线。航空物探数据比shuffed数据低，这意味着深度卷积网络可以预先捕获航空物探数据统计，可以用于微水准测量。与随机噪声不同，航空物探数据中的条带噪声是沿直线分布的低频噪声然而，波纹线是二维图像的高频标准水准测量后，条带噪声的幅值与航空物探资料中的主要地质构造相比是微弱的 图图3显示了合成数据的迭代过程。 我们观察到，由于均方误差（MSE）损失函数，该网络将提取具有较大幅度值的自然地质结构，并分离条带噪声。 对于弱能量精细结构，振幅与条纹噪声相同的水平也将被去除。因此，由深度卷积网络分离的残差包含弱能量精细结构。 为了获得高质量的微调平结果，需要保留精细结构。2.2. MoG-RPCA我们使用MoG-RPCA将精细尺度结构与深度卷积网络的残余分离鲁棒主成分分析（RPCA）是一种有效的方法，它将给定的数据矩阵分解为低秩矩阵和稀疏矩阵（Vidal等， 2016; Huang等人， 2017年）。RPCA的公式可以表示为：（ 3）其中L是低秩矩阵X，S是稀疏矩阵X。 RPCA已经成功地解决了许多机器学习和计算机视觉问题。Wu等人（2019）提出了一种使用lp范数RPCA衰减地震交通噪声的工作流程。 Zhao等人（2014）通过将数据噪声建模为高斯混合（MoG），在贝叶斯框架下开发了生成RPCA模型。 该方法（MoG-RPCA）在去除随机噪声和背景扣除方面取得了较好的效果。X. Li等人地球科学中的人工22XL/UV/UV;（7）：r¼ ðÞP≥¼X. .Σ... ... .. ...×ð Þ ð Þ-Gaussian Distribution的缩写。 高斯分量参数μk、τk和混合比例π的共轭先验表示为μk;τk~N。μk。μ0;<$β0τk<$-1<$Gam<$τkjc0;d0<$;（ 5）π~Dir<$πjα0<$;（ 6）其中Gam<$τjc0;d0<$$>是参数为c0和d0的Gamma分布，Dir<$πjα0<$$>表示由α0α01;<$;α0k参数化的Dirichlet分布。自动相关性确定（Babacan等人， 2012）由于其速度快、可扩展性好等特点，被用于低秩组件建模部分。秩为l≤minimumm;n 的矩阵xL2Rm×n是U2Rm×R与V2Rn×R的乘积RT T：r图三. 合成数据迭代过程。(a)合成数据。(b)：200次迭代。(c)：（b）的余数。(d)：1000次迭代。(e)：（d）的余数。(f)：5000次迭代。(g)：（f）的余数。MoG-RPCA一般用于非稀疏有效信息为低秩，稀疏随机噪声为高秩的情况。高斯混合被用来估计噪声。而对于航空物探数据，低秩部分是低频条带噪声，高秩部分是我们需要的详细地质构造航空物探数据的原始地质构造不满足稀疏条件。而且大部分信息会和条纹噪声一起作为主成分被提取出来，因此直接对原始数据进行MoG-RPCA无法达到良好的然而，我们发现深度卷积网络处理后保留在残留物中的大部分精细结构是稀疏的，可以通过MoG-RPCA提取我们可以使用这种方法从残差提取精细结构，并将其添加到使用深度卷积网络获得的自然地质结构中。因此，我们提出的两步法可以实现航空物探数据的微水准测量。具体来说，MoG是一个具有任何连续分布的通用近似器（Bishop，2006）。来自残差的精细尺度结构是复杂的，稀疏的，可以用MoG表示假设S是s ij的总和，并且每个s ij遵循MoG分布（Zhao等人， 2014年度）Ksij~πkNsijμk;τk-1;（4）k¼1其中K是高斯分布的数量;πk是权重，Kπk0d和πk1;μk，τk-1代表平均值和标准差。k¼1r1其中R>1，u：rv：r是U V的第r列。将以下先验应用于U和Vu：r~N。u：r0;γ-r1Immm;v：r~N.v：rj0;γ-r1inn;（ 8）其中Im是m m恒等矩阵X。每个精度变量的共轭先验为γr~Gamγr ja0;b0（9）将式（4）和式（7）带入式（3），得到一个完整的基于MoG的贝叶斯鲁棒主成分分析模型，简称MoG-RPCA。3. 方法3.1. 网络架构广义网络是一个全卷积编码器-解码器体系结构。这种类型的网络结构确保输出数据的大小与输入数据的大小相同为了避免在池化操作中丢失有效数据细节，网络中 为了避免网络泛化能力的下降，BatchNorm结 构 被 添 加 到 每 个 卷 积 层 ， 反 卷 积 层 和 跳 过 连 接 层 。 我 们 使 用LeakyReLU作为非线性映射，并在上采样操作中选择双线性上采样。 我们通过使用平均池来实现下采样技术。对于网深，考虑到微水准测量的效果和计算量，网深设置为5层。虽然有效地质构造随位置不同而不同，但条带噪声是相同的。 经过测试，我们选择了对数据中低频条纹噪声阻抗最大的网络。具体的网络结构如图所示。 四、3.2. MoG-RPCA参数设置除高斯数K外，模型中的所有参数都以无信息的方式设置，以使其对后验分布的影响尽可能小在实验中，我们设置μ01/40，α0 1;α0 K; β0; a0; b0; c0; d0均设置为10 - 6（Zhao等人， 2014年）。为高斯数K，我们先以较大的K运行模型，然后验证是否存在两个相似的高斯分量，即验证μi-μj=和τi-1-τj-1=都小于预设的阈值。如果是，我们将K设置为K1，并重复上述操作，直到找到合适的K。我们实验中使用的K值为3。X. Li等人地球科学中的人工23××见图4。深度卷积网络的架构。每个蓝色方框X表示多个特征图。方框上方的数字表示特征图的通道箭头表示不同的操作。图五、两 步法微整平工艺。（a）：无噪声航空地球物理数据。（b）：增加的条纹噪声。（c）我们使用的合成数据（d）：通过深层卷积网络获得的低层地质结构（e）：通过深度卷积网络获得的波纹残差（f）利用MoG-RPCA得到的波纹残差的弱能量精细结构。(g)：最终消除了微调平后的条纹噪声。(h)用所提出的方法获得的微水准测量结果。4. 实验4.1. 合成数据在无噪声航空物探数据上进行了合成数据实验（图1）. 5 a）添加条纹噪声（图 5 b）。数据维度为256 256。在将数据输入网络之前，将其归一化，使其值在[0，1]之间网络的初始输入数据是0到0.1之间产生的均匀噪声，其维数与实验数据相同。学习率设置为0.01。图5显示了我们的两步程序方法的微整平过程。首先，我们使用深度卷积网络来处理合成数据（图1）。 5 c），提取大部分低层地质构造（图5 d），得到波纹状残差（图5 e）。将波纹残差与原始数据进行比较，可以看出波纹残差中也含有大量的弱能精细结构。下一步，我们使用MoG-RPCA进一步提取波纹残差中的精细结构。 从图5 f和g可以看出，几乎所有的精细结构都是提取。最后，MoG-RPCA提取的弱能量精细结构（图1）。 5 f）与深度卷积网络（图5 d）得到的低层地质构造叠加，得到微水准结果（图5d）。 5 h）。利用结构相似度（SSIM）、均方误差（MSE）和峰值信噪比（PSNR）对航空物探合成数据的微水准效果进行了定量评价。指标如表1所示。通过表1可以看出，条带噪声的存在确实对航空物探数据有一定的影响，我们提出的两步微水准测量方法是有效的。4.2. 场数据我们实验中使用的野外数据是附在Gosoft的Oasis montaj软件上的真实航空地球物理数据，289.第289章我是你的第六章参数设置与合成数据实验相同。我们还使用了MoG-RPCA和离散小波变换方法（FediX. Li等人地球科学中的人工24表1基于合成数据的微水准测量成果定量评价数据SSIMMSEPSNR具有条带噪声的航空物探数据（图 5 c）0.95410.944048.3813微调平结果（图） 5小时）0.99880.034662.7415图第六章 现场航空地球物理数据。例如， 2003）直接处理原始数据。微调平结果和低频条纹噪声分别见图7和图8。 我们可以看到，只有使用MoG-RPCA（图1和图2）。 7c和8c），水平条带噪声和自然地质构造一起被视为主分量，并且不能分离。离散小波变换方法（图 7 d和8 d）有效地去除了条纹噪声，但也去除了大量的地质结构。我们的方法进一步提取了深度卷积网络结果的有效信息（图1和图2）。 7 a和8a），因此，去除的能量（图。 8 b）不包含任何有效信息，微调平结果（图7 b）最好。我们还从四组微水准测量结果中提取了同一列数据，并将它们绘制在图中。第九章图中的结果。 9进一步证明，与单个深度卷积网络（图9 a）相比，MoG-RPCA（图9 a） 9 c）和离散小波变换方法（图。图9 d），我们提出的两步微水准测量程序（图9 b）有效地消除了条带噪声，保留了更多的自然地质结构。5. 讨论和结论本文提出了一种两步法，利用深度卷积网络和见图7。微调平结果。(a)深度卷积网络。(b)：建议采用两步法。(c)* 内政部-RPCA。(d)离散小波变换（Fedi和Florio，2003）。见图8。删除条纹噪音后，微调。(a)深度卷积网络。(b)：建议采用两步法。(c)* 内政部-RPCA。(d)离散小波变换（Fedi和Florio，2003）。MoG-RPCA。 深度卷积网络不需要数据集进行训练，可以捕获航空地球物理数据中的低层自然地质结构。具体的网络结构是根据微水准测量效果、计算成本和参数数量确定的。利用MoG-RPCA进一步提取波纹状残余物中的弱能量精细结构我们使用合成和现场的航空地球物理数据进行实验，并证明了所提出的方法的有效性。两步微调平过程可用于生成用于监督机器学习微调平方法的标签。资金本课题得到了国家重点研发计划（2017 YFC 0602204 -01）的支持竞合利益我们声明，我们没有任何商业或联合利益，代表与提交的工作有关的利益冲突见图9。随机选择的数据图的比较。(a)深度卷积网络。(b)：建议采用两步法。(c)*内政部-RPCA。(d)离散小波变换（Fedi和Florio，2003）。X. Li等人地球科学中的人工25引用Bishop，C.，2006年。模式识别和机器学习。斯普林格，纽约。Babacan，S.，Luessi，M.，莫利纳河，Katsaggelos，A.，2011.低秩矩阵估计的稀疏贝叶斯方法。IEEE Trans.信号处理。 60（8）.Chang，Y.，陈美，延湖，加-地赵，X.，李，Y.，Zhong，S.，2020.通过基于小波的深度卷积神经网络实现通用条纹消除。IEEE地球科学学报 雷姆Sens. 58（4），2880- 2897。Cuddy，S.，2021年在岩石物理学中使用人工智能的好处和危险。地球科学中的人工智能2，1Davydenko，A.，Grayver，A.，2014.主成分分析在地球物理资料滤波和水准测量中的应用J.Appl. 地球物理学家。109，266- 280.Ferraccioli，F.，甘贝塔，M.，Bozzo，E.，1998.应用于区域航磁数据的微水准测量程序：来自横贯南极山脉的一个例子。地球物理学家。前景46（2），177- 196。Fedi，M.，Florio，G.，2003年。磁性方向性趋势的去除场的小波变换：应用于考古领域。地球物理学家。 前景51（4），261- 272。高文，Shu，Q.，Qu，J.，例如，2016.国外航空物探技术新进展。地球物理学家。地球化学。EX plor. 40（6），1116- 1124。Groune，D.，Allek，K.，Bouguern，A.，2018.航空物探资料微水准测量的统计方法。J.应用地理学. 159，418- 428。加奥湖，Yin，C.，中国植物研究所，王，N.，例如，2021年 基于曲波变换的航空电磁数据水准测量。下巴J. 地球物理学家。 64（5），1785- 1796。黄伟，王，R.，陈旭，陈玉，2017.信号估计的双最小二乘投影方法。IEEE Trans.吉奥西。雷姆Sens. 55（7），4111- 4129。黄伟，高氏，Liao，J.，Chuai，X.，2021.用于估计地震局部斜率的深度学习网络。汽油Sci.18，92- 105.Luo，Y.，（1996年），美国，Wang，L.，美国，他H2012年。航空物探数据的微水准处理地球物理学家。地球化学。EX plor. 36（5），851- 855。刘昆，Fu，L.，张，M.，2021.使用卷积神经网络进行基于深度地震先验的地震数据重建。Geophysics 86（2），131- 142.Li，K.，陈淑仪，Hu，G.，2021.使用变分自编码器的地震标记数据扩展。地球科学中的人工智能1，24- 30。明蒂，B.，1991.航磁数据的简易微水准测量。EX plor.地球物理学家。22（4），591- 592。Magrini，F.，Jozinovi，D.，Cammarano，F.，例如，2020.局部地震探测：全球范围内三分量地震图基准数据集。地球科学中的人工智能1，1- 10。帕特森，G.，Watson，G.，1998. Oasis Montaj™微整平程序。Qiu，C.，中国植物研究所，吴，B.，Liu，N.，（1996年），美国，Zhu，X.，Ren，H.，2021.无监督地震数据随机噪声衰减的深度学习先验模型。吉奥西。雷姆Sens. Lett.美国电气与电子工程师协会。 在印刷中。Syberg，F.，一九七二年势场区域残量问题的傅里叶方法地球物理学家。前景20，47- 75。西蒙，B.，2009年机载频率域电磁数据的水准应用地球物理学67，206- 218.Ulyanov，D.，Vedaldi，A.，Lempitsky，V.，2020.深层图像先验。国际计算机目视128（8）.维达尔河，妈妈，Y.，Sastry，S.，2016.广义主成分分析Int. J. Comput.目视27（12）.王玉，Wang，L.，美国，Li，K.，例如，2020.基于稀疏表示谱聚类的无监督地震相分析Appl.地球物理学家。 17（4），533- 543。王玉，Liu，Y.，她，B，例如，2021年基于快速正交字典的数据驱动叠前AVO反演方法J.Petrol. Sci. Eng. 201（11），108362中所述。吴，B.，孟，D.，赵，H.，2021.基于生成对抗网络的地震波阻抗反演半监督学习。雷姆Sens.13（5）.吴，B.，余，J.，Ren，H.，卢，Y.，Liu，N.，（1996年），美国，2019.使用l-范数鲁棒PCA的地震交通噪声衰减。吉奥西。雷姆Sens. Lett. IEEE 17（11），1998- 2001。赵，Q.，孟，D.，徐志，左，W.，张，L.，2014.复杂噪声下的鲁棒主元分析。在：第31届机器学习国际会议（ICML-14）的会议记录中，pp. 55比63余，J.，吴，B.，2021.用于连续缺失地震数据重建的注意力和混合损失引导的深度学习。IEEE地球科学学报雷姆Sens.https://doi.org/10.1109/TGRS.2021.3068279。在印刷中。张，Q，Peng，C.，吕，Y.，例如，2018.基于主分量分析的航空电磁数据平差方法J.应用地理学.151，290- 297。周，R.，蔡玉，Zong，J.，例如，2021.基于掩码传播神经网络的故障实例自动分割。地球科学中的人工智能1，31- 35。