收藏 分销(赏)

一种基于条件对抗网络的自监督地震随机噪声压制方法_石战战.pdf

上传人:自信****多点 文档编号:465359 上传时间:2023-10-12 格式:PDF 页数:12 大小:1.28MB
下载 相关 举报
一种基于条件对抗网络的自监督地震随机噪声压制方法_石战战.pdf_第1页
第1页 / 共12页
一种基于条件对抗网络的自监督地震随机噪声压制方法_石战战.pdf_第2页
第2页 / 共12页
一种基于条件对抗网络的自监督地震随机噪声压制方法_石战战.pdf_第3页
第3页 / 共12页
亲,该文档总共12页,到这儿已超出免费预览范围,如果喜欢就下载吧!
资源描述

1、2023 年第 38 卷 第1期2023,38(1):0242-0253地球物理学进展Progress in Geophysicshttp:/wwwprogeophyscnISSN 1004-2903CN 11-2982/P石战战,黄果,庞溯,等 2023 一种基于条件对抗网络的自监督地震随机噪声压制方法 地球物理学进展,38(1):0242-0253,doi:10 6038/pg2023FF0625SHI ZhanZhan,HUANG Guo,PANG Su,et al 2023 Self-supervised seismic random noise attenuation based o

2、n conditional adversarial networksProgress in Geophysics(in Chinese),38(1):0242-0253,doi:106038/pg2023FF0625一种基于条件对抗网络的自监督地震随机噪声压制方法Self-supervised seismic random noise attenuation based on conditionaladversarial networks石战战1,黄果1*,庞溯2,3,王元君4,周强2,3,池跃龙2,3SHI ZhanZhan1,HUANG Guo1*,PANG Su2,3,WANG Yuan

3、Jun4,ZHOU Qiang2,3,CHI YueLong2,3收稿日期2022-02-27;修回日期2022-08-13投稿网址http:/www progeophys cn基金项目国家科技重大专项课题(2016ZX05026-001)、四川省教育厅项目(16ZB0410)和川西南空间效应探测与应用四川省高等学校重点实验室开放基金(YBXM202102001)联合资助第一作者简介石战战,男,1986 年生,博士,副教授,研究方向为地球物理信号智能化处理 E-mail:shizhanzh163 com*通讯作者黄果,男,1980 年生,博士,教授,研究方向为分数阶微积分理论、数字信号处理、模

4、式识别、分数阶忆阻和深度学习E-mail:79017771 qq com1 乐山师范学院人工智能学院,乐山6140002 成都理工大学工程技术学院,乐山6140003 成都理工大学地球物理学院,成都6100594 西华师范大学国土资源学院,南充6370021 School of Artificial Intelligence,Leshan Normal University,Leshan 614000,China2 The Engineering and Technical College,Chengdu University of Technology,Leshan 614000,China

5、3 College of Geophysics,Chengdu University of Technology,Chengdu 610059,China4 School of Land and esources,China West Normal University,Nanchong 637002,China摘要针对地震数据标注困难,提出基于改进的条件对抗网络的自监督随机噪声压制方法 训练过程分为 2 步:(1)向合成地震记录混入随机噪声构造含噪声-纯净训练集,采用监督学习策略,通过改进的条件生成对抗网络学习地震数据的有效特征;(2)借助自监督损失函数,利用目标域实际数据对预训练模型进行微

6、调 2 步训练法利用了源域合成地震记录与目标域实际地震数据之间的相似性,将源域学习到的模型迁移到目标域,实现地震数据自适应盲去噪 理论模型和实际地震数据试算结果验证所提方法具有较好的应用效果关键词条件对抗网络;残差学习;自监督;迁移学习;随机噪声中图分类号P631AbstractAiming at the difficulty of labeling seismicdata,animprovedself-supervisedrandomnoisesuppressionmethodbasedonconditionaladversarialnetwork is proposed The train

7、ing process is divided intotwo steps:(1)andom noise is mixed into the syntheticseismograms to construct paired noise-pure training setsSupervised learning strategy is adopted to learn goodrepresentations of the seismic data throughimprovedconditional adversarial network(2)With the help of theself-su

8、pervised loss function,the practical data of thetarget domain is used to fine-tune the pre-training modelThe 2-steptrainingmethodtakesadvantageofthesimilarity between the synthetic seismograms in the sourcedomain and the practical seismic data in the target domain,transfers the model learned from th

9、e source domain to thetarget domain,and realizes the adaptive blind denoising ofseismic dataThe experimental results of the syntheticseismograms and practical seismic data verify that theproposed method has good performance2023,38(1)石战战,等:一种基于条件对抗网络的自监督地震随机噪声压制方法(www progeophys cn)文献标识码Adoi:10 6038/

10、pg2023FF0625KeywordsConditional adversarial network;esiduallearning;Self-supervised;Transferlearning;Seismicrandom noise0引言有效分离随机噪声能够为后续处理和解释流程提供高保真地震资料,是地震数据处理的关键环节之一 主流的随机噪声压制方法分为时间-空间(time-space,t-x)域算法和变换域算法 t-x 域去噪算法主要包括 t-x 域预测滤波(Abma and Claerbout,1995)、多项式预测滤波(Liu et al,2011)和非平稳预测滤波(Liu and

11、 Chen,2013)等 这类方法基于地震信号的道间相干性,有效信号是空间可预测的,而随机噪声不可预测 其缺点是不适用于非水平同相轴和低信噪比条件(Tian et al,2013)变换域去噪方法将地震数据变换到某种域,能够增大有效信号与噪声的分布差异,是最常用的去噪方法 常用的变换域有频域(频域滤波)、频率-空间(frequency-space,f-x)域(如 f-x 域 反 褶 积(Chen and Ma,2014)、时频域(如 Wavelet 和 Curvlet 变换去噪(Liu et al,2015;Neelamani et al,2010)、稀疏变换域(如稀疏表示和字典学习去噪(Che

12、n et al,2016;Deng et al,2017;Shi et al,2020)、经验模态分解(Bekara and van der Baan,2009)等近年来,人工智能得到极大的重视和发展,对传统意义的地震信号处理注入了新的思想和内涵 神经网络(陈德武等,2021)尤其是深度神经网络(如卷积神经网络(Convolutional Neural Network,CNN)(Zeiler and Fergus,2014)和自编程机(Autoencoders)(Wei et al,2020)等)已经广泛应用于地震噪声压制(Ma et al,2020;Saad and Chen,2020;Yu

13、 etal,2019)与传统地震数据处理方法不同,这类方法无需假设信号的先验分布,也不需要对信号的模型进行建模(Yu and Ma,2018)大多采用多隐层网络结构和监督学习策略,利用海量的含噪声-纯净信号对构造训练集,能够有效学习信号特征,通过逐层特征变换,将含噪声信号空间映射为纯净信号空间地震噪声衰减常用的深度网络模型主要有:CNN(王钰清 等,2019)、降 噪 卷 积 神 经 网 络(DenoisingConvolutional Neural Networks,DnCNN)(Si et al,2019)、自编程机(Saad and Chen,2020)和 U 型全卷积神经网络(U-sh

14、aped fully convolutional network,U-net)(Qiu et al,2021)等 主要的研究成果包括:Yu 和 Ma(2018)利用含噪声-纯净训练样本训练神经网络,同时实现压制相干噪声和随机噪声 Yu 等(2019)对纯净地震数据和合成地震记录混叠随机噪声构造含噪声-纯净训练样本对 针对实际地震数据缺少标注的问题,王钰清等(2019)提出利用已有去噪算法估计纯净信号和地震噪声,再由数据增广算法生成与实际数据分布相似的训练样本集 Zhang 等(2019)指出通过混入固定强度随机噪声构造训练样本不适用于低信噪比和时空变化的噪声分布,提出基于 patch 的 Dn

15、CNN 降噪算法(Patch-Based Denoising CNN,PDCNN)原理是利用分类算法先将具有相似噪声分布的 patch 分为一类,再对每一类样本分别进行去噪处理 You 等(2020)同时利用叠前和叠后地震资料构造训练样本集参与训练在数据去噪方面,自监督(self-supervision)学习算法能够避免构造含噪声-纯净训练集 Lehtinen 等(2018)提出了 Noise2Noise 算法,无需提供纯净信号样本,仅依赖同一场景的多幅噪声独立的数据参与训练 针对同一场景独立噪声样本获取困难,Huang等(2021)提出了 Neighbor2Neighbor 算法 Batso

16、n 和oyer(2019)提出 Noise2Self 算法,由含噪声样本(甚至单一含噪声样本)参与训练,进一步降低训练样本集构造难度 由于源域与目标域数据分布存在差异,直接将预训练模型应用到新数据难以保证计算性能 利用迁移学习,能够将源域模型迁移到目标域 常用的迁移学习算法主要有微调(finetune)、深度域混淆(Deep Domain Confusion,DDC)(Tzeng etal,2014)和域对抗(Domain-Adversarial Training)(Ganin et al,2016)等算法 杨强等(2020)详述了迁移学习的理论和方法与传统的机器学习方法相比,深度学习直接由原

17、始数据构造训练样本,避免了人工提取特征(LeCun et al,2015)但多隐层和海量训练样本集为深度神经网络训练引入新的挑战 为了提高网络训练效果和效率,业内在参数更新和正则化等方面进行了深入研究,取得大量成果 Kingma 和 Ba(2015)对随机梯度算法进行改进,提出了适应性矩342地球物理学进展www progeophys cn2023,38(1)估计(Adaptive Moment Estimation,ADAM),使用动量和自适应学习率加快收敛速度,是当前使用最多的神经网络优化算法 但近年来,国内外学者指出ADAM 算法存在较多的缺陷 如 eddi 等(2018)证实当深度学习

18、问题的输出空间过大时,ADAM 难以收敛到最优解 Loshchilov 和 Hutter(2019)指出ADAM 的 泛 化 性 较 带 动 量 的 随 机 梯 度 下 降 法(Stochastic Gradient Descent,SGD)差 其原因是对于 ADAM 等自适应梯度下降算法而言,L2范数正则化和权重衰减正则化不等价 大多数深度学习平台采用 L2范数正则化,其有效性不及权重衰减Loshchilov 和 Hutter(2019)对 ADAM 进行改进,提出权重衰减正则化 ADAM(ADAM Weight Decayegularization,ADAMW),并证实兼具良好的收敛性和泛

19、化能力基于前人研究,提出一种基于条件对抗网络的自监督地震随机噪声压制方法 该方法生成器采用DnCNN 网络,并采用预训练的 esNet 网络构成PatchGAN 鉴别器 联合 PatchGAN 损失和 L1范数损失训练源域训练集后,利用自监督损失函数对目标域数据进行迁移学习 合成地震记录和实际地震数据试算结果表明:(1)所提网络模型具有较好的收敛性和去噪能力;(2)利用自监督损失函数对目标域数据进行微调学习能够实现有效的自监督盲去噪1方法原理1 1自监督迁移去噪方法原理含噪声地震数据可以建模为:x=y+n,(1)式中,x 为含噪声地震数据,y 为纯净地震数据,n 为随机噪声 机器学习地震去噪的

20、目的是建立由噪声数据 x 到纯净数据 y 的映射:y=Net(x;),(2)式中,Net(;)为神经网络模型,=W,b 为网络参数(其中 W 为权重矩阵,b 为偏置系数)构造含噪声-纯净数据集,利用优化算法迭代更新网络参数,直到预测结果与纯净样本的损失降低到预设阈值为止 神经网络训练过程本质上是通过海量样本对数据的概率分布进行建模 当数据分布特征过于复杂时,必须增加网络的深度和参数 但当神经网络的深度增加,可能会出现网络退化问题,表现为添加过多隐层后,训练误差不降反增 随机噪声的分布特征虽然会随时间和空间变化,但其分布特征较地震信号简单,建模随机噪声对网络深度和参数量的需求少于直接预测有效信号

21、 Yu 等(2019)和 Zhang 等(2019)证实,借助残差学习(residuallearning)机制,利用 DcCNN 网络能够有效压制地震随机噪声,该网络输入和输出分别为噪声信号 x 和噪声信号与预测随机噪声之差 x n:x n=(x;),(3)式中,表示残差学习,n为预测随机噪声由贝叶斯理论,优化求解式(3)等价于已知含噪声信号的条件分布,学习信号与噪声的联合概率分布,这正是生成对抗网络(Generative AdversarialNetworks,GAN)的优势 同时由含噪声地震信号预测随机噪声等价于条件生成网络(Conditional GAN,CGAN)借鉴 pix2pix

22、网络(Isola et al,2017)结构,构建一种改进的条件生成式去噪模型 如 1 2 节所述,该模型的生成器 G 为 DcCNN 网络,采用预训练的 esNet 网络构成 PatchGAN 鉴别器 D由于训练样本集数据分布特征常与目标域数据分布特征不同,直接将训练模型用于待处理数据往往难以取得良好的去噪效果 因此,利用微调算法,将源域数据集学到的知识迁移到目标数据集上 考虑到待处理的目标域数据集仅包含噪声信号而无对应的纯净信号,迁移学习阶段采用自监督损失函数整个自监督去噪算法流程可以归纳为:(1)向纯净的合成地震记录混入随机噪声构造含噪声-纯净信号训练集;(2)构造 CGAN 网络,生成

23、器和鉴别器分别采用 DcCNN 网络和预训练的 esNet 网络;(3)在源域成对数据集上预训练 CGAN 网络,得到预训练模型;(4)利用自监督机制和微调技术,将源域上预训练的模型迁移到目标域数据集1 2条件对抗网络GAN 能够直接对数据分布进行采样并有效逼近数据的真实概率分布 这种采样过程不需要对数据的分布特征进行假设,也不需要借助 Markov 链,只需要通过反向传递获取梯度信息,其学习过程也不需要推理 但传统的 GAN 无法控制生成数据的模式 CGAN 可以通过附加信息指导数据生成过程与 GAN 相同,CGAN 网络模型如图 1a 所示,包括 2 个对抗的模型:(1)生成器 G 用于逼

24、近数据的概率分布,训练生成器 G:xy 的目的是生成能够迷惑鉴别器 D 的预测结果 考虑到噪声分布较数据分布简单,对生成器网络的层数和参数量要求较少,将4422023,38(1)石战战,等:一种基于条件对抗网络的自监督地震随机噪声压制方法(www progeophys cn)图 1CGAN 网络模型(a)CGAN 网络模型;(b)生成器 G(DcCNN)网络模型;(c)鉴别器 D 网络模型Fig 1Sketch of the CGAN(a)Sketch of the CGAN;(b)The flowchart of the generator G(DcCNN);(c)The flowchart

25、 of the discriminator D经典的 pix2pix 网络模型中生成器改为 DcCNN 网络 图 1b 展示了由 DcCNN 构成的生成器 将含噪声样本作为约束条件预测噪声分量,网络输出为噪声样本与预测随机噪声之差(即有效信号)(2)鉴别器 D 用于估计样本源于生成器的概率,训练目标则是将生成器预测结果判定为假 因此,要求鉴别器能够有效识别样本的分布特征,而不是对比样点数值图 2加入自监督机制后的生成器模型Fig 2Illustration of the generator of the self-supervised CGAN经过图像识别训练的深度网络能够有效提取数据的高级特

26、征,区分样本分布差异 同时,为了更好建模数据的空变特征,在预训练网络后串联卷积层构造PatchGAN 鉴别器,将输入分割为相互独立 patch,判断每一 patch 的真假 图 1c 为由预训练的 esNet 网络构成 PatchGAN 鉴别器 D条件对抗网络的目标函数如式(4)所示:G*=arg minGmaxDCGAN(G,D)+L1(G),(4)CGAN(G,D)=Ex,y logD(y,x)+Ex,z log(1 D(y,G(y,z),(5)L1=Ex,y,z y G(y,z)1,(6)式中,z 为随机噪声 可以看出条件对抗网络的目标函数由 2 部分组成:(1)条件 GAN 目标函数C

27、GAN(G,D),受博弈论启发,训练生成器最大化 D 的损失 log(1 D(x,G(x,z),训练鉴别器 D 最小化判别损失 logD(x,y)(2)L1范数重建损失L1衡量 x n与实际纯净信号之间误差1 3自监督学习地震资料去噪处理面临着:(1)缺少真实的含噪声-纯净样本集和(2)训练样本与待处理目标数据的分布特征可能不同 因此,需要将预训练模型通过微调算法迁移到目标域数据集 考虑到目标域数据集无对应的纯净样本,将自监督机制引入 CGAN 自监督机制将预测纯净信号 y 的过程构造为通过一个不变函数 f()(不变函数的定义如定义1 所示)重建含噪声信号 x定义 1:不变函数定义为:当=J1

28、,J2,为样本 x 的一个分割(J 为样本的不相交子集,且全体 J 的并集为样本 x),如对于任意的 J,其函数值f(x)J与 xJ(xJ为 x 受限于 J 的元素)无关,则称函数 f()为 不变函数针对自监督地震去噪问题,对 CGAN 的生成器进行改造 具体做法是:(1)利用式(7)对输入样本进行掩膜,则生成器的输入和输出分别为掩膜 xM和不变函数值 f(x)=G(xM);(2)分别对噪声信号 x和生成器预测结果 f(x)进行分割,再将分割结果 xJ542地球物理学进展www progeophys cn2023,38(1)图 3不同噪声强度下 3 种模型相对误差收敛结果(a)噪声标准差为 1

29、0;(b)噪声标准差为 15;(c)噪声标准差为 20;(d)噪声标准差为 25Fig 3elative error convergence results of three models under different noise intensityStandard deviations of the noise are 10(a),15(b),20(c),25(d),respectively图 4生成器(a)和鉴别器(b)损失对比Fig 4Comparison of the loss functions of the generator(a)and the discriminator(b)

30、6422023,38(1)石战战,等:一种基于条件对抗网络的自监督地震随机噪声压制方法(www progeophys cn)和 f(x)J代入 CGAN 目标函数进行迭代优化 加入自监督机制后的生成器模型如图 2 所示 式(7)为:xM=1Js(x)+1Jcx,(7)式中,Jc 为 J 的补集;1J为指示函数,坐标属于 J 的元素值为 1,而坐标属于 Jc 的元素值为 0;函数 s(x)表示用相邻像素的平均值替换每个像素2实验实验环节分为 4 步:(1)样本集构造 向合成地震记录分别混入不同强度的随机噪声,构造源域训练和测试样本集;(2)模型预训练 对比 DcCNN、鉴别器分别为 CNN 和预

31、训练 esNet 的 CGAN 3 种网络性能;(3)自监督去噪模型测试 构造与源域噪声分布的不同的合成地震记录,对比微调模型和预训练模型应用效果;(4)应用实例2 1样本集构造和模型预训练源域训练样本集由开源合成地震记录(如表 1所示)构造,在 5 个数据集中随机抽取 10000 个尺寸为 96 96 采样点的样本,分别向样本混入不同强度的随机噪声构造噪声-纯净样本集 再从样本集中随机抽取 8000 个样本作为训练集,抽取 2000 个样本作为测试集表 1合成地震记录Table 1Synthetic seismogram序号数据名数据网址1Model94https:/softwaresego

32、rg/datasets/2D/Model_1994/2Amoco statics testdatasethttps:/wiki seg org/wiki/1994_BP_statics_benchmark_model3BP 2 5D migrationbenchmark modelhttps:/wiki seg org/wiki/1997_BP_2 5D_migration_benchmark_model4BP velocity estimationbenchmark modelhttps:/wiki seg org/wiki/2004_BP_ velocity _ estimation _

33、benchmark_model5BP Anisotropic VelocityBenchmarkhttps:/wiki seg org/wiki/2007_BP_Anisotropic_Velocity_Benchmark分别构造9 层 DcCNN、生成器为9 层 DcCNN 和鉴别器为 CNN 的 CGAN(CGAN-CNN)、生成器为 9层 DcCNN 和 鉴 别 器 为 预 训 练 esNet 的 CGAN(CGAN-esNet)3 种网络模型 DcCNN 网络采用 L2范数损失函数,2 种 CGAN 网络均采用式(4)所示的目标函数 利用不同强度随机噪声的样本集对 3 种模型进行训练和

34、测试,训练和测试参数为:批大小为 64、10 次迭代、优化算法为 ADAMW、学习率为 1 103图 3 对比了噪声标准差分别为 10、15、20 和 25的训练集训练结果,由于 3 种网络目标函数不同,图中对比 3 种模型去噪结果的相对误差 可以看出 3种模型对不同噪声强度训练样本都具有较好的收敛能力,去 噪 结 果 的 相 对 误 差 都 接 近 10%,说 明DcCNN 能够有效学习样本分布特征 但 CGAN 模型去噪结果的相对误差小于 DcCNN,且收敛速度更快 对比 2 种不同鉴别器的 CGAN 可以看出,预训练esNet 鉴别器计算结果好于 CNN 鉴别器 图 4 对比了 2 种

35、CGAN 的损失函数(噪声标准差为 25)可以看出,当采用预训练 esNet 鉴别器,模型的生成损失一致下降,收敛速度较快,鉴别器损失函数经过 2次迭代即可趋于平稳 而采用 CNN 鉴别器,模型的2 种损失函数均存在较大的波动图 5 和对比了 DcCNN 和 CGAN-esNet 2 种模型测试集去噪结果的相对误差(噪声标准差为 25),可以看出 2 种模型都具有较好的泛化能力,测试集相对误差没有明显增高,但 CGAN-esNet 的相对误差明显低于 DcCNN 随机选择 7 个样本,对比 2 种模型的去噪结果如图 6 所示,也可以看出 CGAN-esNet 模型具有较好的保幅去噪能力,而 D

36、cCNN 结果残存随机噪声和畸变(如图中箭头所示)图 5测试集相对误差对比Fig 5Comparison of relative errors of test set2 2自监督网络去噪源域和目标域数据分布特征常存在差异,实验通过模拟地震数据对比预训练模型和微调模型的去噪性能 构造一个 6 层地质模型,地层埋深和反射系数随机变化 利用 icker 子波模拟地震记录,每炮96 道接收,共模拟 96 炮 向每一道地震记录混入强度不同的随机噪声(噪声信号的信噪比为1 10 dB),742地球物理学进展www progeophys cn2023,38(1)图 62 种模型的去噪结果对比分析(a)纯净测

37、试样本;(b)加噪测试样本;(c)DcCNN 去噪结果;(d)CGAN-esNet 去噪结果Fig 6Comparative analysis of denoising results of the two models(a)Synthetic clean patches;(b)Noisy patches;(c)esults of the DcCNN;(d)esults of the CGAN-esNet再由该合成地震记录构造成对数据集 实验分为 2步:(1)直接用预训练模型进行去噪处理;(2)构造1.1 节和1.3 节所述自监督 CGAN 模型(J 的半径为3),利用目标域数据集对预训练模型

38、进行微调(3 次迭代),再用微调模型进行去噪处理随机选择 7 个样本数据,对比预训练和微调 2种模型的滤波结果和处理残差如图 7 所示 图中从上向下分别为纯净样本、加噪样本、预训练模型去噪结果和滤波残差、微调模型去噪结果和滤波残差 通过对比可以发现,直接用预训练模型处理目标域数据,难以获得最佳处理结果,处理后样本中仍残留较大幅度随机噪声,残差剖面有连续同相轴泄露 借助自监督 CGAN 模型,用目标域数据在对预训练模型进行微调,能够将模型迁移到目标域,提高算法的去噪能力 处理后样本中无明显残留随机噪声,残差剖面无连续同相轴泄露(如图中箭头)图 8 对比去噪前后单炮记录,也可以看出微调处理能够提高

39、算法的自适应能力,处理后剖面干净无残留噪声,残差剖面无残留明显连续同相轴(如图中箭头)2 3应用实例为了验证自监督 CGAN 算法的实际应用效果,以某区实际地震数据为例进行试算 该数据集共128 炮,每炮128 道接收 由该数据构造96 96 采样点的训练样本,对预训练模型进行微调处理(J 的半径为 5)再由微调后的模型对完整地震数据进行去噪处理 随机选择 7 个数据样本,对比去噪结果和滤波残差如图 9 所示 图 9 中,从上向下分别为原始数据样本、微调模型去噪结果和滤波残差 对比可见处8422023,38(1)石战战,等:一种基于条件对抗网络的自监督地震随机噪声压制方法(www progeo

40、phys cn)图 7预训练模型与微调模型去噪结果对比分析(a)纯净测试样本;(b)加噪测试样本;(c)预训练 DCGAN-esNet 去噪结果;(d)预训练 DCGAN-esNet 去噪残差;(e)微调模型去噪结果;(f)微调模型去噪结果Fig 7Comparative analysis of denoising results of pre-training model and fine-tuning model(a)Synthetic clean patches;(b)Noisy patches;(c)esults of the pre-trained DCGAN-esNet;(d)Th

41、e differencesof the pre-trained DCGAN-esNet;(e)esults of the fine-tuning model;(f)The differences of the fine-tuning model942地球物理学进展www progeophys cn2023,38(1)图 8单炮对比预训练模型与微调模型去噪结果(a)合成地震记录;(b)加噪记录;(c)预训练模型去噪结果;(d)预训练模型去噪残差;(e)微调模型去噪结果;(f)微调模型处理残差Fig 8Denoising results of the pre-training and fine-t

42、uning models with the shot gather(a)Synthetic seismic record;(b)Noisy seismic record;(c)esults of the pre-trained model;(d)The differencesof the pre-trained model;(e)esults of the fine-tuning model;(f)The differences of the fine-tuning model图 9自监督迁移学习去噪性能分析(a)测试样本;(b)去噪结果;(c)残差Fig 9Performance analy

43、sis of self-supervised transfer Learning denoising(a)Seismic patches;(b)Filtered results of the real seismic patches;(c)emoved noise corresponding to(b)0522023,38(1)石战战,等:一种基于条件对抗网络的自监督地震随机噪声压制方法(www progeophys cn)图 10实际地震资料去噪结果对比分析(a)地震道集;(b)微调模型去噪结果;(c)微调模型处理残差;(d)f-x 反褶积去噪结果;(e)f-x 反褶积处理残差Fig 10C

44、omparative analysis of denoising results of the practical seismic data(a)Seismic record;(b)Filtered result by the fine-tuning model;(c)emoved noise corresponding to fine-tuning model;(d)Denoised result by the f-x deconvolution;(e)emoved noise corresponding to(d)理后样本的信噪比提高,剖面明显无残留随机噪声,残差剖面无泄漏强振幅同相轴图

45、10 以第 73 炮为例,对比了自监督迁移学习和传统的 f-x 域预测滤波 2 种算法去噪结果 图 10a为原始单炮记录,剖面受随机噪声干扰严重,同相轴连续性较差 图 10b 为所提自监督去噪算法处理结果,处理后剖面信噪比提高,噪声得到压制,同相轴连续性增强(如图中箭头和)同时所提算法具有较好的保幅能力,去噪过程没有破坏同相轴振幅特征(如图中箭头和)图 10c 为自监督算法滤波残差,剖面符合随机噪声分布规律,无明显连续同相轴残留 图 10d、e 分别为 f-x 域预测滤波去噪结果和滤波残差,可见 f-x 域预测滤波虽能有效压制随机噪声,但有效信号受到压制,残差剖面残留连续同相轴(如图中箭头和)

46、,反射波振幅特征遭受破坏(如图中箭头和)3讨论实验中通过对合成地震记录混入随机噪声构造含噪声-纯净训练样本集,为了验证噪声水平对模型去噪性能的影响,分别构造了噪声方差分别为 10、15、20 和 25 的样本集,分别参与模型训练,其结果显示模型性能受噪声水平影响较小 原因是噪声分布特征较有效信号简单,利用残差学习预测随机噪声对网络深度和参数量需求较低,能够降低网络训练复杂度 文献 Zhang 等(2017)指出 DnCNN 第 n 层的感受野为(2d+1)(2d+1),增大感受野能够学习到层次更高的全局特征,但也会损失局部特征,且感受野大小与训练样本尺寸相关 可根据实际样本尺寸,通过实验确定生

47、成器网络深度DnCNN 网络模型使用 L2范数损失函数,估计预测结果与目标值均方和 最小化 L2范数损失函数的训练过程实际相当于计算可行域中所有解的平均值,其预测结果趋于平滑 同时,L2范数损失函数对于较大的误差施加更强的惩罚,而对较小的误差施加较低的惩罚,这种惩罚是不均衡的,忽略了数据本身的特征 并且当误差大于 1 时,L2范数损失计算公式中的平方项会放大误差的影响,导致 L2范数损失函数鲁棒性较差 大量文献已经证实 GAN 损失函数性能优于 L2范数损失 图3、图5 和图6 证实联合优化 CGAN 损失和 L1范数损失,其预测结果的相对误差低于单独使用 L2范数损失传统损失函数如 L1范数

48、损失、L2范数损失和GAN 损失函数计算整个样本的损失,具有平均效应 网络模型能够有效学习数据的低频信息,而忽略高频信息 而 PatchGAN 的思路是,先将样本分割为152地球物理学进展www progeophys cn2023,38(1)相互独立的 patch,在分别计算每一个 patch 的 GAN损失 采用 PatchGAN 损失函数能够有效学习数据的高频和细节成分 借鉴 pix2pix 网络,联合 CGAN损失和 L1范数损失迭代训练网络模型,能够有效建模数据分布特征(如图 3 图 6)目标域数据与源域训练集分布特征存在差异,且目标域可能面临样本量不足或缺失标注样本,导致直接使用目标

49、域数据训练网络模型存在困难 并且直接将源域训练的网络模型应用到目标域数据,其预测结果的精度难以保证(图 7 图 8)可以通过迁移学习(如微调)将源域学到的模型迁移到目标域如前所述目标域数据往往存在标注困难的问题,难以直接进行迁移训练 借鉴 Noise2Self 算法,对样本掩膜并将网络的生成器构造为 不变函数,实现自监督盲去噪处理 对样本进行分割和掩膜处理时,J 的半径的选择会影响去噪结果 其规律是当J 的半径过小,模型的去噪能力不足,处理结果会残留随机噪声;反之,当半径过大,会对预测结果做平滑处理,预测结果过于平滑 采用自监督机制进行迁移学习时,需要通过实验确定 J 的半径4结论(1)传统

50、DnCNN 网络采用 L2范数目标函数能够有效学习信号的低频成分,高频的细节成分会因平滑效应受到压制 同时预训练的网络模型能够有效提取信号的高层次特征,可以构造内容损失函数提出由 DnCNN 网络作生成器,预训练 esNet 网络作鉴别器的条件生成式去噪模型 联合 CGAN 损失函数和 L1范数损失函数训练网络模型能够有效学习数据的分布特征,预测结果的相对误差低于单独使用 DnCNN 网络(2)待处理地震数据无对应的纯净信号,无法构造成对的含噪声-纯净数据集 而基于 CNN 的地震去噪方法采用监督学习方式,依赖于海量成对的数据集,限制了监督去噪方法的应用 通过引入自监督机制,构造自监督 CGA

展开阅读全文
相似文档                                   自信AI助手自信AI助手
猜你喜欢                                   自信AI导航自信AI导航
搜索标签

当前位置:首页 > 品牌综合 > 临存文档

移动网页_全站_页脚广告1

关于我们      便捷服务       自信AI       AI导航        获赠5币

©2010-2024 宁波自信网络信息技术有限公司  版权所有

客服电话:4008-655-100  投诉/维权电话:4009-655-100

gongan.png浙公网安备33021202000488号   

icp.png浙ICP备2021020529号-1  |  浙B2-20240490  

关注我们 :gzh.png    weibo.png    LOFTER.png 

客服