没有合适的资源?快使用搜索试试~ 我知道了~
1水印模型1 2 1 11失真不可知的深度水印∗罗夕阳,詹若涵 ,Huiwen Chang,Feng Yang,Peyman Milanfar1谷歌研究2斯坦福大学摘要水印是将信息嵌入到图像中的过程,该图像可以在失真下存活,同时要求编码图像与原始图像具有很小或没有感知差异。最近,基于深度然而,这些方法在训练时都需要用于图像失真的不同模型,并且可能对未知失真表现不佳。这是不期望的,因为应用于加水印图像的失真类型通常是未知的和不可微的。在本文中,我们提出了一个新的框架失真无关水印,图像失真是不明确的模型在训练过程中。相反,我们系统的鲁棒性来自两个来源:对抗训练和信道编码。与在一组固定的失真和噪声水平上进行训练相比,我们的方法在训练期间可用的失真和未知失真上取得了相当或更好的结果1. 介绍数字水印[8]是以视觉上不可感知的方式将信息嵌入图像的任务,其中可以在图像失真的情况下可靠地提取信息。衡量数字水印系统性能的两个关键因素是不可篡改性和鲁棒性。给定图像和消息,一个好的水印系统产生与原始图像几乎相同的编码图像,同时携带将在各种破坏下存活的消息有效载荷已知失真未知的扭曲身份100.050.253.081.371.874.665.193.485.365.0JPEG(Q=50)99.080.885.787.086.187.771.095.278.790.6修剪(p=0.035)100.049.999.351.062.550.364.392.181.163.3脱落(p=0.3)93.150.051.399.451.051.054.389.075.463.8模糊(σ=1.0)53.049.851.850.599.950.361.469.676.352.6组合[40]100.077.099.198.799.193.570.894.284.988.6我们的模型100.081.793.597.992.895.694.098.588.491.7图1:我们的模型与使用显式图像失真训练的模型相比的位精度。每一列对应于测试时的图像失真类型,并且每一行对应于用于训练水印模型的图像失真(除了我们的模型不需要失真模型)。列的左半部分(由黑线分隔)是已知的失真,即,,包括在HiDDeN组合模型[ 45 ]的训练中的失真,以及列的右半部分未知失真,即,,一组不用于训练HiDDeN组合模型的常用失真。更多详情请参见第4.1扭曲,如裁剪、模糊或JPEG压缩。传统方法找到了在纹理丰富区域[5]或频域[16]中隐藏信息的创造性方法在Google实习时完成的工作原始编码差异图2:原始图像,编码图像和来自我们模型的两个图像之间的差异的示例。1354813549DecAdvAdv输入图像ICO编码图像我恩对抗图像IadvX AdvXX DecXDec信道编码器X信道解码器水印编码器攻击网络水印解码器FencG advF dec对抗性损失图像丢失LI消息丢失LM图3:建议的架构概述输入消息X首先通过信道编码器馈送以产生冗余消息X′,然后由水印编码器Fenc将其与输入图像Ico组合以生成编码图像Ien。解码器Fdec产生解码的消息X在那里它被信道解码器进一步处理以产生最终消息Xdec。这次袭击网络生成对抗样本Iadv,将其馈送到图像解码器以获得X. Fenc,Fdec,都是在一个组合上训练的在包括如等式1中的与覆盖图像的接近度Ico和感知质量两者的图像损失LI中,消息损失LM如等式2所示,并且解码的对抗消息X′如等式4所示。 攻击网络Gadv被训练成最小化对抗损失Ladv,如等式3所示。 训练以交替的方式更新Gadv和Fenc、Fdec最近,卷积神经网络(CNN)已被用于提供对水印问 题 的 端 到 端 解 决 方 案Zhu 等 人 。 [45] 提 出 了HiDDeN,一种基于CNN的图像水印框架。这些基于学习的方法[45,1,40]通过在训练过程中包含各种扭曲组合来提高模型虽然有效,但这种方法存在几个问题。首先,训练中包括的失真必须是可区分的,以便联合训练然而,许多实际失真,例如GIF压缩、光场消息传递[40]中的投影仪-相机失真等,是不可微的,并且要使其可微。其次,在大多数情况下,在训练期间不提供失真。选择一组多样化且平衡良好的失真进行训练是不平凡的,需要仔细调整。为此,我们提出了一个框架,增加鲁棒性的水印系统没有任何先验知识的类型的图像失真在训练过程中。我们通过使用CNN生成的扰动进行对抗训练,并使用信道编码在编码消息中注入冗余来实现这一点。据我们所知,这是第一篇论文探索失真不可知的方法,深度水印。我们的模型在各种各样的失真上实现了相当的或更好的性能,而不需要在训练时明确地建模失真。我们的主要贡献如下。• 我们应用对抗训练以失真不可知的方式提高模型的鲁棒性。特别是我们的CNN生成的对抗性示例隐含地结合了丰富的图像失真集合,与训练相适应。• 我们建议增加水印系统与信道编码,增加了一个额外的层的鲁棒性,通过信道冗余。• 我们结合了以上两个想法,并实现了与使用显式失真训练的模型相比较的结果,以及对未知失真的更好性能。2. 相关工作与这项工作相关的主要研究领域有三个:水印、对抗训练和信道编码。我们在下面的小节中对每个主题进行简要回顾2.1. 水印数字水印[8,15,5,14,24,31,35,12]一直是一个活跃的研究领域,具有许多重要的应用,如内容版权保护。最近,基于深度学习的方法已经被应用于训练端到端水印系统[45,23,1,21,43],并取得了令人印象深刻的结果。HiDDeN [45]是用于图像水印的首批深度学习解决方案之一。RedMark [1]引入了具有强度因子的残差连接,用于在变换域中嵌入二进制图像。深度水印已经被推广到视频[39,44]。对更复杂和更逼真的图像失真建模也拓宽了应用范围[40,36]。在训练水印系统时,有几种方法对编码后的图像进行攻击. Mun13550我恩Iadv(a) 模糊(b)颜色和噪声(c)模糊和颜色(d)图案(e)颜色图4:攻击网络Gadv生成的对抗性示例的可视化。上图:编码图像Ien。下图:攻击网络Gadv生成的对抗示例Iadv。我们观察到从攻击网络生成的一组不同的图像操作,包括模糊,颜色变化和其他类型的扭曲的组合。等人[23]迭代地模拟对水印系统的攻击。RedMark [1]引入了一个攻击层,它由一组固定的失真的随机组合组成。然而,这些攻击不是对抗性的,因为它们在训练期间不适应水印模型。最近,ROMark [38]应用了一种简单形式的对抗训练,其中自适应地选择失真类型和失真我们的方法与上述方法的一个关键区别在于,我们不会从固定的常见扭曲池中生成攻击相反,对抗性示例是从经过训练的CNN生成的。这还有一个好处,即水印训练是端到端可区分的,而不是端到真正的罗马[38]。2.2. 对抗训练深度神经网络容易受到输入空间中某些微小扰动的影响自从Szegedy et al. [34],针对对抗性攻击[3,17,25]和对抗性防御[11,13,27,42]提出了各种方法。对抗性攻击最早和最有效的防御机制之一是对抗性训练[11],但在大型数据集上的计算成本很高。从那时起,已经进行了许多尝试来降低对抗训练的成本,例如。使用近似优化步骤[27],或使用生成模型代替迭代优化[4,18]。2.3. 信道编码信道编码是一种在信号传输过程中检测和纠正错误的机制[6]。香农在执行中,var-诸如里德-所罗门(RS)码[41]、低密度奇偶校验(LDPC)码[26]、turbo码[32]和极化码[37]的各种经典方法已经广泛应用于电信领域。最近,基于学习的解决方案也在该领域获得了关注[2,7,9]。3. 该方法3.1. 动机在设计通用水印模型时,测试时的失真可以是仍然保留一些图像内容的任何图像操作。典型的解决方案将涉及识别一组代表性失真,并在训练期间应用精心调整的失真组合。受最近成功使用CNN执行各种图像处理任务的启发,例如,,style transfer [10],HDRNet [19],我们建议通过训练CNN来自动化失真调整过程,以生成利用当前水印模型中最薄弱环节的失真。图4显示了我们的攻击CNN生成的一些失真图像样本,其中包含丰富而复杂的失真组合。信道编码的使用是由向系统注入额外冗余香农在HiDDeN架构中,空间重复输入消息是增加冗余的一个示例信道编码简单地提供了在当前方法之上的另一替代方案。13551没有没有123.2. 方法概述和α adv,α adv是标量权重。 αadv控制着1 2 1图3给出了我们的整体架构的概述攻击网络产生的失真强度Gadv,而αadv控制消息丢失的强度我们的方法在水面上增加了两个关键成分-在[45]中标记编码器/解码器网络Fenc和Fdec对于G2;• 我们用Iadv替换失真的图像,其中Iadv是从经过训练以最大化消息的卷积神经网络生成的对抗性示例损失• 我们将输入消息替换为更长的二进制文件对于网络Gadv,我们使用双层CNN,G adv(I)= Conv 3 Leaky ReLU Conv 16(I)。(四)一般来说,我们发现,在训练中,找到由Gadv的复杂性和αadv与α adv的比值控制的攻击强度的正确平衡是很重要的 一个1 2从信道编码生成的消息X′3.3. 对抗训练对抗性训练产生的失真,共同适应我们的水印模型的训练,积极加强当前模型的最薄弱点。对抗性训练最早是由Goodfellow等人 [11]引入的,作为一种防御对抗性攻击的方法。在我们的上下文中,对抗性训练等同于在最坏情况下最小化消息丢失,给出了在一个椭圆球中最坏情况下的失真进攻过猛,训练慢,水印网络以适应对抗性示例,而过于简单的攻击导致训练模型的鲁棒性较低详细分析见第4.3节。3.4. 信道编码XX这表示为以下min-max问题:信道编码器minmax{LM(Fdec(Fenc(Ico; Θenc)+δ; Θdec),X)},Θenc,Θdecδ≤(一)其中,Θenc、Θdec是用于对编码器/解码器网络Fenc、Fdec加水印的模型参数,并且X是输入消息。这里,我们考虑L2范数λ·λ2来约束δ,即对编码图像的扰动Ien=Fenc(Ico; Θenc)。但更有语义意义的测量,如VGG [30]激活的L2距离,也可以使用。等式1的直接优化对于加水印模型来说是相反,我们通过限制从某类卷积产生的失真δ的集合来放松等式1。图5:信道编码的图示 一个输入的ME-消息X时,信道编码器产生一个较长的冗余消息X′冗余消息X′通过噪声信道传输,并由解码器作为X′接收。最后,解码器从损坏的消息X′中恢复输入X。信道编码通过向系统注入冗余来提供额外的鲁棒性层。给定长度为D的二进制消息X∈{0,1}D,编码器产生冗余消息X′∈{0,1}N,长度N> D,其可用于通过信道解码器给出合理数量的信道函数神经网络GAdv(I;Θ)adv).如图5所示。在本文中,我们产生一个通道码X′从minMax{L M(F dec(G adv(Ien)); X)}.输入消息X,然后将X′传递给水印{Θenc,dec}{<$Gadv(Ien)−Ien<$≤<$}(二)编码器如图3所示。中的信道失真使用CNN生成的对抗性示例的好处是保留了生成一组不同的图像失真的能力,如图4所示。另一种方法是通过快速梯度符号方法(FGSM)生成对抗样本,如[11]所示。但我们发现,与CNN生成的示例相比,这产生了较少的示例,并且导致了对失真的整体鲁棒性较差。为了训练攻击网络Gadv,我们最小化以下对抗训练损失:Ladv=αadvIadv−Ien2−αadvLM(Fdec(Iadv);X),(三)其中Iadv=Gadv(Ien)是对抗示例,LM是消息损失,本文中我们将其设置为L2损失X 没十月信道噪声信道解码器13552Dec该上下文是来自水印模型的误差,在X′和X′之间。假定我们没有明确地对图像失真进行建模,则不可能知道真实的通道失真模型。相反,我们使用一个二进制对称信道(BSC)近似的信道失真。BSC是标准信道模型,其假设每个比特以概率p独立地和随机地翻转。即使这个假设在我们的情况下并不严格满足,我们发现使用BSC在这个应用程序中工作得很好。从概念上讲,任何标准纠错码,例如低密度奇偶校验(LDPC)码[26]都可以用于生成X’。然而,诸如LDPC的传统码要求解码器具有信道噪声强度的估计,这在我们的应用中是不切实际的,因为13553Dec12图6:不同冗余消息长度的信道噪声强度与解码器位精度的关系。输入消息长度固定为D=30,其中冗余消息长度N从90变化到150。所有模型都是在带有BSC噪声的随机二进制输入上训练的。训练噪声水平从[0,0. 3],以及[0,0. [4]测试时间。噪声强度在图像与图像之间变化很大因此,我们使用NECST [7],这是一种基于学习的联合信源和信道编码解决方案,可覆盖广泛的信道失真强度。我们使用BSC来训练信道模型,其中输入消息X是随机采 样 的 , 并 且 信 道 噪 声 强 度 是 从 区 间 [0 ,maxstrength]中随机均匀地选择的图6显示了在BSC信道噪声范围内的NECST模型的位精度这里我们强调,信道编码模型不与水印模型的其余部分联合训练。这种解耦防止通道模型在训练期间与图像模型自适应,这导致过拟合和跨宽图像失真谱的较低鲁棒性。3.5. 水印训练和损失我们给出了一个详细的描述算法训练的水印模型。我们首先定义训练损失,使用与图3中相同的符号。图像损失LI=αIIco−Ien2+αI LG(Ien)(5)消息丢失LM=αM<$X′−X′<$2(6)攻击网络训练损失Ladv=αadv<$Iadv−Ienc<$2−αadv<$X′−X′<$2(7)编码图像的感知质量这类似于HiDDeN网络中定义的对抗性损失[45]。对于消息损失LM,我们使用解码消息和输入之间的L2损失等式7定义了用于训练攻击网络Gadv的损失。最后,等式8定义了训练Fenc和Fdec的总损失。不同的α是每种损失的权重。训练在更新攻击网络Gadv和水印网络Fenc、Fdec之间交替,在算法1中详细描述。算法1水印训练一曰: 标记T型雨的程序Input:Ico,X′Unif({0,1}N).输出:训练的网络Gadv,Fenc,Fdec。训练变量:Θadv、Θenc、Θdec。2:当Step
下载后可阅读完整内容,剩余1页未读,立即下载
![.pdf](https://img-home.csdnimg.cn/images/20210720083646.png)
![application/pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://profile-avatar.csdnimg.cn/default.jpg!1)
cpongm
- 粉丝: 4
- 资源: 2万+
上传资源 快速赚钱
我的内容管理 收起
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助
![](https://csdnimg.cn/release/wenkucmsfe/public/img/voice.245cc511.png)
会员权益专享
最新资源
- 基于嵌入式ARMLinux的播放器的设计与实现 word格式.doc
- 经典:大学答辩通过_基于ARM微处理器的嵌入式指纹识别系统设计.pdf
- 嵌入式系统课程设计.doc
- 基于飞思卡尔控制器的智能寻迹车设计ARM基础课程课程设计.doc
- 下载基于ARM7的压电陶瓷换能器导纳圆测量仪的研制PDF格式可编辑.pdf
- 课程设计基于ARM的嵌入式家居监控系统的研究与设计.doc
- 论文基于嵌入式ARM的图像采集处理系统设计.doc
- 嵌入式基于ARM9的中断驱动程序设计—课程设计.doc
- 在Linux系统下基于ARM嵌入式的俄罗斯方块.doc
- STK-MirrorStore Product Release Notes(96130)-44
- STK-MirrorStore Storage Connectivity Guide for StorageTek Disk A
- 龙虾养殖远程监控系统的设计与实现数据采集上位-机软件模块-本科毕业设计.doc
- 龙虾养殖远程监控系统的设计与实现数据采集上位-机软件模块-.doc
- 龙虾养殖远程监控系统的设计与实现数据采集上位-机软件模块-本科生毕业论文.doc
- 麻阳风貌展示网站的设计与实现毕业论文.pdf
- 高速走丝气中电火花线切割精加工编程设计.doc
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
![](https://img-home.csdnimg.cn/images/20220527035711.png)
![](https://img-home.csdnimg.cn/images/20220527035711.png)
![](https://img-home.csdnimg.cn/images/20220527035111.png)
安全验证
文档复制为VIP权益,开通VIP直接复制
![](https://csdnimg.cn/release/wenkucmsfe/public/img/green-success.6a4acb44.png)