[论文解读] A Brief Survey on Deep Learning Based Data Hiding

Chaoning Zhang, Chenguo Lin+4 more|arXiv (Cornell University)|Mar 2, 2021

Digital Media Forensic Detection被引用 6

一句话总结

本综述全面概述了基于深度学习的数据隐藏（深度隐藏）技术，按容量、安全性和鲁棒性对方法进行分类，并分析了三种核心架构。综述涵盖了图像、音频、视频和文本隐写术及数字水印的应用，并揭示了深度隐藏与对抗性攻击之间日益明显的关联，两者在高频信号敏感性方面存在共享漏洞，且技术可相互迁移。

ABSTRACT

Data hiding is the art of concealing messages with limited perceptual changes. Recently, deep learning has enriched it from various perspectives with significant progress. In this work, we conduct a brief yet comprehensive review of existing literature for deep learning based data hiding (deep hiding) by first classifying it according to three essential properties (i.e., capacity, security and robustness), and outline three commonly used architectures. Based on this, we summarize specific strategies for different applications of data hiding, including basic hiding, steganography, watermarking and light field messaging. Finally, further insight into deep hiding is provided by incorporating the perspective of adversarial attack.

研究动机与目标

• 系统性地根据核心属性（容量、安全性、鲁棒性）对基于深度学习的数据隐藏方法进行分类。
• 识别并分析端到端深度隐藏流水线中使用的三种基本神经网络架构。
• 回顾大容量数据隐藏、隐写术、数字水印和光场消息传递中的应用特定策略。
• 研究非图像媒体（包括音频、视频和文本）中的数据隐藏，重点关注深度学习的整合。
• 探索深度隐藏与对抗性机器学习之间新兴的交叉领域，特别是共享漏洞与跨应用技术。

提出的方法

• 沿三个关键维度对深度隐藏方法进行分类：容量（载荷大小）、安全性（抵抗隐写分析的能力）和鲁棒性（抵抗传输失真的能力）。
• 概述三种主要神经网络架构：(1) 预处理网络（P）、(2) 隐藏网络（H）和(3) 提取网络（R），构成端到端的嵌入与提取流水线。
• 采用联合优化目标：最小化原始图像与载体图像之间的感知失真（$dist_c$）和原始秘密与恢复秘密之间的重建误差（$dist_s$），通常使用L2或交叉熵损失。
• 应用加权损失函数 $\mathcal{L} = \|C' - C\| + \beta\|S' - S\|$ 以平衡不可察觉性与准确性，其中 $\beta$ 控制权衡。
• 回顾用于跨模态隐藏（如图像嵌入音频）的多阶段网络，其中残差误差被逐步嵌入并重建。
• 通过分析对高频扰动的共同敏感性，整合对抗性机器学习的见解，利用傅里叶分析统一理解深度隐藏与对抗性攻击。

实验结果

研究问题

• RQ1 基于深度学习的数据隐藏方法在图像信息隐藏中如何平衡容量、安全性和鲁棒性之间的权衡？
• RQ2 支持端到端训练的三种基本神经网络架构是什么？它们如何共同提升性能？
• RQ3 深度学习模型如何实现非图像媒体（如音频、视频和文本）中的高效数据隐藏？这些领域中的关键挑战是什么？
• RQ4 对抗性攻击与深度隐藏在哪些方面存在底层漏洞的共性，特别是对高频信号敏感性？
• RQ5 对抗性机器学习技术如何提升深度隐藏系统的鲁棒性，反之亦然？

主要发现

• 端到端的深度学习模型在容量、安全性和鲁棒性方面显著优于传统方法，通常通过联合优化嵌入与提取网络实现卓越性能。
• 使用加权损失函数 $\mathcal{L} = \|C' - C\| + \beta\|S' - S\|$ 有效管理了感知质量与秘密恢复准确率之间的权衡。
• 用于音频数据隐藏的多阶段网络通过逐步编码残差误差，成功将图像内容嵌入音频，实现了高保真度的重建。
• 基于文本的数据隐藏（如对抗性水印变换器AWT）通过联合编码器-解码器训练与对抗性微调，实现无感的消息嵌入。
• 统一的傅里叶视角表明，深度神经网络对高频内容高度敏感，这解释了对抗性攻击的成功与深度隐藏技术的有效性。
• 对抗性攻击与水印技术之间的跨应用技术有效：对抗性鲁棒性方法可提升水印的抗毁性，而水印防御机制可缓解模型提取攻击。