[论文解读] Yedrouj-Net: An efficient CNN for spatial steganalysis

Mehdi Yedroudj, Frédéric Comby+1 more|arXiv (Cornell University)|Feb 26, 2018

Advanced Steganography and Watermarking Techniques参考文献 19被引用 25

一句话总结

Yedroudj-Net 是一种轻量级、高效的卷积神经网络，用于空间域隐写分析，通过结合使用 SRM 核的预处理滤波器组、截断激活函数、带缩放层的批量归一化以及包含五个卷积模块的深层结构，在不使用集成方法或数据增强技巧的情况下，优于当前最先进方法。在 0.2 bpp 的 BOSSBase 数据集上，其检测错误概率相比 RM+EC 基线降低了 16%（降至 20.8%）。

ABSTRACT

For about 10 years, detecting the presence of a secret message hidden in an image was performed with an Ensemble Classifier trained with Rich features. In recent years, studies such as Xu et al. have indicated that well-designed convolutional Neural Networks (CNN) can achieve comparable performance to the two-step machine learning approaches. In this paper, we propose a CNN that outperforms the state-ofthe-art in terms of error probability. The proposition is in the continuity of what has been recently proposed and it is a clever fusion of important bricks used in various papers. Among the essential parts of the CNN, one can cite the use of a pre-processing filterbank and a Truncation activation function, five convolutional layers with a Batch Normalization associated with a Scale Layer, as well as the use of a sufficiently sized fully connected section. An augmented database has also been used to improve the training of the CNN. Our CNN was experimentally evaluated against S-UNIWARD and WOW embedding algorithms and its performances were compared with those of three other methods: an Ensemble Classifier plus a Rich Model, and two other CNN steganalyzers.

研究动机与目标

• 设计一种单一、高效的卷积神经网络架构，无需依赖集成方法或复杂的数据增强技术，即可超越当前最先进水平的隐写分析性能。
• 研究架构选择（如预处理滤波器、激活函数和归一化方法）对空间域图像隐写分析准确率的影响。
• 评估增大训练数据库规模及虚拟数据增强对卷积神经网络收敛性和检测性能的影响。
• 证明经过精心设计的非集成卷积神经网络可优于传统使用复杂模型的集成分类器。
• 表明该网络对超参数初始化具有鲁棒性，且在无需迁移学习或虚拟增强的情况下也能稳定收敛。

提出的方法

• 网络采用一个预处理模块，使用来自 SRM（空间丰富模型）核集的 30 个固定高通滤波器，作为带有固定权重的 5×5 卷积层，以提取噪声残差并提高信噪比。
• 采用五个连续的卷积模块，每个模块结合 3×3 或 5×5 的卷积核（深层模块中使用更小的卷积核）、批量归一化和缩放层，卷积层中不使用偏置项。
• 仅在第一层模块中使用绝对值激活函数，以保持噪声残差的符号对称性，从而改善对伪装伪影的统计建模。
• 在最后一个卷积模块后应用截断激活函数，以抑制极端值并增强特征的鲁棒性。
• 将特征图展平后，通过三个带有 ReLU 激活和 Dropout 的全连接层，最终以 Softmax 层实现二分类（载体图像 vs. 隐写图像）。
• 模型在大规模增强数据集上进行训练，该数据集结合了 BOSSBase 和 BOWS2，并通过保持标签的旋转和翻转实现虚拟数据增强，以提升训练多样性。

实验结果

研究问题

• RQ1 是否可以设计一种单一、非集成的卷积神经网络架构，在不依赖数据增强或迁移学习的情况下，超越空间隐写分析的当前最先进水平？
• RQ2 将固定 SRM 滤波器组作为预处理步骤，对卷积神经网络的收敛性和检测准确率有何影响？
• RQ3 训练数据库规模的增加（尤其是来自多样化来源的图像）在多大程度上能提升隐写分析性能？
• RQ4 使用截断激活函数和带缩放层的批量归一化是否能增强隐写分析卷积神经网络的鲁棒性和泛化能力？
• RQ5 虚拟数据增强（旋转和翻转）对深度隐写分析网络的收敛时间与错误概率有何影响？

主要发现

• 在 0.2 bpp 的 BOSSBase 数据集上，Yedroudj-Net 将检测错误概率降低至 20.8%，相比 RM+EC 基线（错误概率 36.5%）提升了 16%。
• 当在 BOSS+BOWS2 上训练时，该网络将错误概率降低了 4%，优于 Xu-Net（2% 降低）和 Ye-Net（7% 降低）。
• 在使用虚拟增强（BOSS+BOWS2+VA）时，Yedroudj-Net 相比 BOSSBase 将错误概率降低了 7%，而 Xu-Net 仅提升 2%，Ye-Net 提升 11%。
• 该模型收敛稳定，对超参数初始化不敏感，无需迁移学习或虚拟增强即可达到顶尖性能。
• SRM 预处理、截断激活与带缩放层的批量归一化三者结合，是该网络卓越性能的关键因素。
• 即使在 112,000 个增强训练对的情况下，网络仍显示出改进空间，表明在隐写分析中，更深的卷积神经网络需要远超当前规模的数据集才能充分发挥其潜力。