[論文レビュー] JPEG Steganalysis Based on DenseNet

Jianhua Yang, Yun-Qing Shi+2 more|arXiv (Cornell University)|Nov 26, 2017

Advanced Steganography and Watermarking Techniques参考文献 26被引用数 21

ひとこと要約

本稿では、密接接続を用いて特徴再利用を向上させ、情報伝達を改善し、パラメータを削減する32層のDenseNetベースのCNNアーキテクチャを提案する。さらに、CNNと従来のSCA-GFRを組み合わせたアンサンブル手法であるCNN-SCA-GFRを導入し、XuNetのパラメータの17%しか使用しないにもかかわらず、0.1および0.4 bpnzACにおいてそれぞれ5.67%および4.41%低い誤差率を達成し、最先端の検出精度を実現した。

ABSTRACT

Different from the conventional deep learning work based on an images content in computer vision, deep steganalysis is an art to detect the secret information embedded in an image via deep learning, pose challenge of detection weak information invisible hidden in a host image thus learning in a very low signal-to-noise (SNR) case. In this paper, we propose a 32- layer convolutional neural Networks (CNNs) in to improve the efficiency of preprocess and reuse the features by concatenating all features from the previous layers with the same feature- map size, thus improve the flow of information and gradient. The shared features and bottleneck layers further improve the feature propagation and reduce the CNN model parameters dramatically. Experimental results on the BOSSbase, BOWS2 and ImageNet datasets have showed that the proposed CNN architecture can improve the performance and enhance the robustness. To further boost the detection accuracy, an ensemble architecture called as CNN-SCA-GFR is proposed, CNN-SCA- GFR is also the first work to combine the CNN architecture and conventional method in the JPEG domain. Experiments show that it can further lower detection errors. Compared with the state-of-the-art method XuNet [1] on BOSSbase, the proposed CNN-SCA-GFR architecture can reduce detection error rate by 5.67% for 0.1 bpnzAC and by 4.41% for 0.4 bpnzAC while the number of training parameters in CNN is only 17% of what used by XuNet. It also decreases the detection errors from the conventional method SCA-GFR by 7.89% for 0.1 bpnzAC and 8.06% for 0.4 bpnzAC, respectively.

研究の動機と目的

• 低SNRのJPEG画像におけるステガノグラフィック信号の検出を、ディーブラーニングを用いて向上させること。
• 密接接続を活用することで、ステガノグラフィー検出用のCNNにおける特徴再利用と情報伝達を強化すること。
• パフォーマンスを損なわせることなく、モデルの複雑さとパラメータ数を削減すること。
• ディープラーニングと従来のJPEGステガノグラフィー検出手法（SCA-GFR）を統合し、より高い耐性と精度を実現すること。
• エンドツーエンドのディープラーニングとハイブリッドアーキテクチャを用いて、JPEGステガノグラフィー検出における新たな最先端のベンチマークを確立すること。

提案手法

• 提案されたCNNは32層で構成され、同じ空間サイズの全前の層からの特徴を連結することで、特徴再利用と勾配伝播を向上させる。
• 事前処理では、再圧縮されたJPEG画像の高域フィルタリングと切り捨てを実施し、ステガノ関連の特徴を抽出する。
• 各畳み込み層の後にはバッチ正規化とReLU活性化関数を適用し、学習の安定化と収束の改善を図る。
• 分類器は全結合層とSoftmaxを用い、カバー／ステガノの確率を出力する。
• アンサンブル手法であるCNN-SCA-GFRは、9つのトレーニング済みCNNモデル（各々160次元の特徴出力）とSCA-GFR（17,000次元の特徴）を、特徴の連結と最終確率の平均化によって統合する。
• CNNの平均プーリング層からの中間特徴を、最終のSoftmax出力のみではなく、多様性と精度向上のための特徴として使用する。

実験結果

リサーチクエスチョン

• RQ1 CNNにおける密接接続は、低SNRのJPEGステガノグラフィー検出において、特徴伝搬と検出精度を向上させることができるか？
• RQ2 ディープラーニングと従来のステガノグラフィー検出手法（SCA-GFR）をハイブリッドに組み合わせたアンサンブルは、単独のディープラーニングモデルを上回ることができるか？
• RQ3 XuNetなどの最先端手法と比較して、提案されたCNNのパラメータ効率とパフォーマンスはどのように異なるか？
• RQ4 BOSSbase、BOWS2、ImageNetといった異なるデータセットにおいて、提案アーキテクチャは十分に一般化できるか？
• RQ5 CNNフレームワーク内に選択チャネルに配慮した特徴を統合することで、ステガノグラフィー検出の耐性がさらに向上するか？

主な発見

• 提案されたCNN-SCA-GFRアンサンブルは、0.1 bpnzACにおいてXuNetと比較して5.67%低い誤差率を達成し、0.4 bpnzACでは4.41%低い誤差率を記録した。
• 従来のSCA-GFRと比較して、0.1 bpnzACでは7.89%、0.4 bpnzACでは8.06%低い誤差率を示した。
• 提案されたCNNは、XuNetの5.48Mパラメータのうち17%（0.88M）にまで削減され、モデル効率が顕著に向上した。
• BOWS2データセットでは、全ペイロードレベルにおいてXuNetおよびSCA-GFRを上回る低い誤差率を達成し、耐性の高さを示した。
• ImageNetでは、0.4 bpnzACで15.34%の誤差率を達成し、XuNet（22.28%）を上回り、大規模データに対する強力なスケーラビリティを示した。
• ImageNetにおける検証誤差曲線は、提案CNNがXuNetに比べて収束が早く、誤差が低いことを示した。