[論文レビュー] Distortion Agnostic Deep Watermarking

Xiyang Luo, Ruohan Zhan+3 more|arXiv (Cornell University)|Jan 14, 2020

Advanced Steganography and Watermarking Techniques参考文献 44被引用数 5

ひとこと要約

本論文は、トレーニング中に画像歪みの明示的モデリングを行わずに、耐障害性の高いメッセージ抽出を達成する歪みに依存しない深層水増しフレームワークを提案する。敵対的トレーニングとCNN生成の摂動、および冗長性をもたらすチャネル符号化を組み合わせることで、固定された歪みセットでトレーニングされたモデルよりも未知の歪みに対して一般化性能が優れている。既知の歪みでは同等またはそれを上回る性能を示し、未観測の歪みに対しては顕著に一般化性能が向上する。

ABSTRACT

Watermarking is the process of embedding information into an image that can survive under distortions, while requiring the encoded image to have little or no perceptual difference from the original image. Recently, deep learning-based methods achieved impressive results in both visual quality and message payload under a wide variety of image distortions. However, these methods all require differentiable models for the image distortions at training time, and may generalize poorly to unknown distortions. This is undesirable since the types of distortions applied to watermarked images are usually unknown and non-differentiable. In this paper, we propose a new framework for distortion-agnostic watermarking, where the image distortion is not explicitly modeled during training. Instead, the robustness of our system comes from two sources: adversarial training and channel coding. Compared to training on a fixed set of distortions and noise levels, our method achieves comparable or better results on distortions available during training, and better performance on unknown distortions.

研究の動機と目的

• 明示的かつ固定された歪みセットでトレーニングされた深層水増しモデルの一般化性能の低さに対処すること。
• 実際の応用でよく見られる未知または微分不能な歪みに対しても耐障害性を保つ水増しシステムを開発すること。
• 特定の歪みをトレーニング時にモデリングする必要を排除しつつ、高い目立たなさとメッセージ容量を維持すること。
• 歪みの種類を事前に知らない状態で、暗黙的な歪みシミュレーションと冗長性の注入により耐障害性を向上させること。

提案手法

• 敵対的トレーニングを用い、CNNベースの攻撃ネットワークが多様で微分可能な摂動を生成することで、広範な画像歪みをシミュレートする。
• 水増しエンコーダとデコーダは、画像再構成損失（L_I）とメッセージ損失（L_M）の組み合わせ損失関数を用いて同時にトレーニングされる。L_Iは知覚的品質とカバー画像への近接性を、L_Mは正しいメッセージ埋め込みと抽出を目的とする。
• 敵対的例（I_adv）は攻撃ネットワーク G_adv によって生成され、水増しモデルがこれらの摂動に対して耐性を持つようにトレーニングされ、敵対的損失（L_adv）を最小化する。
• メッセージは埋め込み前にチャネル符号化が施され、歪みによるメッセージ破損に対する耐性が向上する。
• 水増しネットワーク（F_enc, F_dec）と攻撃ネットワーク（G_adv）の更新を交互に繰り返すことで、耐障害性の共適応的学習が可能になる。
• トレーニング中に歪みの明示的モデリングが不要であるため、未観測の歪みに対しても一般化可能である。

実験結果

リサーチクエスチョン

• RQ1 トレーニング時に画像歪みを明示的にモデリングしない深層水増しシステムは、歪みに依存しない設計のもとで高い耐障害性を達成できるか？
• RQ2 CNNが生成する摂動を用いた敵対的トレーニングは、固定された歪みタイプでトレーニングする場合と比較して、未知の歪みへの一般化性能においてどのように異なるか？
• RQ3 歪みに依存しない水増しフレームワークにおいて、チャネル符号化はどれほど耐障害性を向上させるか？
• RQ4 敵対的トレーニングとチャネル符号化の組み合わせは、明示的な歪み拡張でトレーニングされたモデルを上回る性能を示すか？
• RQ5 攻撃ネットワークの複雑さは、水増しシステムの耐障害性と一般化性能にどのように影響するか？

主な発見

• 提案手法は、JPEG（Q=50）で81.7%、クロップ（p=0.09）で93.5%、ぼかし（σ=1.0）で92.8%、ドロップアウト（p=0.3）で97.9%のビット正確度を達成し、未知の歪みにおいて、アイデンティティモデルおよび統合歪みモデルを上回る性能を示した。
• 特に色変更のような未知の歪みにおいて、統合歪みモデルが一般化の問題を抱える中、本モデルは顕著に優れた性能を示した。
• アブレーションスタディの結果、敵対的トレーニング自体が耐障害性に大きく寄与していることが判明。チャネル符号化と組み合わせることで、特に高性能な領域での正確度がさらに向上した。
• 攻撃ネットワークの複雑さの分析から、より複雑なネットワークは過学習のためわずかに性能を低下させる傾向にあった。キャップドまたは残差構造のバージョンは混合結果を示し、FGSMは単一の歪みタイプに過学習するため、性能が著しく低かった。
• 本モデルは、ベースラインモデルと比較して、さまざまな歪みにおけるビット正確度の分散が低く、より安定的かつ一貫性のある性能を示した。
• 特にトレーニング時に見られなかった歪みに対しても、明示的な歪みモデリングでトレーニングされたモデルよりも一般化性能が優れており、歪みに依存しない設計の有効性が裏付けられた。