[論文レビュー] Diffusion-Stego: Training-free Diffusion Generative Steganography via Message Projection

Daegyu Kim, Chaehun Shin+3 more|arXiv (Cornell University)|May 30, 2023

Advanced Steganography and Watermarking Techniques被引用数 4

ひとこと要約

Diffusion-Stego は、訓練不要の生成的ステガノグラフィー手法であり、事前学習済みの拡散モデルの潜在的ノイズに、新しいメッセージプロジェクション技術を用いて秘密のメッセージを埋め込む。これにより、高容量かつ高忠実度のステガノグラフィック画像が得られ、本物の画像と区別がつかない。FID スコアが 2.77（1.0 bpp 時）、90% のメッセージ正確性を達成し、最大 6.0 bpp の容量を実現。再訓練を必要とせず、決定論的サンプラーを用いてメッセージの埋め込みと抽出が可逆的に行える。

ABSTRACT

Generative steganography is the process of hiding secret messages in generated images instead of cover images. Existing studies on generative steganography use GAN or Flow models to obtain high hiding message capacity and anti-detection ability over cover images. However, they create relatively unrealistic stego images because of the inherent limitations of generative models. We propose Diffusion-Stego, a generative steganography approach based on diffusion models which outperform other generative models in image generation. Diffusion-Stego projects secret messages into latent noise of diffusion models and generates stego images with an iterative denoising process. Since the naive hiding of secret messages into noise boosts visual degradation and decreases extracted message accuracy, we introduce message projection, which hides messages into noise space while addressing these issues. We suggest three options for message projection to adjust the trade-off between extracted message accuracy, anti-detection ability, and image quality. Diffusion-Stego is a training-free approach, so we can apply it to pre-trained diffusion models which generate high-quality images, or even large-scale text-to-image models, such as Stable diffusion. Diffusion-Stego achieved a high capacity of messages (3.0 bpp of binary messages with 98% accuracy, and 6.0 bpp with 90% accuracy) as well as high quality (with a FID score of 2.77 for 1.0 bpp on the FFHQ 64$ imes$64 dataset) that makes it challenging to distinguish from real images in the PNG format.

研究の動機と目的

• 生成的敵対ネットワーク（GAN）およびフローに基づくステガノグラフィーの限界を解決する。これらはモデルの固有の制約により、低品質なステガノグラフィック画像を生成する。
• 拡散モデルの優れた画像生成品質を活用し、ステガノグラフィック画像の現実性と検出回避能力を向上させる。
• 事前学習済みの拡散モデルと決定論的サンプラーのみを用いて、メッセージの埋め込みと抽出が可能な訓練不要の手法を開発する。
• ノイズベースのメッセージ埋め込みにおける課題、例えば視覚的劣化やメッセージ抽出精度の低下を克服する。
• Stable Diffusion などの大規模なテキストから画像への拡散モデルに、秘密のメッセージとテキストプロンプトのみでステガノグラフィーを適用可能にする。

提案手法

• 秘密のメッセージを、ノイズ分布と画像品質を保持するメッセージプロジェクション技術を用いて、事前学習済みの拡散モデルの潜在的ノイズ空間に投影する。
• 可逆性を持つ決定論的サンプラー（例：EDM からのヒューンサンプラー）を活用し、同じモデルで画像生成とメッセージ抽出を可能にする。
• メッセージの正確性、画像忠実度、検出回避性能のトレードオフを調整するための 3 種類のメッセージプロジェクション変種（MB、MS、MP）を導入する。
• 逆ノイズ除去プロセスにおいてノイズを変更することでメッセージを埋め込み、歪みを最小限に抑えつつランダムノイズの統計的性質を維持する。
• 生成に使用した同じ決定論的サンプリング経路を逆にすることで、損失のないメッセージ抽出を実現し、追加の訓練なしにエンドツーエンドのステガノグラフィーを可能にする。
• テキストプロンプトに条件付けられた潜在空間にメッセージを埋め込むことで、テキストから画像への拡散モデルへの応用を可能にし、プロンプトベースのステガノグラフィック画像生成を実現する。

実験結果

リサーチクエスチョン

• RQ1 訓練なしで、高容量かつ高忠実度の生成的ステガノグラフィーを、拡散モデルに効果的に適用できるか？
• RQ2 画像品質の劣化やメッセージ抽出精度の低下を防ぎながら、拡散モデルの潜在的ノイズに秘密のメッセージを埋め込むにはどうすればよいか？
• RQ3 決定論的サンプラーの可逆性を維持しつつ、強固なメッセージ埋め込みと抽出を可能にする技術は何か？
• RQ4 ノイズ置換の単純な手法と比較して、メッセージプロジェクションは、画像忠実度、メッセージ正確性、検出回避性能の観点でどのように優れているか？
• RQ5 Diffusion-Stego は、Stable Diffusion などの大規模なテキストから画像へのモデルに、実用的なステガノグラフィー通信のためにどの程度応用可能か？

主な発見

• Diffusion-Stego は、FFHQ 64×64 データセットで 3.0 ビット/ピクセル（bpp）のメッセージ容量を達成し、98% のメッセージ抽出正確性を示し、6.0 bpp では 90% の正確性を達成した。
• 本手法は、画像品質を著しく維持しており、FFHQ 64×64 データセットで 1.0 bpp のメッセージ埋め込み時、Fréchet Inception Distance（FID）スコアが 2.77 に達した。
• ステガノグラフィック画像を TIFF 形式で保存した場合のメッセージ正確性（99.99%）は、PNG 形式（94.78%）よりも顕著に高く、量子化がメッセージ整合性に与える影響を裏付けた。
• 提案されたメッセージプロジェクション技術は、逆サンプリングプロセス中の視覚的劣化と誤差蓄積を効果的に軽減し、高いメッセージ抽出正確性を実現した。
• Diffusion-Stego は、Stable Diffusion に対しても成功裏に適用され、多様なプロンプトに対して、92.09% から 98.25% の範囲でメッセージ正確性を達成する高品質なステガノグラフィック画像を生成した。
• 本手法は完全に訓練不要であり、拡散モデルの微調整や追加の抽出器の学習を一切必要とせず、任意の事前学習済み拡散モデルに即座に統合可能である。