[論文レビュー] Graph-Stega: Semantic Controllable Steganographic Text Generation Guided by Knowledge Graph

Zhongliang Yang, Baitao Gong+4 more|arXiv (Cornell University)|Jun 2, 2020

Advanced Steganography and Watermarking Techniques参考文献 32被引用数 8

ひとこと要約

本稿では、知識グラフ（KG）を用いてステガノグラフィックな文生成をガイドする新しいテキスト生成ステガノグラフィー手法、Graph-Stegaを提案する。秘密データは語彙レベルの確率符号化ではなく、KGパスを通じて符号化される。このアプローチにより、高い埋め込みレートでも高品質で意味的に制御可能なステガノグラフィックなテキストを生成可能であり、従来の手法に比べてテキスト品質および意味的関連性の両面で優れている。

ABSTRACT

Most of the existing text generative steganographic methods are based on coding the conditional probability distribution of each word during the generation process, and then selecting specific words according to the secret information, so as to achieve information hiding. Such methods have their limitations which may bring potential security risks. Firstly, with the increase of embedding rate, these models will choose words with lower conditional probability, which will reduce the quality of the generated steganographic texts; secondly, they can not control the semantic expression of the final generated steganographic text. This paper proposes a new text generative steganography method which is quietly different from the existing models. We use a Knowledge Graph (KG) to guide the generation of steganographic sentences. On the one hand, we hide the secret information by coding the path in the knowledge graph, but not the conditional probability of each generated word; on the other hand, we can control the semantic expression of the generated steganographic text to a certain extent. The experimental results show that the proposed model can guarantee both the quality of the generated text and its semantic expression, which is a supplement and improvement to the current text generation steganography.

研究の動機と目的

• 従来のテキストステガノグラフィー手法が条件付き確率符号化に依存するという限界を是正する。これは高レート埋め込み時にテキスト品質が低下する要因となる。
• 従来の生成型ステガノグラフィー・モデルに見られる意味的制御の欠如を克服する。これにより検出リスクが上昇するためである。
• 埋め込みレートにかかわらず高品質な出力と意味的整合性を維持するステガノグラフィック・フレームワークを開発する。
• 意味的パスを通じて秘密情報を符号化するKGガイドド・アプローチを導入することで、セキュリティとロバストネスを向上させる。

提案手法

• 従来の「言語モデル＋条件付き確率符号化」フレームワークに代わり、知識グラフに従って生成する仕組みを採用し、KG内のパスを通じて秘密データを符号化する。
• 意味的チェーンに含まれるノード数（固定または可変）を制御することで、埋め込みレートを調整しながら意味的整合性を保つ。
• 選択されたパスに沿ってKGを走査することでステガノグラフィックな文を生成し、高い確率で出現する自然言語トークンが使用されるようにする。
• 意味的関連性とテキスト品質の評価に、標準的なNLPメトリクス（BLEU、METEOR、CIDEr、ROUGE-L）およびパープレクシティを適用する。
• 異なる埋め込みレートでの検出耐性をテストするために、先行研究のステガノグラフィー分析モデルを用いる。
• KGサブグラフ内で特定のノードを固定することで意味的表現を制御し、埋め込み容量を損なわずにターゲット生成を可能にする。

実験結果

リサーチクエスチョン

• RQ1 KGガイドド・アプローチは、低確率語の選択に依存せずに、高レート埋め込みでも高品質なステガノグラフィックなテキスト生成を維持できるか？
• RQ2 KGサブグラフを用いることで、生成されたステガノグラフィックな文の意味的内容をどの程度制御できるか？
• RQ3 異なる埋め込みレートにおいて、生成されたステガノグラフィックな文と入力KGサブグラフとの意味的関連性はどのように変化するか？
• RQ4 提案手法は、従来のニューラルステガノグラフィー手法に比べ、より強いステガノグラフィー分析への耐性を示すか？

主な発見

• 2.49ビット/語（bpw）の埋め込みレートにおいて、BLEU-1スコアは0.365、METEORは0.224、ROUGE-Lは0.460を達成し、参照テキストと強い意味的整合性があることが示された。
• 2.49 bpwにおける生成されたステガノグラフィック文のパープレクシティ（186.05）は、学習文のパープレクシティ（164.53）に近く、高レート埋め込み時でも高いテキスト品質が維持されていることが確認された。
• 意味的関連性メトリクスは、さまざまな埋め込みレートにおいて安定しており、わずかな変動しか見られず、さまざまな条件下でも一貫した性能を示した。
• 2.49 bpwにおけるステガノグラフィー分析モデルのF1スコアは0.775であり、中程度の検出耐性を示しており、ベースライン手法に比べてセキュリティが向上していることが示唆された。
• 本手法は、意味的制御と埋め込みレートを明確に分離できており、ユーザーがKG内の特定のノードを固定することでコンテンツをガイドしつつ、高品質な出力を維持することが可能になった。