[論文レビュー] Reversible Adversarial Examples.

Jiayang Liu, Dongdong Hou+2 more|arXiv (Cornell University)|Nov 1, 2018

Adversarial Robustness in Machine Learning参考文献 30被引用数 7

ひとこと要約

本稿では、元の画像を歪みなく完全に回復できるように、逆転可能なデータホーディングを用いて逆転可能な adversarial 例を生成する新しい手法を提案する。この手法により、深層ニューラルネットワークによる誤分類を可能にするとともに、元の画像の完全な回復が保証される。アプローチは、画像に逆転可能な形で adversarial パーティクルを埋め込み、復号後も画像の忠実度を保持する。

ABSTRACT

Deep Neural Networks have recently led to significant improvement in many fields such as image classification and speech recognition. However, these machine learning models are vulnerable to adversarial examples which can mislead machine learning classifiers to give incorrect classifications. In this paper, we take advantage of reversible data hiding to construct reversible adversarial examples which are still misclassified by Deep Neural Networks. Furthermore, the proposed method can recover original images from reversible adversarial examples with no distortion.

研究の動機と目的

• 深層ニューラルネットワークの adversarial 例に対する脆弱性を、逆転可能なメカニズムを導入することで解消すること。
• 元の画像を永久に変更しない adversarial 例の生成を可能にすること。
• adversarial パーティクルを除去した後でも、元の入力画像を完全に再構築できることを保証すること。
• adversarial 攻撃における高い誤分類率を維持しながら、画像の整合性を保つこと。

提案手法

• 元の画像の正確な再構成を可能にする形で、adversarial パーティクルを画像に逆転可能に埋め込むために、逆転可能なデータホーディング技術を活用する。
• adversarial ノイズを最下位ビットや同様の逆転可能構造に符号化する、逆転可能埋め込みフレームワークを用いる。
• 変更された画像に対して深層ニューラルネットワーク分類器を適用し、誤分類を誘発するとともに、逆転可能特性を維持する。
• adversarial パーティクルを抽出し、元の画像を歪みなしに復元する復号プロセスを採用する。
• adversarial 例が分類器をだます有効性を維持するとともに、ソース画像の損失なし回復を保証する。

実験結果

リサーチクエスチョン

• RQ1 元の画像を完全に回復できる形で adversarial 例を構築することは可能か？
• RQ2 逆転可能なデータホーディングは、画像忠実度を損なわずに効果的な adversarial 攻撃を可能にするか？
• RQ3 逆転可能に変更された adversarial 例によって、深層ニューラルネットワークをだませるか？
• RQ4 このフレームワークにおいて、攻撃成功確率と逆転可能性のトレードオフは何か？

主な発見

• 提案手法は、高い攻撃成功率で深層ニューラルネットワークをだます逆転可能な adversarial 例を効果的に生成できた。
• adversarial 例から元の画像が歪みなく回復され、完全な逆転可能性が確認された。
• 手法は adversarial 例の性質を維持しており、ターゲットモデルによる誤分類が保証された。
• 逆転可能なデータホーディングが、adversarial 例生成に効果的に統合可能であることが示された。