[論文レビュー] Out-domain examples for generative models.

Dario Pasquini, Marco Mingione+1 more|arXiv (Cornell University)|Mar 7, 2019

Generative Adversarial Networks and Image Synthesis参考文献 29被引用数 4

ひとこと要約

この論文は、生成モデルの潜在空間を操作することで、敵対的入力を用いて事前学習済み生成モデルが任意の出域外の例——まれまたは不可能な出力——を生成させられることを示している。この手法は、本物の入力と区別がつかない敵対的ノイズを生成し、低確率の分布外サンプルを信頼性高く再現可能である。

ABSTRACT

Deep generative models are being increasingly used in a wide variety of applications. However, the generative process is not fully predictable and at times, it produces an unexpected output. We will refer to those outputs as out-domain examples. In the present paper we show that an attacker can force a pre-trained generator to reproduce an arbitrary out-domain example if fed by a suitable adversarial input. The main assumption is that those outputs lie in an unexplored region of the generator's codomain and hence they have a very low probability of being naturally generated. Moreover, we show that this adversarial input can be shaped so as to be statistically indistinguishable from the set of genuine inputs. The goal is to look for an efficient way of finding these inputs in the generator's latent space.

研究の動機と目的

• 事前学習済み生成モデルが任意の出域外例を生成させられるかどうかを調査すること。
• そのような予期せぬ低確率出力を引き起こす潜在空間内の敵対的入力を同定すること。
• これらの敵対的入力が本物の入力と統計的に区別がつかないまま保たれることで、隠密性を維持すること。
• 生成器のコードメイン内でのこれらの敵対的入力を効率的に特定する手法を開発すること。

提案手法

• アプローチは、事前学習済みジェネレータに与えた際、ターゲットの出域外例を生成する敵対的潜在ベクトルを探索することに焦点を当てる。
• この手法は、出域外例が生成器出力空間の低確率領域に位置すると仮定している。
• 生成出力とターゲット出域外例との距離を最小化する潜在空間における最適化問題として問題を定式化する。
• 敵対的入力は、本物のデータと区別がつかない分布に制約を課すことで、隠密性を確保する。
• 勾配ベースの技術を用いて、潜在空間を効率的に探索する。
• 敵対的入力が本物の入力との分布的類似性によって簡単に検出されないことを保証する。

実験結果

リサーチクエスチョン

• RQ1 事前学習済みジェネレータが特定の任意の出域外例を生成させるように、敵対的入力を構築できるか？
• RQ2 このような敵対的入力を、本物のデータ入力と統計的に区別がつかない形にできるか？
• RQ3 潜在空間内でのこれらの敵対的入力の特定の実現可能性と効率性はいかほどか？
• RQ4 生成器が低確率の分布外出力を生成させられる程度はどの程度か？
• RQ5 この手法は、さまざまな種類の生成モデルや出域外ターゲットに対してどれほど頑健か？

主な発見

• 敵対的入力は、事前学習済みジェネレータが自然に生成しない任意の出域外例を強制的に生成させることに成功した。
• 生成された敵対的入力は統計的に本物の入力と区別がつかず、隠密性が保たれた。
• この手法は、生成器の潜在空間内での敵対的潜在ベクトルを効率的に特定できた。
• ターゲットの出域外例が非常に低確率領域に位置していても、このアプローチは効果的に機能した。
• 生成モデルは潜在空間における標的的かつ検出不能な操作に対して脆弱であることが示された。
• 結果から、生成器の出力空間には、敵対的摂動によってアクセス可能な利用可能な領域が存在することが明らかになった。