[論文レビュー] Does Adversarial Transferability Indicate Knowledge Transferability

Kaizhao Liang, Jacky Y. Zhang+2 more|arXiv (Cornell University)|May 4, 2021

Adversarial Robustness in Machine Learning参考文献 44被引用数 7

ひとこと要約

本稿は、敵対的転送性が深層ニューラルネットワークにおける知識転送性を示すものかどうかを調査し、特にアフィン合成を含む十分条件を特定する理論的枠組みを提案する。多様なデータセットにおける実験的結果から、理論が実際の状況で妥当であることが確認された。

ABSTRACT

Despite the immense success that deep neural networks (DNNs) have achieved, \emph{adversarial examples}, which are perturbed inputs that aim to mislead DNNs to make mistakes, have recently led to great concerns. On the other hand, adversarial examples exhibit interesting phenomena, such as \emph{adversarial transferability}. DNNs also exhibit knowledge transfer, which is critical to improving learning efficiency and learning in domains that lack high-quality training data. To uncover the fundamental connections between these phenomena, we investigate and give an affirmative answer to the question: \emph{does adversarial transferability indicate knowledge transferability?} We theoretically analyze the relationship between adversarial transferability and knowledge transferability, and outline easily checkable sufficient conditions that identify when adversarial transferability indicates knowledge transferability. In particular, we show that composition with an affine function is sufficient to reduce the difference between two models when they possess high adversarial transferability. Furthermore, we provide empirical evaluation for different transfer learning scenarios on diverse datasets, showing a strong positive correlation between the adversarial transferability and knowledge transferability, thus illustrating that our theoretical insights are predictive of practice.

研究の動機と目的

• 深層ニューラルネットワークにおける敵対的転送性と知識転送性の根本的関係を調査すること。
• 高い敵対的転送性が、高い知識転送性を示す指標として機能するかどうかを特定すること。
• 敵対的転送性が知識転送性を示すために必要な理論的根拠に基づいた、簡単に確認可能な十分条件を導出すること。
• 複数の転移学習のシナリオとデータセットを対象に、理論的知見を実証的に検証すること。

提案手法

• 数学的モデリングを用いた敵対的転送性と知識転送性の関係に関する理論的分析。
• 敵対的転送性が高い場合にモデルの差を小さくするための十分条件としてアフィン変換の合成を同定すること。
• 高い敵対的転送性が高い知識転送性を示すために必要な条件の導出。
• 多様なデータセットと転移学習の設定を用いた実験的評価により、敵対的転送性と知識転送性の相関関係を検証すること。
• 標準的なディープラーニングのベンチマークと転移学習プロトコルを用い、モデルおよびデータの構成が異なる状況下での性能を評価すること。

実験結果

リサーチクエスチョン

• RQ1 2つのモデル間で高い敵対的転送性が見られる場合、それは高い知識転送性を示すか？
• RQ2 敵対的転送性が知識転送性を示すために十分な理論的条件は何か？
• RQ3 アフィン変換の合成は、高い敵対的転送性を示すモデル間の差を小さくできるか？
• RQ4 異なるデータセットと転移シナリオにおいて、敵対的転送性と知識転送性の実証的相関関係はどの程度強いか？

主な発見

• 多様なデータセットと転移学習のシナリオにおいて、敵対的転送性と知識転送性の間に強い正の相関関係が存在する。
• アフィン関数との合成は、高い敵対的転送性を示すモデル同士の差を小さくするための十分条件である。
• 本稿で導出された理論的条件は、実証的評価により実世界のパフォーマンスを予測可能であることが確認された。
• 特定された十分条件のもとでは、高い敵対的転送性は、信頼性高く高い知識転送性を示す。
• 研究結果から、敵対的転送性はモデル設計および学習における知識転送性の実用的代理指標として機能しうることが示唆された。