[論文レビュー] Adversarial Training Makes Weight Loss Landscape Sharper in Logistic Regression

Masanori Yamada, Sekitoshi Kanai+5 more|arXiv (Cornell University)|Feb 5, 2021

Adversarial Robustness in Machine Learning参考文献 29被引用数 4

ひとこと要約

本稿は理論的および実験的に、$L_2$-制約付き摂動を用いた adversarial training が、線形回帰における重み損失関数の曲率を鋭くすることを示している。主な要因は、損失を増加させる方向に整列したノイズである。摂動の大きさが増すほど曲率は鋭くなるが、これはランダムノイズよりも顕著であり、ロバストモデルにおける一般化性能の低下を説明する。

ABSTRACT

Adversarial training is actively studied for learning robust models against adversarial examples. A recent study finds that adversarially trained models degenerate generalization performance on adversarial examples when their weight loss landscape, which is loss changes with respect to weights, is sharp. Unfortunately, it has been experimentally shown that adversarial training sharpens the weight loss landscape, but this phenomenon has not been theoretically clarified. Therefore, we theoretically analyze this phenomenon in this paper. As a first step, this paper proves that adversarial training with the L2 norm constraints sharpens the weight loss landscape in the linear logistic regression model. Our analysis reveals that the sharpness of the weight loss landscape is caused by the noise aligned in the direction of increasing the loss, which is used in adversarial training. We theoretically and experimentally confirm that the weight loss landscape becomes sharper as the magnitude of the noise of adversarial training increases in the linear logistic regression model. Moreover, we experimentally confirm the same phenomena in ResNet18 with softmax as a more general case.

研究の動機と目的

• Adversarial training が線形回帰における重み損失関数の曲率を鋭くする理由を理論的に明確化すること。
• Adversarial noise の方向と大きさが損失関数の曲率に与える影響を分析すること。
• 損失関数の曲率における adversarial noise とランダムノイズの影響を比較すること。
• ResNet18 とソフトマックスを用いた非線形モデルへの発展。
• 損失関数の曲率に起因する一般化ギャップを、adversarially trained モデルの観点から説明すること。

提案手法

• 線形回帰における損失関数の曲率を定義するために、ヘッセ行列の固有値を用いた理論的分析。
• 分析のため、adversarial examples を大きさと方向の成分に分解。
• $L_2$-ノルム制約付き adversarial training の下での損失関数のヘッセ行列を導出。
• 最適な重み条件を適用し、曲率に及ぼす adversarial noise の影響を分離。
• MNIST2 と varying noise magnitudes を用いた実験により、理論的結果の妥当性を検証。
• 損失関数の曲率を adversarial noise と random noise の両方の下で比較する実験。

実験結果

リサーチクエスチョン

• RQ1 $L_2$-ノルム制約付き adversarial training が、線形回帰における重み損失関数の曲率を体系的に鋭くするか？
• RQ2 Adversarial noise の大きさが損失関数の曲率にどのように影響するか？
• RQ3 曲率の増加は、ランダムノイズによって引き起こされるものとは異なるか？
• RQ4 Softmax を用いた非線形モデル（例：ResNet18）に対しても同様の現象が成立するか？
• RQ5 Adversarially trained モデルにおける一般化ギャップは、損失関数の曲率の増加に起因するか？

主な発見

• 理論的分析により、$L_2$-制約付き線形回帰における損失関数のヘッセ行列の固有値が、adversarial noise のノルムに比例して増加することが証明された。
• 曲率の増加は、損失を最大化する方向に整列した adversarial noise に起因する。ランダム摂動とは異なる。
• MNIST2 における実験により、より大きな adversarial noise が顕著に鋭い損失関数の曲率をもたらすことが確認された。
• Softmax を用いた ResNet18 においても、adversarial noise の大きさを増すと、損失関数の曲率が段階的に鋭くなることが示された。
• ランダムノイズとは異なり、adversarial noise は損失関数の曲率をはるかに鋭くする。ランダムノイズは曲率の増加にほとんど寄与しない。
• 本研究は、adversarially trained モデルにおける一般化ギャップの主な要因が損失関数の曲率の増加であると結論づけた。