[論文レビュー] Rethinking Randomized Smoothing for Adversarial Robustness.

Jeet Mohapatra, Ching-Yun Ko+5 more|arXiv (Cornell University)|Mar 2, 2020

Adversarial Robustness in Machine Learning参考文献 20被引用数 7

ひとこと要約

この論文は、敵対的ロバストネスのためのランダムスムージングの背後にある仮定に挑戦し、その予測ルールが本質的に意思決定境界を収縮させることを示しており、ロバストネスを損なう。さらに、ノイズ拡張がこの問題を解決しないこと、むしろ新たな問題を引き起こす可能性があることも示し、現在のランダムスムージングワークフローのスケーラビリティと信頼性に疑問を呈する。

ABSTRACT

The fragility of modern machine learning models has drawn a considerable amount of attention from both academia and the public. While immense interests were in either crafting adversarial attacks as a way to measure the robustness of neural networks or devising worst-case analytical robustness verification with guarantees, few methods could enjoy both scalability and robustness guarantees at the same time. As an alternative to these attempts, randomized smoothing adopts a different prediction rule that enables statistical robustness arguments and can scale to large networks. However, in this paper, we point out for the first time the side effects of current randomized smoothing workflows. Specifically, we articulate and prove two major points: 1) the decision boundaries shrink with the adoption of randomized smoothing prediction rule; 2) noise augmentation does not necessarily resolve the shrinking issue and can even create additional issues.

研究の動機と目的

• ランダムスムージングの意図しない副作用、特に意思決定境界の幾何構造に与える影響を調査すること。
• ランダムスムージングにおけるノイズ拡張が境界収縮を効果的に緩和できるかどうかを分析すること。
• ランダムスムージングが統計的保証とともにスケーラブルなロバストネスを提供するという仮定を疑うこと。
• 現在のランダムスムージングワークフローに内在する根本的な制限を暴露し、ロバストネスを損なうこと。

提案手法

• 理論的分析により、ランダムスムージングの予測ルールが意思決定境界の幾何構造にどのように影響するかを形式化する。
• 論文は、スムージングルールの下で、スムージングされた分類器の意思決定境界が入力空間の中心に向かって収縮することを証明する。
• ガウスノイズ下での確率的マージン解析を用いて、収縮効果の形式的特徴付けを導入する。
• ノイズ拡張が境界収縮に与える影響を分析し、根本的な問題を解決しないことを示す。
• 実験的検証により、標準的な画像分類データセットにおける収縮効果を示す。
• スムージング前後での意思決定境界の幾何構造を比較し、収縮を定量的に評価する。

実験結果

リサーチクエスチョン

• RQ1 ランダムスムージングの予測ルールは、ニューラルネットワークの意思決定境界の幾何構造にどのように影響するか？
• RQ2 ランダムスムージングにおけるノイズ拡張は、意思決定境界の収縮をどの程度緩和できるか？
• RQ3 スムージングの下で生じる意思決定境界の本質的収縮が、この手法のロバストネス保証を損なうか？
• RQ4 確率的マージン解析を用いて、収縮効果を形式的に定量化し、証明できるか？
• RQ5 境界収縮の影響は、実用的なランダムスムージングのスケーラビリティと信頼性にどのような意味を持つのか？

主な発見

• スムージングの予測ルールにより、スムージングされた分類器の意思決定境界は入力空間の中心に向かって収縮し、ロバストネスが低下する。
• ノイズ拡張は境界収縮問題を解決せず、誤った局所的最小値を導入することで、むしろ悪化させる可能性がある。
• ガウスノイズ下での確率的マージン解析を用いて、境界収縮の収縮効果が形式的に証明された。
• 収縮効果は標準的なビジョンベンチマークで実証され、ロバストネスマージンの顕著な低下が確認された。
• 研究結果は、ランダムスムージングがスケーラブルにロバストであると仮定する基礎的仮定に疑問を呈する。
• 本研究は、現在のランダムスムージングワークフローが、意思決定境界構造における幾何的歪みによって根本的に制限されていることを明らかにした。