[論文レビュー] Probabilistically Robust Learning: Balancing Average- and Worst-case Performance

Alexander Robey, Luiz F. O. Chamon+2 more|arXiv (Cornell University)|Feb 2, 2022

Adversarial Robustness in Machine Learning被引用数 7

ひとこと要約

この論文は、リスクに配慮した最適化を用いて、すべての摂動ではなく大多数の摂動に対して耐性を持つように制約することで、平均的性能と最悪時性能のバランスを取る、確率的頑健学習（PRL）というフレームワークを導入する。PRLは、CIFAR-10で99%の頑健性カバレッジを達成する際、敵対的訓練よりも6ポイント高い性能を達成し、計算コストも低い。

ABSTRACT

Many of the successes of machine learning are based on minimizing an averaged loss function. However, it is well-known that this paradigm suffers from robustness issues that hinder its applicability in safety-critical domains. These issues are often addressed by training against worst-case perturbations of data, a technique known as adversarial training. Although empirically effective, adversarial training can be overly conservative, leading to unfavorable trade-offs between nominal performance and robustness. To this end, in this paper we propose a framework called probabilistic robustness that bridges the gap between the accurate, yet brittle average case and the robust, yet conservative worst case by enforcing robustness to most rather than to all perturbations. From a theoretical point of view, this framework overcomes the trade-offs between the performance and the sample-complexity of worst-case and average-case learning. From a practical point of view, we propose a novel algorithm based on risk-aware optimization that effectively balances average- and worst-case performance at a considerably lower computational cost relative to adversarial training. Our results on MNIST, CIFAR-10, and SVHN illustrate the advantages of this framework on the spectrum from average- to worst-case robustness.

研究の動機と目的

• 小さな摂動に対して失敗する可能性がある安全を要する応用分野における経験的リスク最小化（ERM）の脆さに対処する。
• 敵対的訓練の過剰な保守性を克服し、名目性能が低下し、高いサンプル複雑性を示す問題を解決する。
• 平均的性能と最悪時性能の間を原理的かつ解釈可能な方法で補間する、頑健な学習フレームワークを構築する。
• 計算コストの増加を最小限に抑えながら、頑健性スペクトル全体にわたって効率的な学習を可能にする、実用的なアルゴリズムを設計する。
• 確率的頑健性が、敵対的学習で見られる、頑健性、精度、サンプル複雑性の根本的トレードオフを回避することを示す。

提案手法

• すべての摂動に対してではなく、高い確率で摂動に対して耐性を持つように制約する、新たな学習定式化である確率的頑健学習（PRL）を提案する。
• 摂動の下での尾部性能を制御するために、条件付き値リスク（CVaR）指標を用いたリスクに配慮した最適化問題としてPRLの目的関数を定式化する。
• 確率的近似と勾配推定に基づく新しい訓練アルゴリズムを導入し、摂動分布全体にわたってCVaR目的関数を効率的に最適化する。
• 摂動探索の微分可能な緩和を用いて、エンド・トゥ・エンドのバックプロパゲーションを可能にし、標準的な敵対的訓練で用いられる反復的最小化の必要性を回避する。
• 信頼水準ρをパラメータとして用いて、平均的（ρ→1）から最悪時（ρ→0）への学習への滑らかな補間を可能にする。
• 理論的分析を活用し、PRLが高次元設定においてベイズ最適な名目性能と、ERMと同等のサンプル複雑性を達成することを示す。これは、敵対的訓練とは対照的である。

実験結果

リサーチクエスチョン

• RQ1 敵対的訓練の保守性を回避しつつ、強い頑健性を維持するような頑健な学習フレームワークを設計できるか？
• RQ2 確率的頑健性は、最悪時頑健性学習と比較して、より良いサンプル複雑性と名目性能をもたらすか？
• RQ3 リスクに配慮した最適化は、計算コストを低く抑えながら、大多数の摂動に対して頑健なモデルを効果的に学習できるか？
• RQ4 PRLの頑健性-精度トレードオフは、さまざまな頑健性レベルにおいて、既存手法と比較してどうなるか？
• RQ5 実際のテスト時頑健性を測るための代替指標として、CVaR指標は信頼できるか？

主な発見

• CIFAR-10において、ρ=0.01の条件下で、PRLはすべてのベースラインより6ポイント高い頑健な精度を達成し、厳しい頑健性要件下での優れた性能を示した。
• PRLは、クリーン、拡張、分位数精度の指標すべてにおいて、TERMおよび(Rice et al., 2021)を一貫して上回り、優れた一般化性能を示した。
• PRLはCIFAR-10、SVHN、MNISTの全データセットで、すべてのベースラインよりも低いCVaR値を達成し、高確率の摂動における最悪時損失の最小化効果を確認した。
• ρが低下するにつれて、PRLは名目性能を犠牲にしながらも、敵対的精度を向上させ、頑健性スペクトル全体にわたる滑らかなトレードオフを示した。
• 理論的分析により、PRLが高次元設定においてベイズ最適な名目性能を達成することが示されたが、これは敵対的頑健モデルとは対照的である。
• PRLはサンプル複雑性をERMと同等に維持する一方で、敵対的訓練は任意に高いサンプル複雑性を示す可能性があるため、大きな利点を示した。