[論文レビュー] Stable Adversarial Learning under Distributional Shifts

Jiashuo Liu, Zheyan Shen+5 more|arXiv (Cornell University)|Jun 8, 2020

Machine Learning and Algorithms被引用数 4

ひとこと要約

本稿では、環境間での共変数の相関安定性に基づいて共変数を区別することにより、非等方的不確実性集合を構築する、分布的に頑健な学習手法であるStable Adversarial Learning (SAL) を提案する。不安定な共変数に集中する敵対的摂動を適用し、表現と頑健性を同時に最適化することで、分布シフト下でも顕著に向上した頑健性を達成するとともに、高い信頼性を維持し、合成的および実世界のベンチマークにおいて、ERM、IRM、WDRLなどのベースラインを上回る性能を示した。

ABSTRACT

Machine learning algorithms with empirical risk minimization are vulnerable under distributional shifts due to the greedy adoption of all the correlations found in training data. Recently, there are robust learning methods aiming at this problem by minimizing the worst-case risk over an uncertainty set. However, they equally treat all covariates to form the decision sets regardless of the stability of their correlations with the target, resulting in the overwhelmingly large set and low confidence of the learner.In this paper, we propose Stable Adversarial Learning (SAL) algorithm that leverages heterogeneous data sources to construct a more practical uncertainty set and conduct differentiated robustness optimization, where covariates are differentiated according to the stability of their correlations with the target. We theoretically show that our method is tractable for stochastic gradient-based optimization and provide the performance guarantees for our method. Empirical studies on both simulation and real datasets validate the effectiveness of our method in terms of uniformly good performance across unknown distributional shifts.

研究の動機と目的

• 過剰に大きな不確実性集合によって引き起こされる分布的頑健な学習における過剰な悲観的傾向の問題に対処する。
• 環境間での共変数の不均一な安定性をモデル化することで、未知の分布シフト下での頑健性を向上させる。
• 共変数の安定性に基づいた頑健性最適化を区別する原理的で統一的なフレームワークを構築する。
• 高いモデルの信頼性を維持しながら、最適化の tractability と理論的保証を確保する。
• 合成的および実世界の設定において、多様な分布シフト下で優れた性能を示す。

提案手法

• Wassersteinに基づく分布的頑健な学習（WDRL）をコアフレームワークとして採用し、Wasserstein距離によって不確実性集合を定義する。
• 不安定な共変数（例：背景）に強い摂動を適用し、安定な共変数（例：物体の識別子）にやや弱い摂動を適用する非等方的不確実性集合を構築する。
• 確率的勾配法を用いて、共変数の安定性とモデルパラメータを同時に学習する協調的最適化プロセスを導入する。
• 複数の環境における異種のデータソースを用いて、各共変数の目的変数との相関の安定性を推定する。
• 2段階の訓練手順を採用する：まず、3層のCNNを用いて128次元の表現を抽出する。次に、学習済み特徴量上で敵対的訓練を実行する。
• 理論的分析により、得られる不確実性集合のコンパクト性が証明され、これはWDRL文献における新規な貢献である。

実験結果

リサーチクエスチョン

• RQ1 環境間での共変数の安定性を考慮することで、分布的頑健な学習におけるより実用的な不確実性集合を構築できるか？
• RQ2 相関安定性に基づいて敵対的摂動を区別することで、分布シフト下でのモデルの頑健性と信頼性にどのような影響を与えるか？
• RQ3 SALは、未知の多様な分布シフト下でも高い性能を維持しながら、過剰な悲観的傾向を回避できるか？
• RQ4 提示された手法は、誤った相関関係（例：色）とデータシフトが存在する設定において、ERM、IRM、WDRLを上回る一般化性能を達成できるか？
• RQ5 SALにおける不確実性集合のコンパクト性の理論的根拠は、標準的なWDRLと比較してどのように異なるか？

主な発見

• 色付きMNISTベンチマークにおいて、SALはERM（0.085）とWDRL（0.48）を上回り、テスト精度0.57を達成した。
• Adult収入予測タスクでは、10の環境すべてにおいて一貫して優れた性能を示し、最初の環境でのわずかな低下と、残りの8つの環境での顕著な向上を確認した。
• 標準的なWDRLが均一なクラス予測を引き起こすのとは異なり、SALは過剰に悲観的な最悪ケースを避けることで高いモデルの信頼性を維持した。
• 実験的結果により、SALが強い分布シフト下でも良好に一般化することを確認した。特に、テストデータで誤った相関（例：色）が逆転した場合に顕著な性能向上が得られた。
• 理論的分析により、SALは標準的なWDRLよりもよりコンパクトな不確実性集合を構築できることを確立し、頑健性向上の新たな根拠を提供した。
• 特徴抽出と敵対的最適化の2段階訓練により、画像のような複雑なデータにおいても、深層ニューラルネットワークを用いた効果的な頑健な学習が可能になった。