[論文レビュー] Pareto Invariant Risk Minimization: Towards Mitigating the Optimization Dilemma in Out-of-Distribution Generalization

Yongqiang Chen, Kaiwen Zhou+9 more|arXiv (Cornell University)|Jun 15, 2022

Machine Learning and Data Classification被引用数 10

ひとこと要約

この論文では、分布外（OOD）一般化における最適化ジレンマを、経験的リスク最小化（ERM）と不変リスク最小化（IRM）の目的関数を同時に最適化することで解決する、多目的最適化フレームワークであるPareto Invariant Risk Minimization（PAIR）を提案する。Paretoフロンティアアプローチを活用することで、ヒューリスティックなペナルティ重み付けの必要性を回避し、ERM精度を損なうことなく、複数のベンチマークで最先端のOODパフォーマンスを達成する。

ABSTRACT

Recently, there has been a growing surge of interest in enabling machine learning systems to generalize well to Out-of-Distribution (OOD) data. Most efforts are devoted to advancing optimization objectives that regularize models to capture the underlying invariance; however, there often are compromises in the optimization process of these OOD objectives: i) Many OOD objectives have to be relaxed as penalty terms of Empirical Risk Minimization (ERM) for the ease of optimization, while the relaxed forms can weaken the robustness of the original objective; ii) The penalty terms also require careful tuning of the penalty weights due to the intrinsic conflicts between ERM and OOD objectives. Consequently, these compromises could easily lead to suboptimal performance of either the ERM or OOD objective. To address these issues, we introduce a multi-objective optimization (MOO) perspective to understand the OOD optimization process, and propose a new optimization scheme called PAreto Invariant Risk Minimization (PAIR). PAIR improves the robustness of OOD objectives by cooperatively optimizing with other OOD objectives, thereby bridging the gaps caused by the relaxations. Then PAIR approaches a Pareto optimal solution that trades off the ERM and OOD objectives properly. Extensive experiments on challenging benchmarks, WILDS, show that PAIR alleviates the compromises and yields top OOD performances.

研究の動機と目的

• OOD一般化における最適化ジレンマに対処すること。これは、ERMとOODの目的関数が衝突し、ヒューリスティックなペナルティ重みの調整を必要とする。
• 緩和されたOOD目的関数（例：IRMv1）の限界を克服すること。これは、最適化の緩和により真の不変解が損なわれるためである。
• 手動によるハイパーパramータチューニングなしに、ERMとOODパフォーマンスのバランスの取れたトレードオフを達成する方法を開発すること。
• 多目的最適化により、勾配の衝突が生じる非凸的で現実世界の深層学習設定でも、Pareto最適解に効率的に到達できることを示すこと。
• 多様な分布シフトにわたって一貫して高いOODパフォーマンスを発揮する、頑健なトレーニング方式を提供すること。

提案手法

• PAIRは、OOD一般化を多目的最適化（MOO）問題として定式化し、同時にERMと不変リスク最小化（IRM）の目的関数を最小化する。
• 勾配の衝突に適応的に対応する勾配ベースの降下方向を導入し、固定された線形重み付けの手法を回避する。
• Paretoフロンティアに沿った降下方向を計算することで、ERMとOODパフォーマンスの最適なトレードオフに収束する解が保証される。
• 元のIRM目的関数を直接最適化することでペナルティ項の使用を回避し、理論的頑健性を保持する。
• 勾配の整合性に基づく動的重み付けメカニズムを採用し、ハイパーパramータの手動チューニングなしに安定した最適化を実現する。
• 標準的なOODベンチマーク（Wilds）上で検証され、ColoredMNIST、PACS、TerraIncognitaを含む複数の評価プロトコルで実施されている。

実験結果

リサーチクエスチョン

• RQ1 多目的最適化フレームワークは、ヒューリスティックなペナルティ重みに依存せずに、ERMとOOD一般化のトレードオフを緩和できるか？
• RQ2 元のIRM目的関数の緩和を避けることで、真の不変予測子の保存が向上するか？
• RQ3 勾配の衝突が生じる非凸的で現実世界の深層学習設定において、PAIRはPareto最適解に到達できるか？
• RQ4 ERMおよびOOD一般化パフォーマンスの両面で、PAIRは既存のSOTA手法（例：IRM、GroupDRO、Fishr）を上回るか？
• RQ5 PAIRは、訓練ドメインとテストドメインの両方の検証プロトコルを含む、異なるデータ分割や検証プロトコルに対しても頑健か？

主な発見

• PAIRはWildsベンチマークで、すべてのデータセットにおいてIRM、GroupDRO、Fishrを上回る最先端のOOD一般化パフォーマンスを達成した。
• 訓練ドメイン検証を用いたPACSでは、PAIR-sが平均OOD精度85.1%を達成し、IRMに比べ+7.3%の向上を示した。
• テストドメイン検証を用いたColoredMNISTでは、PAIR-sが平均OOD精度69.0%を達成し、IRMに比べ+2.9%の向上を示した。
• PAIRはERM精度を劣化させることなく、OODパフォーマンスを一貫して向上させ、効果的なトレードオフ管理を示した。
• ハイパーパramータチューニングを必要とせず、訓練ドメインおよびテストドメイン検証を含むすべての評価プロトコルでトップパフォーマンスを発揮した。
• 特にTerraIncognitaのような挑戦的な設定では、IRMや他の手法が顕著な性能低下を示す中、PAIRはその低下を回避した。