[論文レビュー] Distributionally Robust Learning

Ruidi Chen, Ioannis Ch. Paschalidis|arXiv (Cornell University)|Aug 20, 2021

Risk and Portfolio Optimization被引用数 8

ひとこと要約

本稿は、Wasserstein距離に基づく分布的ロバスト最適化（DRO）を用いた分布的ロバスト学習フレームワークを提案し、データ分布のシフトに対するモデルのロバスト性を向上させる。回帰、分類、半教師あり学習、強化学習といった多様な学習問題に対して、取り扱い可能なDRO緩和問題を導出し、ロバスト性と正則化の関係を確立するとともに、有限標本および漸近的性能保証を提供する。

ABSTRACT

This monograph develops a comprehensive statistical learning framework that is robust to (distributional) perturbations in the data using Distributionally Robust Optimization (DRO) under the Wasserstein metric. Beginning with fundamental properties of the Wasserstein metric and the DRO formulation, we explore duality to arrive at tractable formulations and develop finite-sample, as well as asymptotic, performance guarantees. We consider a series of learning problems, including (i) distributionally robust linear regression; (ii) distributionally robust regression with group structure in the predictors; (iii) distributionally robust multi-output regression and multiclass classification, (iv) optimal decision making that combines distributionally robust regression with nearest-neighbor estimation; (v) distributionally robust semi-supervised learning, and (vi) distributionally robust reinforcement learning. A tractable DRO relaxation for each problem is being derived, establishing a connection between robustness and regularization, and obtaining bounds on the prediction and estimation errors of the solution. Beyond theory, we include numerical experiments and case studies using synthetic and real data. The real data experiments are all associated with various health informatics problems, an application area which provided the initial impetus for this work.

研究の動機と目的

• データ分布のシフト下でのモデル性能の低下という課題に対処するため、ロバストな統計的学習フレームワークの構築。
• Wasserstein距離に基づく分布的ロバスト最適化（DRO）を定式化し、データの分布的摂動をモデル化・緩和する。
• 複数の問題クラスにわたるロバスト学習の有限標本および漸近的性能保証を確立する。
• DROにおけるロバスト性を正則化と結びつけ、モデル一般化のための整合的アプローチを提供する。
• 合成的および実世界のヘルスインフォマティクスアプリケーションを通じて、フレームワークの実用的有用性を実証する。

提案手法

• 経験分布の周囲にWasserstein距離を用いて不確実性集合（アービタリティセット）を定義し、妥当なデータ分布の摂動を捉える。
• 双対性理論を活用して、元のDRO問題を効率的な計算が可能な凸最適化問題に変換する。
• 線形および多出力回帰、分類、半教師あり学習を含む6つの異なる学習問題に対して、閉形式または効率的に解ける緩和問題を導出する。
• 近傍推定とDROを統合し、分布的不確実性下での最適意思決定を実現する。
• 強化学習に応用するため、DROと分布的シフト下での価値関数推定を組み合わせる。
• 有限標本および漸近的解析を通じて、予測誤差および推定誤差の理論的境界を確立する。

実験結果

リサーチクエスチョン

• RQ1 Wasserstein距離を用いた分布的ロバスト学習を、データ分布のシフトに対するロバスト性を保証する形で体系的に定式化する方法は何か？
• RQ2 DROに基づく学習の有限標本および漸近的性能保証は、さまざまな教師ありおよび半教師あり学習タスクにおいてどのように得られるか？
• RQ3 DRO正則化は、標準的な経験的リスク最小化に比べて一般化性能をどの程度向上させるか？
• RQ4 DROは多出力回帰および多クラス分類問題にどのように効果的に拡張できるか？
• RQ5 DROと近傍推定を統合することで、不確実な環境下での意思決定のロバスト性はどのように向上するか？

主な発見

• 提案されたDROフレームワークは、線形および多出力回帰を含む6つの学習問題すべてに対して有限標本の性能保証を達成する。
• 各問題クラスに対して取り扱い可能なDRO緩和問題が導出され、ロバスト性と正則化を整合的につなげる。
• 実際のヘルスインフォマティクスデータセットにおいて、強力な経験的性能を示し、実用的妥当性とロバスト性を検証する。
• 数値実験により、DROベースのモデルが、分布的シフト下でも予測精度と安定性の点で標準ベースラインを上回ることが示された。
• 理論的解析により、弱い正則性条件の下でDRO解が有界な推定誤差および予測誤差を達成することが確認された。
• DROと近傍推定の統合により、i.i.d.でないおよび分布外の状況下でも意思決定のロバスト性が向上した。