[論文レビュー] An Online Learning Approach to Interpolation and Extrapolation in Domain Generalization

Elan Rosenfeld, Pradeep Ravikumar+1 more|arXiv (Cornell University)|Feb 25, 2021

Machine Learning and Algorithms参考文献 34被引用数 6

ひとこと要約

本稿は、ドメイン一般化における補間と外挿の計算的・統計的複雑性を正式に分析するオンライン学習フレームワークを導入し、類似した統計的複雑性にもかかわらず、外挿は補間よりも計算的にはるかに難しいことを示している。また、Empirical Risk Minimization (ERM) 及びそのノイズありバージョンが、両者のタスクにおいてミニマックス最適であることを証明し、一般的に信じられている ERM が外挿に失敗するとされる考えに反論している。

ABSTRACT

A popular assumption for out-of-distribution generalization is that the training data comprises sub-datasets, each drawn from a distinct distribution; the goal is then to "interpolate" these distributions and "extrapolate" beyond them -- this objective is broadly known as domain generalization. A common belief is that ERM can interpolate but not extrapolate and that the latter is considerably more difficult, but these claims are vague and lack formal justification. In this work, we recast generalization over sub-groups as an online game between a player minimizing risk and an adversary presenting new test distributions. Under an existing notion of inter- and extrapolation based on reweighting of sub-group likelihoods, we rigorously demonstrate that extrapolation is computationally much harder than interpolation, though their statistical complexity is not significantly different. Furthermore, we show that ERM -- or a noisy variant -- is provably minimax-optimal for both tasks. Our framework presents a new avenue for the formal analysis of domain generalization algorithms which may be of independent interest.

研究の動機と目的

• ドメイン一般化における補間と外挿の計算的・統計的複雑性を正式に分析すること。
• ERM が外挿に失敗すると一般的に信じられているが、その背後にある理論的根拠を提示することで、その誤解を是正し、ERM の最適性を厳密に正当化すること。
• OOD一般化の評価に向けたワンショットミニマックスゲームの代替として、より洗練された代替手段としてオンライン学習フレームワークを提案すること。
• 尤度再重み付けが訓練ドメインを超えた外挿をモデル化するのに適切な形式化であるかどうかを調査すること。
• 環境損失関数の幾何構造が一般化性能に与える影響を調査すること。

提案手法

• 学習者がリスクを最小化し、敵対的選択者がテスト分布を選択するオンラインゲームとしてドメイン一般化を再定式化する。
• 補間を訓練環境の凸結合として、外挿を訓練分布の凸包を超えた尤度再重み付けとしてモデル化する。
• 最悪ケースのワンショットミニマックスゲームに代わり、オンライン設定におけるレグレット最小化を用いてアルゴリズムの性能を分析する。
• オンライン学習理論のツール（レグレットバウンド、ミニマックス最適性など）を適用し、理論的保証を導出する。
• 提案されたフレームワーク下で、ERM およびそのノイズありバージョンが、補間および外挿の両方においてミニマックス最適であることを証明する。
• 損失関数の幾何構造の役割を分析し、それが一般化性能に顕著に影響することを示し、表現学習によるさらなる改善の可能性を示唆する。

実験結果

リサーチクエスチョン

• RQ1 ドメイン一般化において、補間と外挿の計算的難易度を区別する形式的フレームワークは存在するか？
• RQ2 ERM が外挿に失敗すると広く信じられているにもかかわらず、実際にはなぜ良好に機能するのか？
• RQ3 オンライン学習は、最悪ケースのワンショットミニマックスゲームに比べ、OOD一般化の分析をより洗練された形で行えるか？
• RQ4 尤度再重み付けは、訓練ドメインを超えた外挿をモデル化するのに適切な形式化と見なせるか？
• RQ5 環境損失関数の幾何構造は、ドメイン一般化アルゴリズムの一般化性能にどのように影響するか？

主な発見

• 補間と比較して、外挿は計算的複雑性において指数関数的ギャップを示し、計算的にはるかに困難であるが、統計的複雑性は類似している。
• 提案されたオンラインフレームワーク下で、Empirical Risk Minimization (ERM) 及びそのノイズありバージョンが、補間および外挿の両方において、証明可能なミニマックス最適性を達成している。
• 一般的に信じられている ERM が外挿に失敗するとされる考えは、形式的根拠がなく、外挿領域においても ERM は最適のままである。
• 分布シフトの尤度再重み付けモデルは、一般の外挿に対して適切でない可能性があり、現在の形式化の再考が求められる。
• 環境損失関数の幾何構造は一般化性能に決定的な役割を果たしており、表現学習によってさらなる改善が可能であると示唆される。
• 提案されたオンラインゲームフレームワークは、最悪ケース評価に比べ、より洗練された性能信号を提供し、現実世界での期待性能をより的確に反映している。