[論文レビュー] Towards a theory of out-of-distribution learning

Ali Geisa, Ronak Mehta+5 more|arXiv (Cornell University)|Sep 29, 2021

Machine Learning and Algorithms参考文献 60被引用数 4

ひとこと要約

この論文は、学習理論における従来の分布内仮定を緩和することで、分布外（OOD）学習の一般化理論を提唱する。学習効率（LE）をデータ活用の指標として導入し、転移学習、マルチタスク学習、メタ学習、継続的学習、生涯学習を共通の枠組みで統一し、AIにおける現実世界のOOD課題に対する理論的基盤を提供する。

ABSTRACT

What is learning? 20 century formalizations of learning theory -- which precipitated revolutions in artificial intelligence -- focus primarily on extit{in-distribution} learning, that is, learning under the assumption that the training data are sampled from the same distribution as the evaluation distribution. This assumption renders these theories inadequate for characterizing 21$^{st}$ century real world data problems, which are typically characterized by evaluation distributions that differ from the training data distributions (referred to as out-of-distribution learning). We therefore make a small change to existing formal definitions of learnability by relaxing that assumption. We then introduce extbf{learning efficiency} (LE) to quantify the amount a learner is able to leverage data for a given problem, regardless of whether it is an in- or out-of-distribution problem. We then define and prove the relationship between generalized notions of learnability, and show how this framework is sufficiently general to characterize transfer, multitask, meta, continual, and lifelong learning. We hope this unification helps bridge the gap between empirical practice and theoretical guidance in real world problems. Finally, because biological learning continues to outperform machine learning algorithms on certain OOD challenges, we discuss the limitations of this framework vis-a-vis its ability to formalize biological learning, suggesting multiple avenues for future research.

研究の動機と目的

• 現実世界のデータシフトをモデル化する上で、従来の分布内学習理論の限界を解決すること。
• 訓練データと評価データが同一分布に従うという仮定を緩和することで、分布外学習を形式的に定式化すること。
• 学習効率（LE）を、分布シフトにかかわらず学習者がいかに効果的にデータを利用しているかを測る指標として導入すること。
• 転移学習、マルチタスク学習、メタ学習、継続的学習、生涯学習といった多様な学習パラダイムを、一般化された学習可能性フレームワークの下で統一すること。
• 生物学的学習のモデル化における理論的ギャップを特定し、今後の研究の方向性を示すこと。

提案手法

• 標準的な学習可能性の定義から分布内仮定を除去することで、分布シフトの分析を可能にする。
• LEを、分布内および分布外の両設定においてデータ活用の定量的指標として導入する。
• LEを用いて一般化学習可能性を定義し、異なる学習状態間の数学的関係を確立する。
• 一般化理論の枠組みを用いて、転移学習、マルチタスク学習、メタ学習、継続的学習、生涯学習を一般理論の特殊ケースとして分析する。
• 形式的定義と証明を用いて、さまざまな学習パラダイムにわたる一貫性と一般性を示す。
• 生物学的学習のモデル化におけるフレームワークの限界を比較し、未解決の課題を強調する。

実験結果

リサーチクエスチョン

• RQ1 既存の学習理論は、どのようにして分布外一般化を扱えるように拡張できるか？
• RQ2 分布外学習の状況において、データ活用を効果的に定量化するための指標は何か？
• RQ3 転移学習、マルチタスク学習、メタ学習、継続的学習、生涯学習は、どのようにして単一の理論的枠組みの下で統一できるか？
• RQ4 学習効率（LE）は、異なる学習状態において一般化学習可能性とどのように関係するか？
• RQ5 このフレームワークは、生物学的学習プロセスのモデル化において、どのような理論的限界を有するか？

主な発見

• 提案されたフレームワークは、分布内仮定を除去することで、従来の学習可能性理論を一般化し、現実世界の分布シフトの分析を可能にする。
• 学習効率（LE）が、分布シフトにかかわらず学習者がデータをいかに効果的に活用しているかを測る強固な指標として導入される。
• フレームワークは、転移学習、マルチタスク学習、メタ学習、継続的学習、生涯学習を、単一の理論的枠組みの下で成功裏に統一する。
• 形式的証明により、一般化学習可能性と学習効率の関係が確立され、フレームワークの一貫性が検証される。
• 理論は、生物学的学習のモデル化における主要な限界を特定し、現在の形式化が生物学的インダクティブバイアスの全貌を捉えていないことを示唆する。
• 本研究は、分布シフトを伴う現実世界のAI応用において、理論的指針と実証的実践を一致させる基盤を提供する。