[論文レビュー] Curriculum Learning: A Survey

Petru Soviany, Radu Tudor Ionescu+2 more|arXiv (Cornell University)|Jan 25, 2021

Machine Learning and Data Classification被引用数 4

ひとこと要約

本調査は、機械学習におけるカリキュラム学習（CL）の包括的概要を提供し、その原則を形式化し、学習フレームワークのコアな要素と結びつける。複数の視点からの分類体系と階層的クラスタリングを提示し、サンプル順序付けとペース設定の課題を特定するとともに、自動カリキュラム制御や進化的探索のような代替最適化アルゴリズムとの統合を含む今後の方向性を提案する。

ABSTRACT

Training machine learning models in a meaningful order, from the easy samples to the hard ones, using curriculum learning can provide performance improvements over the standard training approach based on random data shuffling, without any additional computational costs. Curriculum learning strategies have been successfully employed in all areas of machine learning, in a wide range of tasks. However, the necessity of finding a way to rank the samples from easy to hard, as well as the right pacing function for introducing more difficult data can limit the usage of the curriculum approaches. In this survey, we show how these limits have been tackled in the literature, and we present different curriculum learning instantiations for various tasks in machine learning. We construct a multi-perspective taxonomy of curriculum learning approaches by hand, considering various classification criteria. We further build a hierarchical tree of curriculum learning methods using an agglomerative clustering algorithm, linking the discovered clusters with our taxonomy. At the end, we provide some interesting directions for future work.

研究の動機と目的

• 異なる機械学習タスクやアーキテクチャにわたるカリキュラム学習のアプローチを統一的に形式化するための、単一の汎用フレームワークへの統合。
• サンプルの難易度順に並べ替えが困難であることや、最適なペース設定関数の選定が難しいといった、カリキュラム学習の限界を克服すること。
• 分類基準に基づいて、データタイプ、学習目的、カリキュラム戦略などの観点から、カリキュラム学習手法の体系的分類体系と階層的クラスタリングを提供すること。
• 特にビジョントランスフォーマーや医療画像処理といった新興分野において、未だ十分に検討されていない研究分野を特定すること。
• ディープラーニングワークフローにおける利点と統合の課題を明確にすることで、カリキュラム学習の広範な採用を促進すること。

提案手法

• データタイプ、学習目的、カリキュラム戦略などの分類基準に基づき、カリキュラム学習手法の多視点的分類体系を構築する。
• 類似するカリキュラム学習手法をグループ化するための凝集型クラスタリングを適用し、分類体系と関連付ける階層的ツリーを構築する。
• 任意の機械学習アプローチの4大要素（データ、モデル、最適化、評価）と統合された、カリキュラム学習の汎用的定式化を提案する。
• 物体検出、画像分類、ニューラル機械翻訳など、多様なタスクにおける既存のCL実装をレビューする。
• ハード例題マイニングやアンチカリキュラム学習といった対照的な戦略と比較して、カリキュラム学習のトレードオフを分析する。
• 今後の研究方向性として、自動カリキュラム制御や、進化的アルゴリズムのような非SGD最適化手法とのCL統合を提案する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、多様な機械学習タスクやアーキテクチャにわたるカリキュラム学習を形式的に統一できるか？
• RQ2 サンプル順序付けとペース設定関数の設計において、カリキュラム学習の実装に際して主な課題は何か？
• RQ3 ハード例題マイニングやアンチカリキュラム学習といった代替訓練戦略と比較して、カリキュラム学習はどのように異なるか？
• RQ4 ビジョントランスフォーマーや医療画像処理といった新興の機械学習分野において、カリキュラム学習が最も期待される分野はどこか？
• RQ5 手動による干渉を最小限に抑える、自動的かつ適応的なカリキュラムスケジューリングを実現するためのメカニズムは何か？

主な発見

• カリキュラム学習は、コンピュータビジョン、自然言語処理、音声認識を含む複数の分野で、訓練収束速度の向上と最終的なモデル精度の向上を一貫して実現する。
• 本調査では、広範な採用の主な障壁が、簡単な例から難しい例への自動順序付けの難しさと、より難しいサンプルを導入する最適なペースの特定の困難さにあると特定している。
• その利点にもかかわらず、カリキュラム学習の不適切な実装は、モデルが局所的最適解に閉じ込められる収束問題を引き起こす可能性がある。
• ビジョントランスフォーマーや医療画像処理データセットは、画像の複雑さやラベル品質に基づくデータレベルのカリキュラムを用いる場合、有望だが未だ十分に検討されていない応用分野である。
• 現在のNLP分野におけるカリキュラム戦略は、主にテキスト長さのような単純なヒューリスティクスに依存しているため、語彙の複雑さや文法的構造に基づく、より人間の学習に近いカリキュラムの必要性が示唆される。
• 今後のカリキュラム学習と代替最適化アルゴリズム（例：進化的探索）の統合により、標準的なSGDとより高度な最適化手法との間のパフォーマンスギャップを埋められる可能性がある。