[論文レビュー] Curriculum Learning of Multiple Tasks

Anastasia Pentina, Viktoriia Sharmanska+1 more|arXiv (Cornell University)|Dec 3, 2014

Domain Adaptation and Few-Shot Learning参考文献 30被引用数 5

ひとこと要約

本稿では、関連するタスクを最適な順序で学習することで汎化性能を向上させる、順次的マルチタスク学習フレームワークを提案する。PAC-Bayesian汎化境界を用いて自動的に最も効果的なカリキュラムを同定する。この手法は、ジョイント学習や独立学習を上回り、タスクの関連性が変動する状況でも優れた性能を示し、画像分類ベンチマークでも優れた性能を発揮する。

ABSTRACT

Sharing information between multiple tasks enables algorithms to achieve good generalization performance even from small amounts of training data. However, in a realistic scenario of multi-task learning not all tasks are equally related to each other, hence it could be advantageous to transfer information only between the most related tasks. In this work we propose an approach that processes multiple tasks in a sequence with sharing between subsequent tasks instead of solving all tasks jointly. Subsequently, we address the question of curriculum learning of tasks, i.e. finding the best order of tasks to be learned. Our approach is based on a generalization bound criterion for choosing the task order that optimizes the average expected classification performance over all tasks. Our experimental results show that learning multiple related tasks sequentially can be more effective than learning them jointly, the order in which tasks are being solved affects the overall performance, and that our model is able to automatically discover the favourable order of tasks.

研究の動機と目的

• 関連のないタスクが負の転送を引き起こす可能性があるため、ジョイントマルチタスク学習の限界を克服する。
• 以前に学習したタスクからの知識を段階的に転送することで、低データ環境における汎化性能を向上させる。
• 汎化境界に基づいて理論的に裏付けられた手法を構築し、タスクの学習順序を自動的に最適化する。
• 順次学習とカリキュラム順序付けが、独立学習およびジョイント学習の両方を上回ることを実証する。

提案手法

• 各タスクを、直前のタスクのモデルをインダクティブバイアスとして用いて学習する順次的マルチタスク学習アプローチを定式化する。
• 連続するタスク間の重みベクトルの距離とデータ表現に依存するPAC-Bayesian汎化境界を用い、カリキュラム学習をガイドする。
• 汎化境界に基づく基準を定義し、すべてのタスクの期待誤差を最小化するタスク順序をランク付け・選択する。
• アルゴリズム1（MultiSeqMT）を提案し、モデル重みの再帰的更新を用いて汎化境界を最小化することで最適なシーケンスを計算する。
• 複数の部分列を扱えるように拡張し、動的再順序付けと非効率なパスの pruning を可能にするアルゴリズム2を提案する。
• L2正則化を用いた線形分類器にこの手法を適用し、重みベクトル間のユークリッド距離によってタスクの関連性をモデル化する。

実験結果

リサーチクエスチョン

• RQ1 以前のタスクからの知識転送を段階的に行うことで、ジョイント学習と比較して汎化性能が向上するか？
• RQ2 タスクの学習順序がマルチタスク学習全体の性能に顕著に影響を与えるか？
• RQ3 汎化境界に基づく理論的裏付けのある基準を用いて、最適なカリキュラムの順序を自動的に同定できるか？
• RQ4 分類精度の観点から、提案手法の順次的アプローチは独立学習、ジョイント学習、およびランダム順序と比較してどのように差がつくか？
• RQ5 本手法は、タスクの関連性の程度が変動する状況に対し、関連性が低いタスクによる負の転送を回避できる程度まで適応可能か？

主な発見

• 順次学習とカリキュラム順序付けは、AwAおよびShoesの両データセットでジョイントマルチタスク学習を一貫して上回り、平均誤差率が低かった。
• AwAデータセットでは、提案手法のSeqMTが平均誤差率23.86% ± 0.33を達成し、ジョイントMT手法（24.16% ± 0.35）およびベースラインのIndSVM（26.34% ± 0.31）を上回った。
• 本手法は、すべてのクラスで性能向上をもたらす好適なカリキュラム順序を自動的に同定し、最良のシーケンスでは平均誤差率23.35% ± 0.38を達成した。
• 20回のランダムな繰り返しにおいて、標準誤差が低く安定しており、タスク順序の最適化が信頼性高く実行されたことを示した。
• ランダムまたはヒューリスティックな順序付けと比較して、カリキュラムベースのアプローチは、特に難易度が高く、関連性が低いタスクにおいて誤差率を顕著に低減した。
• PAC-Bayesian汎化境界の使用により、期待リスクを最小化するタスクシーケンスを効果的に優先することができ、本手法の理論的基盤が裏付けられた。