[論文レビュー] Learning Model Bias

Jonathan Baxter|arXiv (Cornell University)|Nov 14, 2019

Machine Learning and Algorithms参考文献 5被引用数 24

ひとこと要約

本稿では、複数の関連するタスクで学習することでドメイン固有のバイアスを自動的に学習する手法を提案し、タスク数を増やすことで汎化性能が著しく向上することを示している。主な理論的結果として、良好な汎化に必要な各タスクあたりの例の数が $O(a + \frac{b}{n})$ に比例することを示しており、$n$ はタスク数を表す。これは、タスク間での共有表現学習がサンプル複雑性を低減することを示している。

ABSTRACT

In this paper the problem of {\em learning} appropriate domain-specific bias is addressed. It is shown that this can be achieved by learning many related tasks from the same domain, and a theorem is given bounding the number tasks that must be learnt. A corollary of the theorem is that if the tasks are known to possess a common {\em internal representation} or {\em preprocessing} then the number of examples required per task for good generalisation when learning $n$ tasks simultaneously scales like $O(a + \frac{b}{n})$, where $O(a)$ is a bound on the minimum number of examples required to learn a single task, and $O(a + b)$ is a bound on the number of examples required to learn each task independently. An experiment providing strong qualitative support for the theoretical results is reported.

研究の動機と目的

• 機械学習におけるバイアスの手動による設計の課題に取り組むこと。これは、専門知識の限界と移植性の欠如に起因する。
• 共有環境内での複数の関連タスクから自動的にバイアスを学ぶための形式的フレームワークを構築すること。
• 複数の関連タスクを学習することで、汎化可能な共有表現が得られ、タスク間での汎化性能が向上することを示すこと。
• 複数のタスクを同時に学習する場合に、各タスクあたりに必要な例の数の理論的境界を導出すること。

提案手法

• 学習環境を、タスクの集合 $\cal P$ とその上での分布 $Q$ のペア $({\cal P}, Q)$ としてモデル化する。
• 共有表現ネットワーク $f$ とタスク固有の出力ネットワーク $g_i$ を備えたニューラルネットワークアーキテクチャを用い、複数のタスクを同時に学習する。
• $n$ 個のタスクにおける経験的誤差を $\hat{E}^*(\cal H, D_1, \dots, D_n) = \frac{1}{n} \sum_{i=1}^n \inf_{h \in \cal H} \hat{E}(h, D_i)$ と定義し、仮説空間全体で最小化する。
• 2つの指標を用いて汎化誤差を測定する：$E^n$ は $n$ 個の学習タスクの誤差、$E^*(\cal H, Q)$ は環境から抽出された新しいタスクの誤差。
• $n$ 個の学習セット $D_1, \dots, D_n$ を、$Q$ から抽出されたタスク $P_i$ からサンプリングし、バックプロパゲーションアルゴリズムを用いてネットワークを学習する。
• 学習後、共有表現ネットワーク $f$ を抽出し、環境内に存在するすべての関数に対してその性能を評価することで、真の誤差 $E^*(\cal H, Q)$ を評価する。

実験結果

リサーチクエスチョン

• RQ1 専門家が提供するヒューリスティクスに依存せず、複数の関連タスクから自動的にバイアスを学習できるか？
• RQ2 タスク数 $n$ が、良好な汎化に必要な各タスクあたりの例の数にどのように影響するか？
• RQ3 複数のタスクを学習することで、同じ環境内での新しいタスクにうまく汎化する共有表現が得られるか？
• RQ4 複数のタスクを同時に学習する場合のサンプル複雑性について、どのような理論的境界を導出できるか？

主な発見

• 良好な汎化に必要な各タスクあたりの例の数は、$O(a + \frac{b}{n})$ に比例する。ここで $a$ は単一タスクに必要な最小例数、$b$ はタスク固有の複雑性を表す。
• 13 個のタスクを学習した場合、共有表現ネットワークは 1 タスクあたり 31 例で、すべての対称的ブール関数において完全な汎化を達成した。
• $n=1$ の場合、表現は対称性を捉えられず、1 の数が 2 つ、3 つ、4 つの入力を区別できず、バイアス学習が不十分であった。
• $n=5$ の場合、表現は入力の1の数に基づいて分離し始め、タスク数の増加に伴い段階的な改善が見られた。
• 共有表現の真の誤差 $E^*(\cal H, Q)$ は $n$ の増加に伴い単調に減少し、理論的予測を確認した。
• 実験により、多数のタスクから学習した表現は新しいタスクに対してもうまく汎化され、新しい学習タスクにおけるサンプル負荷が軽減されることが確認された。