[論文レビュー] Transfer Learning with Neural AutoML

Catherine Wong, Neil Houlsby+2 more|arXiv (Cornell University)|Mar 7, 2018

Machine Learning and Data Classification被引用数 41

ひとこと要約

Transfer Neural AutoMLはマルチタスク学習を活用してアーキテクチャ探索の事前知識を学習し、NLPと画像分類タスク間でコントローラとタスク埋め込みを転送することにより、新しいタスクでの収束時間を大幅に削減します。

ABSTRACT

We reduce the computational cost of Neural AutoML with transfer learning. AutoML relieves human effort by automating the design of ML algorithms. Neural AutoML has become popular for the design of deep learning architectures, however, this method has a high computation cost. To address this we propose Transfer Neural AutoML that uses knowledge from prior tasks to speed up network design. We extend RL-based architecture search methods to support parallel training on multiple tasks and then transfer the search strategy to new tasks. On language and image classification tasks, Transfer Neural AutoML reduces convergence time over single-task training by over an order of magnitude on many tasks.

研究の動機と目的

• 事前タスクからの知識を活用して Neural AutoML の計算コストを削減する。
• 並列のマルチタスク学習をサポートするように RL ベースのアーキテクチャ探索を拡張する。
• マルチタスクコントローラとタスク埋め込みを介してタスク認識的な事前知識を学習し、新しいタスクへの適応を加速する。
• テキストおよび画像分類タスクでコントローラの転移性を示す。

提案手法

• アーキテクチャを離散的な行動として生成するコントローラ（RNN）を用いた Neural Architecture Search (NAS) を使用する。
• 共有コントローラパラメータとタスクごとの埋め込みを用いてモデル生成を条件付けするマルチタスク Neural AutoML を実装する。
• タスク間でバランスのとれた勾配更新を行うため、利得正規化（中心化・スケーリングされた報酬）を適用する。
• 複数のタスクでマルチタスクコントローラを事前訓練して汎用的な事前知識を学習する。
• コントローラパラメータを再利用し新しいタスク埋め込みを追加して新しいタスクへ転移し、その後探索を再開する。
• NLPおよび画像データセット全体で topN の検証/テスト性能と収束速度で評価する。

実験結果

リサーチクエスチョン

• RQ1 マルチタスクRLベースのAutoMLコントローラはアーキテクチャとハイパーパラメータに対して転移可能な事前知識を学習できるか？
• RQ2 新しいNLPおよび画像タスクのモデル設計において転移は収束をどれだけ速くできるか？
• RQ3 タスク埋め込みがアーキテクチャをタスク固有の要求に合わせる上での役割は何か？
• RQ4 ドメインを跨いだ探索コストを削減しつつ、転移AutoMLは競争力のある精度を維持するか？
• RQ5 転移学習はタスク間の過剰適合とロバスト性にどのように影響するか？

主な発見

• Transfer Neural AutoML は複数のNLPデータセットにおいて、単一タスク AutoML およびランダム探索と比較して収束時間を大幅に削減する。
• NLPタスクでは、転移AutoMLは通常、はるかに少ない試行数で同じ検証精度に到達し、しばしば桁違いに少なくなる。
• Transfer AutoMLは固定の試行予算で競争力のあるテスト精度を達成し、同じ予算内でしばしば単一タスク AutoML を上回る。
• 画像分類（CIFAR-10）では、転移されたコントローラは収束が速く、非転移法と同様の高い top-10 精度を達成する。
• タスク埋め込みはタスク固有の適応とタスク類似性の学習を可能にし、コントローラを適切なモデル構成へと導く。
• マルチタスク学習は解釈可能なタスククラスタと、類似タスク間で一貫したアーキテクチャパターンを生み出す。