[論文レビュー] SpotTune: Transfer Learning through Adaptive Fine-tuning

Yunhui Guo, Humphrey Shi+4 more|arXiv (Cornell University)|Nov 21, 2018

Domain Adaptation and Few-Shot Learning参考文献 43被引用数 42

ひとこと要約

SpotTune は事前学習済みネットワークの個別インスタンス用ファインチューニング方針を学習し、入力を凍結済み層かファインチューニング済み層のいずれかへルーティングして、様々なデータセットで転移学習の性能を向上させます。

ABSTRACT

Transfer learning, which allows a source task to affect the inductive bias of the target task, is widely used in computer vision. The typical way of conducting transfer learning with deep neural networks is to fine-tune a model pre-trained on the source task using data from the target task. In this paper, we propose an adaptive fine-tuning approach, called SpotTune, which finds the optimal fine-tuning strategy per instance for the target data. In SpotTune, given an image from the target task, a policy network is used to make routing decisions on whether to pass the image through the fine-tuned layers or the pre-trained layers. We conduct extensive experiments to demonstrate the effectiveness of the proposed approach. Our method outperforms the traditional fine-tuning approach on 12 out of 14 standard datasets.We also compare SpotTune with other state-of-the-art fine-tuning strategies, showing superior performance. On the Visual Decathlon datasets, our method achieves the highest score across the board without bells and whistles.

研究の動機と目的

• 事前学習済みネットの転移学習と個々のインスタンスの適応決定を結合することで、標準的なファインチューニングを上回る改善を動機づける。
• 各入力ごとに、どの残差ブロックをファインチューニングするか freezing するかを決定する軽量なポリシー網を提案する。
• 離散的なルーティング決定を微分可能に学習するために、Gumbel-Softmax を用いた訓練メカニズムを導入する。
• パラメータ数を削減するために、固定されたブロック集合にファインチューニングを制約するグローバルポリシーの派生を検討する。

提案手法

• 各残差ブロックを、凍結された事前学習済み版と、事前学習済みブロックから初期化された訓練可能な複製ブロックで表す。
• ポリシー網を介して、各ブロックごとに I_l(x)（freeze or fine-tune）という per-instance の二値決定を学習する。
• 離散決定を介した逆伝播を可能にするため、Gumbel-Softmax 分布から I_l(x) をサンプルする。
• 標準の分類損失を用いてターゲットタスクとポリシー網を共同訓練し、Gumbel-Softmax には Straight-Through 推定器を用いる。
• 任意で、すべての入力が同じ k 個のファインチューニング済みブロックを使用するよう制約する圧縮グローバルポリシーを課し、二値化を促す補助損失を追加する。
• 未使用の事前学習済みブロックを捨てることでパラメータを削減する global-k バリアントを提供する。

実験結果

リサーチクエスチョン

• RQ1 事例ごとに入力を事前学習済みブロックとファインチューニング済みブロックの間でルーティングすることで、均一なファインチューニング戦略より転移学習の性能を向上させることができるか？
• RQ2 特定のブロックのサブセットを固定するグローバルポリシーは、パラメータを削減しつつ競争力のある精度を達成するか？
• RQ3 SpotTune は多様なデータセットおよび Visual Decathlon ベンチマークにおいて、最先端のファインチューニング手法とどう比較されるか？
• RQ4 タスクを横断してブロックの使用を可視化したとき、学習したファインチューニングポリシーについてどんな知見が得られるか？

主な発見

• SpotTune は検証データセット14件中12件で標準のファインチューニングを上回る。
• アーキテクチャを変更せずに、比較対象手法の中で最も高い Visual Decathlon スコアを達成する。
• 個別インスタンスポリシーはデータセット固有および例固有のルーティング決定を生み出し、より良い特徴再利用と適応を可能にする。
• コンパクトな global-k バリアントはパラメータを削減しつつ高い性能を維持し、いくつかの last-k ファインチューニングのベースラインを上回る。
• L2-SP はファインチューニング性能を高めるが SpotTune に及ばず、かつ SpotTune と補完的である。
• 可視化はデータセット全体で多様なファインチューニングポリシーを示し、非連続的および入力依存のファインチューニングが有利であることを示唆している。