[論文レビュー] Tiny Transfer Learning: Towards Memory-Efficient On-Device Learning

Han Cai, Chuang Gan+2 more|arXiv (Cornell University)|Jul 22, 2020

Machine Learning and ELM被引用数 14

ひとこと要約

TinyTL は、特徴抽出器の重みを凍結し、バイアスのみを学習することで、中間活性化の保存を排除するメモリ効率の良いデバイス内転移学習手法です。軽量な残差モジュールと、離散的サブネット選択を伴う重み共有スーパーネットを用いることで、フルファインチューニングと比較して最大13.3倍低いメモリコストで高精度な適応が可能になります。

ABSTRACT

We present Tiny-Transfer-Learning (TinyTL), an efficient on-device learning method to adapt pre-trained models to newly collected data on edge devices. Different from conventional transfer learning methods that fine-tune the full network or the last layer, TinyTL freezes the weights of the feature extractor while only learning the biases, thus doesn't require storing the intermediate activations, which is the major memory bottleneck for on-device learning. To maintain the adaptation capacity without updating the weights, TinyTL introduces memory-efficient lite residual modules to refine the feature extractor by learning small residual feature maps in the middle. Besides, instead of using the same feature extractor, TinyTL adapts the architecture of the feature extractor to fit different target datasets while fixing the weights: TinyTL pre-trains a large super-net that contains many weight-shared sub-nets that can individually operate; different target dataset selects the sub-net that best match the dataset. This backpropagation-free discrete sub-net selection incurs no memory overhead. Extensive experiments show that TinyTL can reduce the training memory cost by order of magnitude (up to 13.3x) without sacrificing accuracy compared to fine-tuning the full network.

研究の動機と目的

• 特に中間活性化の保存に起因する、デバイス内ファインチューニングの高いメモリコストを軽減すること。
• リソース制限のあるエッジデバイス上で、事前学習済みモデルを新しいデータに効率的に適応できること。
• デバイス内学習中にメモリフットプリントを大幅に削減しながら、モデルの精度を維持すること。
• 特徴抽出器を逆誤差伝搬しない方法を採用することで、メモリオーバーヘッドを排除すること。

提案手法

• 特徴抽出器内のすべての畳み込み層および全結合層の重みを凍結し、バイアスのみを学習することで、活性化の保存を排除する。
• ネットワークの中間部で小さな残差特徴マップを学習する軽量な残差モジュールを導入し、適応能力を維持する。
• 複数の重み共有サブネットを備えたスーパーネットを構築し、それぞれが独立した推論が可能なようにする。
• バックプロパゲーションを伴わない離散的探索機構を用いて、各ターゲットデータセットに最適なサブネットを選択する。
• 選択されたサブネットの重みを固定し、バイアスのみを用いて最終的な分類器ヘッドをファインチューニングする。
• すべてのデータセットで同一の事前学習済みスーパーネットを用い、ターゲットデータごとに最適なマッチングサブネットを動的に選択する。

実験結果

リサーチクエスチョン

• RQ1 フルネットワークファインチューニングを避けることで、デバイス内転移学習のメモリ効率を著しく向上させられるか？
• RQ2 特徴抽出器の重みを更新しないまま、適応能力をどのように維持できるか？
• RQ3 1つの事前学習済みスーパーネットが、最小限のメモリオーバーヘッドで複数のターゲットデータセットをサポートできるか？
• RQ4 特徴抽出器の重みを凍結することで、メモリ削減と精度のトレードオフはどのように変化するか？
• RQ5 勾配ベースの適応に代わって、離散的サブネット選択が追加のメモリコストを発生させずに実現できるか？

主な発見

• TinyTL は、フルネットワークファインチューニングと比較して、最大13.3倍のトレーニングメモリコスト削減を達成し、精度に劣化がない。
• 特徴抽出器の重みを凍結し、バイアスのみを学習することで、中間活性化の保存が必要なくなる。これは主なメモリボトルネックである。
• 軽量な残差モジュールの使用により、本体ネットワークの重みを更新しないまま効果的な適応が可能になる。
• バックプロパゲーションを伴わない離散的サブネット選択により、追加のメモリオーバーヘッドが生じない。
• 特徴抽出器を凍結しても、多様なデータセットで競争力のある精度を維持する。
• スーパーネットアーキテクチャにより、最も適したサブネットを選択することで、異なるターゲットデータセットへの動的適応が可能になる。