[論文レビュー] Strategies for Conceptual Change in Convolutional Neural Networks

Maarten Grachten, Carlos Cancino-Chacón|arXiv (Cornell University)|Nov 5, 2017

Reinforcement Learning in Robotics参考文献 43被引用数 6

ひとこと要約

この論文は、新しいタスクやドメインに適応させる際の事前学習済み畳み込みニューラルネットワーク（CNN）特徴量の複数の戦略を評価し、特にソースタスクからの学習済みフィルタの選択的再利用が、ランダム初期化よりも学習を著しく高速化することを示している。主な発見は、初期畳み込み層のフィルタを保持し、より深い層を微調整することで、手書き数字、自然画像、音楽データのあらゆる分野で収束が速くなることである。

ABSTRACT

A remarkable feature of human beings is their capacity for creative behaviour, referring to their ability to react to problems in ways that are novel, surprising, and useful. Transformational creativity is a form of creativity where the creative behaviour is induced by a transformation of the actor's conceptual space, that is, the representational system with which the actor interprets its environment. In this report, we focus on ways of adapting systems of learned representations as they switch from performing one task to performing another. We describe an experimental comparison of multiple strategies for adaptation of learned features, and evaluate how effectively each of these strategies realizes the adaptation, in terms of the amount of training, and in terms of their ability to cope with restricted availability of training data. We show, among other things, that across handwritten digits, natural images, and classical music, adaptive strategies are systematically more effective than a baseline method that starts learning from scratch.

研究の動機と目的

• タスクやドメインを変更する際のCNNにおける学習済み表現の適応戦略を効果的に調査すること。
• トレーニング速度とデータ効率の観点から、ランダム初期化というベースラインと比較して適応戦略を評価すること。
• 手書き数字、自然画像、クラシカル音楽という多様なドメインにおける異なる適応手法のパフォーマンスを評価すること。
• ソースタスクの種別（分類 vs. 自動符号化）が適応効果に与える影響を評価すること。
• 動的学習シナリオにおいて、事前の正則化または選択的微調整のどちらが優れたパフォーマンスを発揮するかを特定すること。

提案手法

• 5つの適応戦略を提案・評価：(1) ランダム初期化（RESET）、(2) 最初の畳み込み層のフィルタのみを保持（RESET-FILTERS）、(3) 事前の正則化によるフィルタの制御（RESET PRF）、(4) モデル全体の再利用（RESET-FULL）、(5) 初期層を固定した微調整。
• CNNをまずソースタスク（例：分類または自動符号化）で事前学習し、その後ターゲットタスクに適応するマルチタスク学習フレームワークを採用。
• ソースドメインにおける階層的表現を学習するために畳み込みオートエンコーダーを適用し、転送に適した低レベル特徴を保持。
• 事前の正則化を実装し、ターゲットネットワークの初期畳み込みフィルタをソースタスクで学習されたものに偏らせる。
• 確率的勾配降下法、バッチ正則化、ReLU活性化関数を用いた標準的なトレーニングプロトコルを採用し、ハイパーパramータは予備段階で調整。
• 分類精度、カテゴリカル交差エントロピー損失、および平均二乗誤差（自動符号化損失）を用いて、ターゲットテストセットでのパフォーマンスを評価。

実験結果

リサーチクエスチョン

• RQ1 異なる適応戦略がランダム初期化と比較して、収束速度とデータ効率の観点でどのように異なるか？
• RQ2 ソースタスクの種別（分類 vs. 自動符号化）が、転送学習戦略の有効性に影響を与えるか？
• RQ3 事前のフィルタ正則化が、通常の正則化よりも転送シナリオで有効であるか？
• RQ4 初期層のフィルタを部分的に再利用することは、完全な微調整やランダム初期化よりも速い適応を可能にするか？
• RQ5 適応戦略は漸近的にどのように振る舞い、異なるデータドメインで同様のパフォーマンス水準に収束するか？

主な発見

• すべてのデータセットにおいて、適応戦略はランダム初期化を常に上回り、高い精度への収束が速い。
• ソースタスクの最初の畳み込み層フィルタを保持する戦略（RESET-FILTERS）が、特にソースタスクが分類の場合に最も一貫した向上を示す。
• モデル全体の再利用戦略（RESET-FULL）は、他の手法の漸近的パフォーマンスと同等の初期性能を達成するが、時間経過に伴う向上は限定的である。
• 事前の正則化（RESET PRF）は、ベースラインに対してやや向上するが、一貫性に欠け、多くの場合に限定的な利益にとどまる。
• ソースタスクが自動符号化の場合でも、RESET-FILTERS戦略は依然として良好な性能を示し、低レベル特徴の再利用がソースタスクの種別にかかわらず有効であることを示している。
• 単一の戦略が常に優れるわけではないが、選択的フィルタ再利用は、多様なドメインやタスクにおいて最も効果的かつ頑健なアプローチであると浮き彫りになった。