[論文レビュー] Dynamic-Net: Tuning the Objective Without Re-training.

Alon Shoshan, Roey Mechrez+1 more|arXiv (Cornell University)|Nov 21, 2018

Generative Adversarial Networks and Image Synthesis参考文献 22被引用数 2

ひとこと要約

この論文では、推論時に学習可能なスカラー重みを用いて2つの損失関数を動的に組み合わせることで、CNNの目的関数をトレーニング後にもリアルタイムに変更できるDynamic-Netという手法を紹介している。再トレーニングを必要とせず、ユーザーがリアルタイムにネットワークの挙動をインタラクティブにチューニング可能となり、モデルのパフォーマンスを維持したまま柔軟性が向上する。

ABSTRACT

One of the key ingredients for successful optimization of modern CNNs is identifying a suitable objective. To date, the objective is fixed a-priori at training time, and any variation to it requires re-training a new network. In this paper we present a first attempt at alleviating the need for re-training. Rather than fixing the network at training time, we train a that can be modified at inference time. Our approach considers an as the space of all linear combinations of two objectives, and the Dynamic-Net is emulating the traversing of this objective-space at test-time, without any further training. We show that this upgrades pre-trained networks by providing an out-of-learning extension, while maintaining the performance quality. The solution we propose is fast and allows a user to interactively modify the network, in real-time, in order to obtain the result he/she desires. We show the benefits of such an approach via several different applications.

研究の動機と目的

• 事前学習済みCNNの目的関数が固定されているという制限を解消すること。これは、目的関数を変更するたびに再トレーニングが必要となるためである。
• トレーニング後に実行時におけるネットワーク挙動の適応を可能にすること。再トレーニングやファインチューニングを必要としない。
• 最適化目的を変更することで、推論時にユーザーがモデル挙動をインタラクティブに制御できること。
• トレーニング後の目的関数の変更において、高いパフォーマンス品質を維持すること。

提案手法

• 目的空間を、2つの事前に定義された損失関数のすべての線形結合の集合として定式化する。
• 推論時に導入される軽量で学習可能なスカラーパラメータを用いて、2つの目的を動的に重み付けする。
• ネットワークは固定された目的関数で一度だけトレーニングされるが、推論時にはスカラー重みを調整することで、目的空間内の異なる点を探索する。
• 動的重み付けにより、追加のトレーニングやモデルの再初期化なしに、リアルタイムでの挙動調整が可能である。
• 事前学習済みネットワークに適用され、ユーザーの好みに応じてモデル出力をインタラクティブにチューニング可能である。
• 計算効率が高く、推論フェーズ内でのみ動作するため、推論速度を維持する。

実験結果

リサーチクエスチョン

• RQ1 事前学習済みCNNを、再トレーニングを伴わずに推論時に動的に再構成し、異なる目的関数を最適化できるか？
• RQ2 動的目的関数重み付けは、多様な推論時要件に対応するモデルの柔軟性を向上させるのにどの程度有効か？
• RQ3 目的関数をトレーニング後に変更した場合、提案手法はモデルパフォーマンスを維持するか、低下させるか？
• RQ4 ユーザーはリアルタイムでネットワーク挙動をインタラクティブにチューニングし、望ましい出力を得られるか？

主な発見

• Dynamic-Netは、再トレーニングを伴わず、推論時に目的関数を変更することで、事前学習済みCNNのリアルタイムかつインタラクティブなチューニングを可能にする。
• この手法は、さまざまな目的関数の組み合わせにおいて、元の事前学習済みモデルのパフォーマンス品質を維持する。
• 既存のモデルに即座に適用可能な実用的な拡張であり、ユーザー定義の目的関数への適応性を高める。
• 動的目的関数調整は計算効率が高く、リアルタイムで動作するため、インタラクティブなアプリケーションに適している。