[論文レビュー] Deep Energy: Using Energy Functions for Unsupervised Training of DNNs

Alona Golts, Daniel Z. Freedman+1 more|arXiv (Cornell University)|May 31, 2018

Advanced Neural Network Applications参考文献 66被引用数 6

ひとこと要約

この論文では、外部で定義されたエネルギー関数を活用することで、ラベルなしデータを用いて深層ニューラルネットワークを訓練する手法であるDeep Energyを提案する。この手法により、画像セグメンテーションやマットイングといったタスクにおける教師なし学習が可能となり、エネルギー最小化を介して畳み込みニューラルネットワーク（CNN）をエンドツーエンドで訓練し、1回のフォワードパスによる高速な推論フェーズで高品質な結果が得られる。

ABSTRACT

The success of deep learning has been due in no small part to the availability of large annotated datasets. Thus, a major bottleneck in the current learning pipeline is the human annotation of data, which can be quite time consuming. For a given problem setting, we aim to circumvent this issue via the use of an externally specified energy function appropriate for that setting; we call this the Deep Energy approach. We show how to train a network on an entirely unlabelled dataset using such an energy function, and apply this general technique to learn CNNs for two specific tasks: seeded segmentation and image matting. Once the network parameters have been learned, we obtain a high-quality solution in a fast feed-forward style, without the need to repeatedly optimize the energy function for each image.

研究の動機と目的

• 深層学習における人為的ラベルデータのボトルネックを解消するため、教師なしで深層ネットワークを訓練すること。
• 外部から指定されたエネルギー関数を用いて、ラベルなしデータセット上でネットワークの訓練をガイドする汎用フレームワークの開発。
• 特定のビジョンタスク、例えばシード付きセグメンテーションや画像マットイングへの応用。
• トレーニング後、画像ごとの反復的最適化を経ずに高品質な推論結果を達成すること。

提案手法

• ネットワークの訓練を、ラベルなし入力上に定義されたデータ依存のエネルギー関数の最小化問題として定式化する。
• バックプロパゲーションをエネルギー関数を介して適用することで、ラベルなしの状態でエンドツーエンドの訓練が可能になる。
• エネルギー関数は、セグメンテーションやマットイングのタスク固有の事前知識（例：滑らかさや一貫性制約）を表現する。
• ネットワークは、データセット全体でエネルギー関数を最小化する出力を予測するように訓練される。
• トレーニング後、推論は反復的なエネルギー最適化を繰り返さずに、単一のフォワードパスで実行される。

実験結果

リサーチクエスチョン

• RQ1 外部から指定されたエネルギー関数を用いて、ラベルなしデータ上で深層ニューラルネットワークを効果的に訓練できるか？
• RQ2 このような手法は、画像マットイングやシード付きセグメンテーションのような複雑なビジョンタスクにどれほど一般化できるか？
• RQ3 トレーニング後、反復的リファインメントを経ずに、1回のフォワードパスで高品質な結果を出力できるか？
• RQ4 Deep Energyのアプローチは、教師ありベースラインと比較して、教師なし学習タスクでどの程度の性能を示すか？

主な発見

• Deep Energyアプローチは、エネルギー関数のみを用いてラベルなしデータ上でCNNを効果的に訓練でき、人為的ラベルの必要性を完全に排除した。
• シード付きセグメンテーションおよび画像マットイングタスクにおいて、競争力のある性能を達成しており、一部のケースでは教師ありベースラインを上回った。
• 推論は反復的エネルギー最小化よりも著しく高速であり、トレーニング後は単一のフォワードパスで十分である。
• トレーニング済みのネットワークは、未学習の画像に対しても良好に一般化し、画像ごとの最適化を経ずに高品質な出力を生成した。