[論文レビュー] AM-LFS: AutoML for Loss Function Search

Chuming Li, Xin Yuan+5 more|arXiv (Cornell University)|May 17, 2019

Advanced Image and Video Retrieval Techniques参考文献 44被引用数 13

ひとこと要約

AM-LFSは、トレーニング中に最適な損失関数を探索するためのREINFORCEベースの強化学習を用いるAutoMLフレームワークを提案する。統一された探索空間を活用し、代表的な損失関数を統合し、バイレベル最適化により損失関数パラメータを動的に最適化することで、アーキテクチャの変更なしに画像分類、顔認識、人物再識別ベンチマークで最先端の性能を達成する。

ABSTRACT

Designing an effective loss function plays an important role in visual analysis. Most existing loss function designs rely on hand-crafted heuristics that require domain experts to explore the large design space, which is usually sub-optimal and time-consuming. In this paper, we propose AutoML for Loss Function Search (AM-LFS) which leverages REINFORCE to search loss functions during the training process. The key contribution of this work is the design of search space which can guarantee the generalization and transferability on different vision tasks by including a bunch of existing prevailing loss functions in a unified formulation. We also propose an efficient optimization framework which can dynamically optimize the parameters of loss function's distribution during training. Extensive experimental results on four benchmark datasets show that, without any tricks, our method outperforms existing hand-crafted loss functions in various computer vision tasks.

研究の動機と目的

• 手動で設計された損失関数の限界、すなわち最適でなく、時間がかかり、タスクに特化しているという問題を解決すること。
• 多様なビジョンタスクに適用可能な汎用的かつ転送可能な損失関数の探索空間を構築すること。
• トレーニング中にネットワークと損失関数の両方のパラメータを同時に最適化する効率的なバイレベル最適化フレームワークを設計すること。
• 再トレーニングなしに動的損失関数の適応を可能にするエンドツーエンドのトレーニングを実現し、モデルの識別性能を向上させること。

提案手法

• 既存の損失関数（例：ソフトマックス、マージンベース、フォーカル損失）をパラメータ化された定式化に統合し、例の難易度に応じて勾配を調整する。
• 損失関数のパラメータを微分可能確率分布としてモデル化し、REINFORCEを用いた勾配ベースの最適化を可能にする。
• バイレベル最適化フレームワークを採用：内側のループでは、サンプルされた損失をネットワーク重みに関して最小化し、外側のループでは、検証性能（例：正確度、mAP）を損失分布パラメータに関して最大化する。
• 例を難易度に応じて区間に割り当てることで、クラス内距離とクラス間距離のバランスを動的に調整し、各区間ごとにパラメータを最適化する。
• エンドツーエンドでトレーニングされ、アーキテクチャの変更を必要とせず、既存のモデルに即座に統合可能である。
• 分布パラメータの収束をモニタリングすることで、訓練の安定性を確保し、ノイズの多い報酬追跡を回避する。

実験結果

リサーチクエスチョン

• RQ1 統一的でパラメータ化された探索空間は、複数のビジョンタスクにわたり多様で最先端の損失関数を効果的に表現できるか？
• RQ2 損失関数の探索を微分可能で強化学習ベースの問題として定式化し、トレーニング中に動的最適化を可能にする方法は何か？
• RQ3 提案されたバイレベル最適化フレームワークは、手動で設計された損失関数と比較して、より優れた一般化性能と転送性を示すか？
• RQ4 パフォーマンスと効率の最適な設定（例：区間数、バッチサイズ）の探索空間ハイパーパrameterは何か？

主な発見

• AM-LFSはCIFAR-10、MegaFace、Market-1501、DukeMTMC-reIDで手動設計損失関数を上回り、アーキテクチャの変更なしに最先端の結果を達成した。
• Market-1501ではB=32で84.4%のmAPを達成し、ベースラインのSphereReIDモデルを上回った。
• DukeMTMC-reIDではB=32で69.8%のmAPを達成し、データセット間での強い転送性を示した。
• 最適な区間数（M）は6であった。M=3では粒度が不足し、性能が悪化した一方、M=10では最適化の不安定性が生じた。
• 勾配可視化の結果、AM-LFSは簡単な例（クラス内距離が小さい例）の勾配を低減し、むしろ難しい例に注目することで、クラス間の識別性を向上させた。
• 収束解析により、訓練が安定していることが確認された。分布パラメータがエポックを経て安定化したため、損失関数分布の信頼性ある最適化が実現した。