[論文レビュー] Learning Effective Loss Functions Efficiently

M. J. V. Streeter|arXiv (Cornell University)|Jun 28, 2019

Machine Learning and Data Classification参考文献 23被引用数 5

ひとこと要約

本稿では、検証誤差の勾配情報を活用することで、最適な線形損失関数を効率的に学習する anytime アルゴリズムである LearnLoss を提案する。これにより、高速なハイパーパramータチューニングとオンライン正則化子の適応が可能となり、漸近的最適性を維持しながら実用的に一般化性能を向上させる。この手法は、先行手法と比較して桁違いに高速であり、最先端の性能を達成する。

ABSTRACT

We consider the problem of learning a loss function which, when minimized over a training dataset, yields a model that approximately minimizes a validation error metric. Though learning an optimal loss function is NP-hard, we present an anytime algorithm that is asymptotically optimal in the worst case, and is provably efficient in an idealized "easy" case. Experimentally, we show that this algorithm can be used to tune loss function hyperparameters orders of magnitude faster than state-of-the-art alternatives. We also show that our algorithm can be used to learn novel and effective loss functions on-the-fly during training.

研究の動機と目的

• 訓練損失ではなく、微分可能でないか、関連性の薄い検証指標を最小化する損失関数の選択という課題に取り組むこと。
• NP困難な問題に対しても、保証付きの効率的かつ anytime のアルゴリズムを設計し、効果的な損失関数を学習すること。
• 特にハイパーパramータ空間の次元が高くなるような状況において、過学習を防ぐために訓練中に正則化子をオンラインで学習できること。
• 特に損失関数のハイパーパramータが多数存在する設定において、従来のハイパーパramータチューニング手法よりも速度と効果性に優れた性能を発揮すること。

提案手法

• 損失関数の学習問題を二段階最適化として定式化する：モデルパラメータから導出される特徴量の線形結合を最小化することで得られるモデルの検証誤差を最小化する。
• 損失関数を特徴量ベクトル φ(θ) の線形関数として表現する。ℓλ(θ) = λ · φ(θ)，ここで λ ∈ ℛᵏ は学習可能なハイパーパramータである。
• 凸計画法を用いて学習問題を解き、検証誤差 ∇ẽ(θ) の勾配情報を組み込んで収束を加速する。
• 漸近的最適性を理論的に保証する anytime アルゴリズムを採用し、最悪ケースにおいても最適性を達成する。
• 2つの設定に応用する：(1) 小さなデータサブセット上でモデルを訓練することで、オフラインでのハイパーパramータチューニングを実施し、(2) ウォームスタートされた最適化を用いて、訓練中にオンラインで適応する。
• 非微分可能な指標（例：トップ1正答率）に対して微分可能代理関数を活用し、損失関数の勾配ベース最適化を可能にする。

実験結果

リサーチクエスチョン

• RQ1 微分可能でない検証誤差指標であっても、検証誤差を最小化する線形損失関数を学習できる、効率的かつ anytime のアルゴリズムを設計できるか？
• RQ2 検証誤差の勾配情報を効果的に活用することで、最適な損失関数ハイパーパramータの探索をどのように加速できるか？
• RQ3 提案手法は、事前のハイパーパramータチューニングなしに、訓練中に効果的な正則化子をリアルタイムで学習し、一般化性能を向上させることができるか？
• RQ4 スピードと最終的なモデルの正答率の両面で、最先端のハイパーパラメータチューニング手法と比較して、本手法の性能はどの程度優れているか？
• RQ5 特にオンライン学習のシナリオにおいて、損失関数のハイパーパラメータが数百個に達するような状況にも、本手法はどの程度スケーラブルか？

主な発見

• LearnLoss アルゴリズムは、最先端の代替手法と比較して、ハイパーパラメータチューニングが桁違いに高速であり、探索効率において顕著に優れている。
• 結腸直腸組織画像解析データセットでは、LearnLoss を用いることで AdaGrad が最大1000エポックまで検証誤差とテストロスが改善し続けたが、標準的な AdaGrad は約35エポックで過学習を示した。
• 学習された正則化子は時間経過とともに変化し、訓練の後半に強い正則化が適用されるなど、データ駆動型の適応的正則化が実現された。
• トップ1正答率を向上させないままでも、L1正則化、L2正則化、ラベルスムージング、ドロップアウトの最良の組み合わせを上回るテストロスと確率のキャリブレーション性能を達成した。
• 本手法は、訓練中にリアルタイムで、新たな効果的な正則化子を学習し、すべての評価済みデータセットで過学習を防ぎ、一般化性能を向上させた。
• 理論的分析により、LearnLoss が最悪ケースにおいて漸近的に最適であり、理想化された「簡単な」ケースでは証明可能な効率性を有することが確認され、実用的性能も非常に優れている。