[論文レビュー] Loss-sensitive Training of Probabilistic Conditional Random Fields

Maksims Volkovs, Hugo Larochelle+1 more|arXiv (Cornell University)|Jul 9, 2011

Topic Modeling参考文献 12被引用数 5

ひとこと要約

本稿では、順序付けタスクなどの構造予測タスクにおける性能向上を目的として、確率的条件付きランダムフィールド（CRF）の損失感受性学習目的関数を提案する。最大尤度法や他の損失感受性手法を凌駕する、新しい損失に基づくKullback-Leibler（KL）ダイバージェンス目的関数を導入し、LETORベンチマークデータセットで最先端のNDCGスコアを達成した。

ABSTRACT

We consider the problem of training probabilistic conditional random fields (CRFs) in the context of a task where performance is measured using a specific loss function. While maximum likelihood is the most common approach to training CRFs, it ignores the inherent structure of the task's loss function. We describe alternatives to maximum likelihood which take that loss into account. These include a novel adaptation of a loss upper bound from the structured SVMs literature to the CRF context, as well as a new loss-inspired KL divergence objective which relies on the probabilistic nature of CRFs. These loss-sensitive objectives are compared to maximum likelihood using ranking as a benchmark task. This comparison confirms the importance of incorporating loss information in the probabilistic training of CRFs, with the loss-inspired KL outperforming all other objectives.

研究の動機と目的

• 最大尤度学習の制限、特にタスク固有の損失関数を無視することを是正するため。
• 構造予測タスクにおける性能向上を検証するため、構造的SVMと確率的CRFの性質にインspiredされた損失感受性学習目的関数が有効であるかを調査する。
• NDCGを主な指標として用い、順序付けベンチマーク上で複数の損失感受性目的関数を体系的に比較する。
• CRF学習に損失情報を組み込むことで、標準的な最大尤度法に比べて顕著な性能向上が達成されることを示す。
• 確率的CRFに特化した、新しい損失に基づくKLダイバージェンス目的関数を提案・検証する。

提案手法

• 構造的SVMからインスパイされた損失補正型および損失スケーリング型エネルギー関数をCRFに適応し、ハイパーパrameter α でスケーリングされた損失項をエネルギー関数に組み込む。
• タスクの損失関数で重み付けされた、経験的ラベル分布とモデルの予測分布との間のKLダイバージェンスを最小化する、新しい損失に基づくKLダイバージェンス目的関数を導入する。
• すべての目的関数（包括して新しいKLベースの目的関数）に対して勾配ベース最適化を実装し、ラベル空間上の期待値を近似的推論を用いて計算する。
• 各クエリ-ドキュメントペアが関連性スコアでラベル付けされた、LETOR 4.0ベンチマークデータセット（MQ2007およびMQ2008）を用いて順序付けタスクに適用する。
• 全順列の列挙にかかる計算コストを削減するためのサンプリング戦略を採用し、各関連性レベルに少なくとも1つのドキュメントが含まれるように保証する。
• 学習率、α（損失補正型用）、T（KL目的関数用）のハイパーパrameterチューニングを検証セットを用いて実施し、テストセットでの性能が最良となるモデルを選択する。

実験結果

リサーチクエスチョン

• RQ1 損失感受性学習目的関数は、最大尤度法を上回る性能を確率的CRFに与えることができるか？
• RQ2 構造的SVMから適応された損失補正型および損失スケーリング型CRF学習目的関数は、最大尤度法に比べて構造予測タスクで優れた性能を示すか？
• RQ3 確率的CRFの性質を活かした、新しい損失に基づくKLダイバージェンス目的関数は、既存の損失感受性および最大尤度目的関数を上回るか？
• RQ4 タスク固有の損失構造をCRF学習に組み込むことで、NDCGで測定される順序付け性能に顕著な向上が見られるか？
• RQ5 提案された損失に基づくKL目的関数は、AdaRank や SVM-Struct といった強力なベースラインと比較して、標準的な順序付けベンチマークで優位性を示すか？

主な発見

• 損失に基づくKLダイバージェンス目的関数は、MQ2007およびMQ2008の両データセットにおいて、最大尤度法、損失補正型、損失スケーリング型、期待損失学習を含むすべての目的関数を一貫して上回った。
• MQ2008では、NDCG@1スコアが39.47を達成し、AdaRankベースライン（38.26）を上回り、SVM-Structベースライン（36.26）をも凌駆した。
• MQ2007では、NDCG@5が41.75を達成し、最高のベースライン（AdaRank 41.02）を上回り、回帰ベースライン（41.11）に対しても優位であった。
• 損失補正型および損失スケーリング型目的関数は、最大尤度法を改善しており、損失スケーリング型は期待損失目的関数とほぼ同等の性能を示した。
• 両データセットにおいて、NDCG@1からNDCG@5にかけて、すべてのテストモデルの中でKL目的関数が最高のスコアを記録し、そのロバスト性と優位性を示した。
• 結果から、NDCGのような0/1損失関数でない指標で性能を測る構造予測タスクにおいて、最大尤度学習は最適でないことが示唆された。