[論文レビュー] AutoLoss: Automated Loss Function Search in Recommendations

Xiangyu Zhao, Haochen Liu+4 more|arXiv (Cornell University)|Jun 12, 2021

Recommender Systems and Techniques参考文献 58被引用数 5

ひとこと要約

AutoLossは、収束行動に基づいて各データ例ごとに最適な損失重みを動的に割り当てる制御ネットワークを用いて、深層レコメンデーションシステムにおける自動損失関数探索のエンド・ツー・エンドで微分可能なフレームワークを提案する。固定型および手動で調整されたベースラインと比較して、レコメンデーション性能と学習効率の両面で優れた結果を示し、異なるデータセットおよびモデル間で強く汎用性を示す。

ABSTRACT

Designing an effective loss function plays a crucial role in training deep recommender systems. Most existing works often leverage a predefined and fixed loss function that could lead to suboptimal recommendation quality and training efficiency. Some recent efforts rely on exhaustively or manually searched weights to fuse a group of candidate loss functions, which is exceptionally costly in computation and time. They also neglect the various convergence behaviors of different data examples. In this work, we propose an AutoLoss framework that can automatically and adaptively search for the appropriate loss function from a set of candidates. To be specific, we develop a novel controller network, which can dynamically adjust the loss probabilities in a differentiable manner. Unlike existing algorithms, the proposed controller can adaptively generate the loss probabilities for different data examples according to their varied convergence behaviors. Such design improves the model's generalizability and transferability between deep recommender systems and datasets. We evaluate the proposed framework on two benchmark datasets. The results show that AutoLoss outperforms representative baselines. Further experiments have been conducted to deepen our understandings of AutoLoss, including its transferability, components and training efficiency.

研究の動機と目的

• 深層レコメンデーションシステムにおける固定型または手動で調整された損失関数がもたらす性能の劣化と非効率を是正すること。
• 従来の方法が損失重みの全探索を試みる中で生じる高い計算コストと柔軟性の欠如を克服すること。
• ユーザー・アイテム相互作用の収束行動の違いに応じて動的に、例ごとに最適な損失関数を選択できる仕組みを実現すること。
• 異なる深層レコメンデーションアーキテクチャおよびデータセット間でのモデルの汎用性と転送性を向上させること。
• モデルパラメータと損失関数選択を同時に最適化できるエンド・ツー・エンドで微分可能なフレームワークを構築すること。

提案手法

• 教師データのラベルとモデルの予測に基づいて、各データ例に対して連続的かつ微分可能な損失重みを生成する新しい制御ネットワークを設計する。
• 離散的な選択にもかかわらず勾配伝搬を可能にするために、Gumbel-Softmaxの再パrameterizationを適用する。
• 損失関数の探索を連続最適化問題として定式化し、選択プロセスの内部を逆誤差伝搬可能にする。
• 候補となる損失関数（例：MSE、MAE、交差エントロピー）を、学習された例固有の重みを用いて重み付き和として組み合わせる。
• 制御ネットワークをレコメンデーションモデルと同時にエンド・ツー・エンドで学習させ、モデルおよび損失関数パラメータの共同最適化を実現する。
• 異なるデータセットおよびモデルアーキテクチャにわたって汎用性を示すために、一般化可能な適応的損失戦略を学習可能である。

Figure 1. Overview of the AutoLoss framework.

実験結果

リサーチクエスチョン

• RQ1 動的かつ例固有の損失関数選択が、データ例ごとの損失関数選択を可能にすることで、レコメンデーション性能を向上させることができるか？
• RQ2 AutoLossは、固定型または手動で調整された損失関数と比較して、モデルの正確性と学習効率の面でどのように差をつけるか？
• RQ3 学習された損失関数選択戦略は、異なる深層レコメンデーションモデルおよびデータセット間でどの程度一般化可能か？
• RQ4 データ例の収束行動の違いが、適応的損失重み付けの有効性にどのように影響するか？
• RQ5 制御ネットワークやGumbel-Softmaxベースの選択メカニズムなどの各コンponentが、全体の性能向上に果たす寄与度はどの程度か？

主な発見

• AutoLossは、固定型および手動で調整された損失関数ベースラインと比較して、2つのベンチマークデータセットで優れたレコメンデーション性能を達成した。
• フレームワークは、個々の例の収束行動に応じて損失関数を適応的に変更することで、ノイズの多い勾配を低減し、学習効率を向上させた。
• AutoLossは、制御ネットワークの再学習なしに、異なる深層レコメンデーションモデルおよびデータセットへも性能の向上を維持する強力な転送性を示した。
• アブレーションスタディの結果、制御ネットワークとGumbel-Softmaxベースの選択メカニズムの両方が、性能向上に不可欠であることが確認された。
• 損失重みの手動ハイパーパramータチューニングの必要性が低減され、実世界のレコメンデーションシステムにスケーラブルなソリューションを提供した。
• データ固有の損失重み付けを学習することで、特に収束パターンが複雑または曖昧な例において、より良い一般化性能が得られた。

Figure 2. Architectures of DeepFM and IPNN.