[論文レビュー] Multi-Gradient Descent for Multi-Objective Recommender Systems

Nikola Milojkovic, Diego Antognini+3 more|arXiv (Cornell University)|Dec 9, 2019

Recommender Systems and Techniques参考文献 31被引用数 23

ひとこと要約

本稿では、推薦システムにおけるマルチグレディエントディセント（MGDRec）を提案する。これは、勾配正規化を用いて、相関のないか、スケールが異なる可能性のある複数の目的関数（例：意味的関連性、収益、コンテンツ品質）を同時に最適化する確率的マルチグレディエントディセント手法である。本手法は、対立する目的をバランスさせる一方で、個々の目的のパフォーマンスを維持し、微分不可能な目的やスケールが異なる目的に対しても、最先端の手法を上回る性能を発揮し、理論的最適解に近い解を得ている。

ABSTRACT

Recommender systems need to mirror the complexity of the environment they are applied in. The more we know about what might benefit the user, the more objectives the recommender system has. In addition there may be multiple stakeholders - sellers, buyers, shareholders - in addition to legal and ethical constraints. Simultaneously optimizing for a multitude of objectives, correlated and not correlated, having the same scale or not, has proven difficult so far. We introduce a stochastic multi-gradient descent approach to recommender systems (MGDRec) to solve this problem. We show that this exceeds state-of-the-art methods in traditional objective mixtures, like revenue and recall. Not only that, but through gradient normalization we can combine fundamentally different objectives, having diverse scales, into a single coherent framework. We show that uncorrelated objectives, like the proportion of quality products, can be improved alongside accuracy. Through the use of stochasticity, we avoid the pitfalls of calculating full gradients and provide a clear setting for its applicability.

研究の動機と目的

• 推薦システムにおける、相関の有無に関わらずスケールが異なる、しばしば対立する複数の目的を同時に最適化する課題に対処すること。
• 逐次最適化や重み付き和アプローチ、進化的アルゴリズムといった従来手法の限界を克服すること。これらの手法は、多目的設定においてスケーラビリティに欠けたり、一貫性を欠いたりする。
• 非微分可能な目的（例：高品質または人気のないコンテンツの割合）の効果的最適化を可能とし、マルチグレディエントディセントを確率的部分勾配設定に拡張すること。
• 多目的推薦における確率的最適化の形式的定式化を提供し、実世界での展開に適した明確でスケーラブルなフレームワークを整えること。
• 勾配正規化が、根本的に異なる目的を1つの整合性のある最適化フレームワークに統合可能であることを示し、全体の解の質を向上させること。

提案手法

• 非微分可能な目的にも適用可能な、部分勾配を用いた同時最適化を可能にする確率的マルチグレディエントディセントアルゴリズム（MGDRec）を提案する。
• スケールが異なる目的の勾配を整えるために勾配正規化を導入し、最適化中に寄与がバランスされ、高次元の勾配が支配しないようにする。
• 全勾配計算の計算負荷を避けるために確率的部分勾配ディセント（SMSGDA）を採用し、大規模データセットへのスケーラビリティを実現する。
• エンドユーザーの好みベクトルに小さな正の値を組み込むことで、意味的関連性を損なわず、高品質または人気のないコンテンツの推薦を促進する。
• 勾配統合を通じた重み付き集約を採用し、各目的からの勾配を正規化空間で統合して1つの更新ステップを計算する。
• αパラメータを制約する訓練手順を採用し、高品質コンテンツへの過剰適合を防ぎ、目的間のバランスを維持する。

実験結果

リサーチクエスチョン

• RQ1 意味的関連性とコンテンツ品質といった相関のない目的を、推薦システムで効果的に同時に最適化するために、マルチグレディエントディセントを拡張できるか？
• RQ2 スケールが著しく異なる、または非微分可能な目的に対して、勾配正規化が多目的最適化のパフォーマンスをどのように向上させるか？
• RQ3 MGDRecで訓練された1つのモデルが、複数の指標において、単一目的モデルや重み付き和ベースラインを上回る性能を発揮できるか、その程度はどの程度か？
• RQ4 高品質コンテンツの割合といった非微分可能な目的を含めると、パフォーマンスに悪影響を及ぼすか。この問題は確率的部分勾配法によって緩和可能か？
• RQ5 提案手法が、各目的の最良値の交差として定義される理論的最適解に近い解を得られるか？

主な発見

• 勾配正規化を用いたMGDRecは、相関のある（例：意味的関連性と収益）および相関のない（例：意味的関連性とコンテンツ品質）両方の目的において、最先端の手法を上回る性能を発揮した。
• アマゾン映画データで拡張されたMovielensデータセットにおいて、MGDRecに勾配正規化を適用した結果、意味的関連性と収益の両方で、単一目的モデルを上回る結果が得られた。
• 本手法は、高品質コンテンツ（例：ドキュメンタリー）の推薦割合を顕著に増加させた。これは、意味的関連性のわずかな低下が、高品質コンテンツの統合に大きな寄与をもたらすことを示している。
• 勾配正規化は不可欠であった。正規化なしのMGDは単一目的最適化と同等の性能に留まり、バランスの取れた多目的学習の実現には正規化の必要性が裏付けられた。
• 重み付き和ベースラインに対しても勾配正規化が効果を発揮し、正規化が異なる集約戦略においてもパフォーマンス向上をもたらすことが示された。
• 確率的部分勾配ディセント（SMSGDA）を用いたMGDRecは、コンテンツ品質といった非微分可能な目的を効果的に最適化でき、滑らかで微分可能な関数にとどまらない手法の強靭性を証明した。