[論文レビュー] StableDR: Stabilized Doubly Robust Learning for Recommendation on Data Missing Not at Random

Haoxuan Li, Chunyuan Zheng+1 more|arXiv (Cornell University)|May 10, 2022

Machine Learning and ELM被引用数 12

ひとこと要約

この論文は、データが完全にランダムに欠落していない（MNAR）状況下での推薦において、外挿への依存を低減し、任意に小さな傾向スコアでもバイアス、分散、一般化誤差が有界であることを保証する、安定化された二重ロバスト学習手法StableDRを提案する。この手法は、補完、傾向スコア、予測モデルの間で循環的最適化を実行し、実世界のデータセットにおいて、既存のDRベースの手法よりも収束性と精度に優れた性能を達成する。

ABSTRACT

In recommender systems, users always choose the favorite items to rate, which leads to data missing not at random and poses a great challenge for unbiased evaluation and learning of prediction models. Currently, the doubly robust (DR) methods have been widely studied and demonstrate superior performance. However, in this paper, we show that DR methods are unstable and have unbounded bias, variance, and generalization bounds to extremely small propensities. Moreover, the fact that DR relies more on extrapolation will lead to suboptimal performance. To address the above limitations while retaining double robustness, we propose a stabilized doubly robust (StableDR) learning approach with a weaker reliance on extrapolation. Theoretical analysis shows that StableDR has bounded bias, variance, and generalization error bound simultaneously under inaccurate imputed errors and arbitrarily small propensities. In addition, we propose a novel learning approach for StableDR that updates the imputation, propensity, and prediction models cyclically, achieving more stable and accurate predictions. Extensive experiments show that our approaches significantly outperform the existing methods.

研究の動機と目的

• 欠落が完全にランダムでない（MNAR）状況下における推薦システムにおける、既存の二重ロバスト（DR）手法の不安定性を解消すること。
• ユーザーが好むアイテムしか評価しない場合に性能が低下する外挿への依存を低減すること。
• 任意に小さな傾向スコアおよび不正確な補完誤差下でも、バイアス、分散、一般化誤差が有界であることを保証すること。
• 補完、傾向スコア、予測モデルを繰り返し更新する新しいトレーニング戦略を構築し、安定性と精度を向上させること。
• StableDRが、レーティング予測タスクにおいて最先端のバイアス除去手法を実証的に上回ることを検証すること。

提案手法

• MNAR設定下で外挿への依存を低減しつつ二重ロバスト性を維持する安定化された二重ロバスト（StableDR）推定子を提案する。
• 任意に小さな傾向スコアおよび不正確な補完下でも、StableDRが有界なバイアス、分散、一般化誤差を有することを示す理論的枠組みを導入する。
• 補完、傾向スコア、予測モデルを繰り返し更新することで安定性と収束性を向上させる循環的学習アルゴリズムを設計する。
• 傾向スコアモデルのトレーニング中に安定化制約を適用し、小さな傾向スコアへの感度を低減し、耐性を高める。
• 傾向スコアモデルの安定化に、正則化項を含む交差エントロピー損失を用いることで、推定の分散を低減する。
• 各モデルが他のモデルの現在の状態に基づいて更新される共同最適化スキームを採用し、全体の一般化性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 任意に小さな傾向スコアおよび不正確な補完誤差下でも、二重ロバスト推定子は有界なバイアスと分散を維持できるか？
• RQ2 外挿への依存を低減することで、MNARデータ下での推薦モデルの安定性と精度はどのように向上するか？
• RQ3 補完、傾向スコア、予測モデルの間で循環的最適化を実行することで、二段階法や交互更新と比較して収束性と性能が向上するか？
• RQ4 安定化制約の強さが、MNAR設定下でのモデル性能と耐性にどのように影響するか？
• RQ5 StableDRは、実世界の推薦データセットにおけるバイアスのない評価と予測精度の両面で、既存のDRベースの手法を上回ることができるか？

主な発見

• StableDRは、CoatおよびYahoo! R3データセットの両方で、MSE、AUC、NDCG@5、NDCG@10の4つの指標すべてにおいて、すべてのベースラインを上回る最高の性能を達成した。
• 提案された循環的学習戦略は、二段階法や交互更新手法と比較して、収束性と予測精度を顕著に向上させた。
• 最適な安定化制約の強さを採用した場合、StableDRはDR-JLおよびMRDR-JLに対して安定的かつ顕著な優位性を示し、特に傾向スコアが小さい状況で顕著であった。
• 標準的なDR手法とは異なり、StableDRは任意に小さな傾向スコア下でもバイアスと一般化誤差が有界であることを維持した。
• ナイーブベイズ（ラプラススムージング付き）およびロジスティック回帰といった異なる傾向スコアモデルでも、同様の耐性を示し、一般化能力を確認した。
• アブレーションスタディにより、安定化制約が不可欠であることが確認された—これがないと性能はほぼベースライン水準にまで低下し、安定性の確保においてその重要性が顕著に示された。