[論文レビュー] TDR-CL: Targeted Doubly Robust Collaborative Learning for Debiased Recommendations

Haoxuan Li, Yan Lyu+2 more|arXiv (Cornell University)|Mar 19, 2022

Domain Adaptation and Few-Shot Learning被引用数 14

ひとこと要約

本稿では、バイアスと分散を低減するためのターゲティング型二重に頑健な共同学習手法TDR-CLを提案する。この手法は、補完誤差をパラメトリックおよびノンパラメトリック成分に分解することで、二重に頑健な（DR）推定器のバイアスと分散を低減し、共同で精度を向上させる。複数のベンチマークにおいて、レーティング予測およびクリックスルーレート推定の両面で最先端の性能を達成しており、さまざまなバイアス状況下でAUC、NDCG、MSEの指標において顕著な改善を示す。

ABSTRACT

Bias is a common problem inherent in recommender systems, which is entangled with users' preferences and poses a great challenge to unbiased learning. For debiasing tasks, the doubly robust (DR) method and its variants show superior performance due to the double robustness property, that is, DR is unbiased when either imputed errors or learned propensities are accurate. However, our theoretical analysis reveals that DR usually has a large variance. Meanwhile, DR would suffer unexpectedly large bias and poor generalization caused by inaccurate imputed errors and learned propensities, which usually occur in practice. In this paper, we propose a principled approach that can effectively reduce bias and variance simultaneously for existing DR approaches when the error imputation model is misspecified. In addition, we further propose a novel semi-parametric collaborative learning approach that decomposes imputed errors into parametric and nonparametric parts and updates them collaboratively, resulting in more accurate predictions. Both theoretical analysis and experiments demonstrate the superiority of the proposed methods compared with existing debiasing methods.

研究の動機と目的

• 推薦システムにおける既存の二重に頑健な（DR）手法に見られる高い分散とモデルの誤指定に対する感受性を軽減すること。
• 実務において一般的に見られる補完誤差モデルの不正確さに起因する、DR推定器におけるバイアスと分散の両方を低減すること。
• 任意のDR手法を、誤差補完の改善を通じたターゲティング学習によって強化する、モデルに依存しないフレームワークの開発。
• 一様データを必要としない一様データフリーな共同学習アプローチを提案し、パラメトリックおよびノンパラメトリック誤差成分を同時に最適化することで、予測の頑健性を高めること。
• 露出バイアスの程度が異なる実世界および準実世界の推薦データセットにおいて、より優れた一般化性能と頑健性を達成すること。

提案手法

• 誤差補完が誤指定されている場合でさえもバイアスと分散を低減できるように、ターゲティング学習を活用したターゲティング型二重に頑健な（TDR）推定器を導入する。
• 有効な影響関数条件を満たすために、$1/\hat{p}_{u,i} - 1$ をキーコンポーネントとして使用するターゲティングステップを採用し、漸近的効率性を保証する。
• 誤差補完をパラメトリックモデルとノンパラメトリックな残差補正項に分解する、新しい半パラメトリックな共同学習フレームワークTDR-CLを提案する。
• パラメトリックおよびノンパラメトリック誤差成分を共同学習メカニズムを介して同時に更新することで、バイアスを適応的に是正する。
• 一様データを不要とする一様データフリー設計を採用し、小さな傾向スコアに対しても頑健性を維持する。
• 二重に頑健な推定に適応するため、レーティング予測およびクリック後コンVERSIONレート予測の両タスクにこの手法を適用し、評価指標として二乗損失およびAUC/NDCGを用いる。

実験結果

リサーチクエスチョン

• RQ1 ターゲティング学習は、バイアスと分散の両方を低減する観点から、バイアスのない推薦に効果的に適用可能か？
• RQ2 モデルの誤指定下において、TDR-CLは標準的なDRおよびMRDR手法と比べてどれほど頑健か？
• RQ3 誤差補完モデルの精度が、DRベースの推薦システムの性能に与える影響は何か？
• RQ4 パラメトリックおよびノンパラメトリック誤差成分を同時に最適化する共同学習フレームワークは、標準的なDR手法を上回る性能を発揮できるか？
• RQ5 傾向スコアのクリッピングレベルの変化に伴う本手法の性能は、小さな傾向スコアに対する頑健性を示しているか？

主な発見

• TDR-CLは、合成データおよび実世界データの両方で、MSE、AUC、NDCG@5、NDCG@10というすべての指標において最良の性能を達成し、DR-CLおよびMRDR-CLを上回る。
• 最適な性能は傾向スコアクリッピング閾値0.15で達成されており、情報活用と頑健性の間の強いトレードオフを示している。
• 特にモデルの誤指定下において、標準的なDRおよびMRDR手法と比較して、TDR-CLは顕著にバイアスと分散を低減している。
• アブレーションスタディの結果、ターゲティングステップと共同学習が不可欠であることが確認され、ターゲティングを含まないDR-CLおよびMRDR-CLはTDR-CLに劣る性能を示した。
• 誤差補完が不正確であっても、小さな傾向スコアに対して頑健であり、低分散を維持していることが示された。
• 理論的分析により、TDRが二重に頑健性、有界性、低分散性、および小さな傾向スコアに対する頑健性を満たすことが確認された。