[論文レビュー] Causal Disentangled Recommendation Against User Preference Shifts

Wenjie Wang, Xinyu Lin+4 more|arXiv (Cornell University)|Mar 28, 2023

Recommender Systems and Techniques被引用数 6

ひとこと要約

本稿では、時系列的な変動要因をモデル化するための時系列変分オートエンコーダと、学習可能な行列を用いてスパースでカテゴリレベルの好みの影響を分離する手法を用いる、因果的分離推薦（CDR）というフレームワークを提案する。CDRは、変動ダイナミクスとスパarsityを同時に捉えることで、分布外（OOD）設定における一般化性能を向上させ、3つのデータセットにおいて推薦精度と耐障害性の面で顕著な向上を達成した。

ABSTRACT

Recommender systems easily face the issue of user preference shifts. User representations will become out-of-date and lead to inappropriate recommendations if user preference has shifted over time. To solve the issue, existing work focuses on learning robust representations or predicting the shifting pattern. There lacks a comprehensive view to discover the underlying reasons for user preference shifts. To understand the preference shift, we abstract a causal graph to describe the generation procedure of user interaction sequences. Assuming user preference is stable within a short period, we abstract the interaction sequence as a set of chronological environments. From the causal graph, we find that the changes of some unobserved factors (e.g., becoming pregnant) cause preference shifts between environments. Besides, the fine-grained user preference over categories sparsely affects the interactions with different items. Inspired by the causal graph, our key considerations to handle preference shifts lie in modeling the interaction generation procedure by: 1) capturing the preference shifts across environments for accurate preference prediction, and 2) disentangling the sparse influence from user preference to interactions for accurate effect estimation of preference. To this end, we propose a Causal Disentangled Recommendation (CDR) framework, which captures preference shifts via a temporal variational autoencoder and learns the sparse influence from multiple environments. Specifically, an encoder is adopted to infer the unobserved factors from user interactions while a decoder is to model the interaction generation process. Besides, we introduce two learnable matrices to disentangle the sparse influence from user preference to interactions. Lastly, we devise a multi-objective loss to optimize CDR. Extensive experiments on three datasets show the superiority of CDR.

研究の動機と目的

• 推薦システムにおけるユーザー好みの変化に起因するモデル性能の低下を是正すること、特に分布外（OOD）環境下での性能低下を解消すること。
• 時間順序の相互作用環境を介して、未観測要因（例：出産など）とその影響をモデル化することで、好みの変化の包括的因果的理解を提供すること。
• ユーザーの好みのスパースでカテゴリレベルの影響を分離することで、アイテムとの相互作用に対する予測精度の一般化を向上させること。
• 複数環境学習と因果構造モデリングを統合し、不変的で変化する好みの両方を捉える統合的フレームワークの構築。

提案手法

• フレームワークは、ユーザーの相互作用を、それぞれが比較的安定したユーザー好みを持つ短い時間期間を表す一連の時系列的環境としてモデル化する。
• 未観測要因（例：妊娠）を相互作用から推論し、環境間での好みの変化をモデル化するために、時系列変分オートエンコーダ（TVAE）を用いる。
• アイテムとの相互作用に及ぼすカテゴリレベルのユーザー好みのスパースな影響を分離するために、2つの学習可能な行列を導入し、微細な影響推定を可能にする。
• 好みの変化モデリングとスパースな影響学習を同時に最適化するため、分散とスパarsity正則化を組み合わせたマルチ目的損失関数を設計する。
• 学習および推論時に環境数の柔軟な調整を可能とし、異なるデータ分布に適応可能である。

実験結果

リサーチクエスチョン

• RQ1 時間順序の異なる相互作用環境間で、ユーザー好みの変化を引き起こす背後要因となる因果的要因は何か？
• RQ2 一つの環境から別の環境に移行する際、安定的で変化する成分を区別しながら、ユーザー好みの移行をどのようにモデル化できるか？
• RQ3 カテゴリレベルの好みのスパースな影響を分離することで、OOD環境下での相互作用予測精度はどの程度向上するか？
• RQ4 複数環境かつ因果的認識を持つフレームワークは、既存の耐障害性や順序付き推薦モデルと比較して、好みの変化に伴う一般化性能をどれほど向上させられるか？

主な発見

• CDRは、ユーザー好みの変化下でも顕著な推薦性能の向上を達成し、3つの実世界データセットにおいて、最先端のベースラインを上回った。特に精度と一般化性能の面で顕著な改善が得られた。
• アブレーションスタディの結果、変化モデリングに用いる時系列VAEと、スパースな影響行列の両方が、性能向上に顕著な寄与をしていることが確認された。
• 分散とスパarsity正則化を組み合わせたマルチ目的損失関数は、特にOOD評価シナリオにおいて、モデルの安定性と一般化性能を向上させた。
• フレームワークは、環境数の異なる状況に対しても頑健であることが示され、異なるデータ分割戦略に適応可能な柔軟性を示した。