[論文レビュー] Learning Post-Hoc Causal Explanations for Recommendation

Shuyuan Xu, Yunqi Li+4 more|arXiv (Cornell University)|Jun 30, 2020

Recommender Systems and Techniques参考文献 35被引用数 10

ひとこと要約

本稿では、反事後的因果説明フレームワークを提案し、ブラックボックスな順序付きレコメンデーションシステムに対して、反事後的摂動と因果ルールマイニングを用いて個別化されたアイテムレベルの説明を生成することで、推薦精度を損なわずに高忠実度のユーザー固有の説明を実現する。この手法は、グローバルな関連ルールに比べてより優れた個人化と有効性を示す。

ABSTRACT

State-of-the-art recommender systems have the ability to generate high-quality recommendations, but usually cannot provide intuitive explanations to humans due to the usage of black-box prediction models. The lack of transparency has highlighted the critical importance of improving the explainability of recommender systems. In this paper, we propose to extract causal rules from the user interaction history as post-hoc explanations for the black-box sequential recommendation mechanisms, whilst maintain the predictive accuracy of the recommendation model. Our approach firstly achieves counterfactual examples with the aid of a perturbation model, and then extracts personalized causal relationships for the recommendation model through a causal rule mining algorithm. Experiments are conducted on several state-of-the-art sequential recommendation models and real-world datasets to verify the performance of our model on generating causal explanations. Meanwhile, We evaluate the discovered causal explanations in terms of quality and fidelity, which show that compared with conventional association rules, causal rules can provide personalized and more effective explanations for the behavior of black-box recommendation models.

研究の動機と目的

• 最先端のブラックボックスな順序付きレコメンデーションシステムにおける透明性の欠如が、ユーザーの信頼性とシステムの解釈可能性を損なう問題に対処すること。
• 過去のユーザー行動と将来の推薦との間の因果関係を反映した、個別化されたアイテムレベルの説明を生成すること。
• 下位のレコメンデーションモデルの予測性能を損なわない、ポストホックの説明フレームワークを構築すること。
• 全ユーザーの共起パターンに依存するため、非個人化された説明を生じるグローバルな関連ルールの限界を克服すること。
• 反事後的推論を可能にするために、摂動された入出力ペアを生成し、「もし〜ならば」シナリオをシミュレートすること。

提案手法

• 変分摂動モデルが、ユーザー行動シーケンスを変更することで反事後的入出力ペアを生成し、過去の行動の変化をシミュレートする。
• 異なる微分可能で確率的なメカニズムを用いて、多様かつ妥当なユーザー履歴シーケンスの変種を生成する。
• 摂動されたペアに対して因果ルールマイニングを適用し、予測シフトに基づくスコア関数を用いて、どの過去のアイテム（原因）が推薦の変化（結果）を引き起こすかを同定する。
• 本手法は反事後論理を活用する：特定のアイテムを履歴から変更した際に推薦が変化すれば、そのアイテムは因果要因とみなされる。
• モデルの忠実度と説明品質は、因果ルールとブラックボックスレコメンデーションモデルの実際の挙動との一貫性を測定することで評価される。
• 本フレームワークはモデルに依存しないため、アーキテクチャを変更せずに任意の順序付きレコメンデーションモデルと統合可能である。

実験結果

リサーチクエスチョン

• RQ1 ユーザー行動履歴からポストホックの因果説明を効果的に抽出でき、ブラックボックスな順序付きレコメンデーションを説明できるか？
• RQ2 提案された因果説明フレームワークは、グローバルな関連ルールマイニングに比べて、個人化と忠実度の面で優れているか？
• RQ3 摂動例の数が、抽出された因果ルールの安定性と正確性に与える影響は何か？
• RQ4 2人のユーザーが同じ推薦を受けているが、行動履歴が異なる場合でも、本手法は個別化された説明を生成できるか？
• RQ5 因果説明フレームワークは、下位のレコメンデーションモデルの予測精度をどの程度維持できるか？

主な発見

• 1つの摂動例を用いた場合、本手法は100%のモデル忠実度と100%の検証済み因果ルール率を達成するが、分散が高いため統計的に信頼性が低い。
• 摂動数を500に増やすと、推定確率誤差が0.1未満であるという信頼度が95%を超えるようになり、統計的信頼性が確保される。
• 十分な摂動サンプル数（m ≥ 500）を用いることで、モデル忠実度と検証済み因果ルールの割合が安定し、増加するようになり、堅牢性と収束性が示された。
• MovieLens100kにおけるケーススタディでは、関連ルールが2人のユーザーに同じ説明（例：『サウンド・オブ・ミュージック』）を提供する一方、因果モデルは個々の履歴に基づいて異なる個別化された説明を生成する。
• 因果説明フレームワークは、ユーザー固有の原因を効果的に同定でき、グローバルな関連ルールに比べて優れた個人化を実現した。
• 本手法は、オリジナルのレコメンデーションモデルの高い予測精度を維持しており、ポストホックの説明モジュールとして独立して動作するため、この点でも優れている。