[論文レビュー] PRINCE: Provider-side Interpretability with Counterfactual Explanations in Recommender Systems

Azin Ghazimatin, Oana Balalau+2 more|MPG.PuRe (Max Planck Society)|Nov 19, 2019

Topic Modeling被引用数 13

ひとこと要約

PRINCEは、推薦システムにおけるプロバイダ側の解釈可能性フレームワークを提示する。このフレームワークは、反事後的証拠を用いて、簡潔で実行可能な説明を生成する。PRINCEは、動的で異種情報ネットワーク（HIN）上で、個人化ページランク（PPR）スコアリングを用いた多項式時間の効率的アルゴリズムにより、ユーザー自身の行動（例：購入、評価）の最小集合を同定し、その削除によってトップ推薦が変化することを特定する。実世界のAmazonおよびGoodreadsデータセットにおいて、最適かつプライバシー保護型の説明を達成する。

ABSTRACT

Interpretable explanations for recommender systems and other machine learning models are crucial to gain user trust. Prior works that have focused on paths connecting users and items in a heterogeneous network have several limitations, such as discovering relationships rather than true explanations, or disregarding other users' privacy. In this work, we take a fresh perspective, and present PRINCE: a provider-side mechanism to produce tangible explanations for end-users, where an explanation is defined to be a set of minimal actions performed by the user that, if removed, changes the recommendation to a different item. Given a recommendation, PRINCE uses a polynomial-time optimal algorithm for finding this minimal set of a user's actions from an exponential search space, based on random walks over dynamic graphs. Experiments on two real-world datasets show that PRINCE provides more compact explanations than intuitive baselines, and insights from a crowdsourced user-study demonstrate the viability of such action-based explanations. We thus posit that PRINCE produces scrutable, actionable, and concise explanations, owing to its use of counterfactual evidence, a user's own actions, and minimal sets, respectively.

研究の動機と目的

• 推薦システムにおける実行可能でプライバシー保護型かつプロバイダ制御可能な説明の不足に対処すること。
• 他のユーザーのプライベートな行動を露呈するか、あるいは事後的妥当性のみを提供するパスベースの説明の限界を克服すること。
• ユーザー自身の行動に基づく最小限の反事後的説明を生成し、明確さと信頼性を保証すること。
• 指数的探索空間にかかわらず、推薦の原因となるユーザー行動の最小最適集合を計算する効率的アルゴリズムを開発すること。
• 実世界のデータセットを用いたユーザースタディおよび実証的評価を通じて、行動ベースの説明の有用性と理解可能性を検証すること。

提案手法

• ユーザー、アイテム、レビュー、カテゴリをノードとし、購入、評価、カテゴリ関連などの行動をエッジとする異種情報ネットワーク（HIN）としてユーザー・アイテム相互作用をモデル化する。
• ユーザーの好みとアイテムの関連性をモデル化するため、ランダムウォークを用いた個人化ページランク（PPR）をHIN上で計算して推薦スコアを算出する。
• 反事後的設定を適用：トップ推薦が異なるアイテムに変化するようになるまで、ユーザー行動（エッジ）の最小部分集合を削除することを同定する。
• PPRスコアの単調性および部分集合性の性質を活用することで、指数的探索空間における可能な行動部分集合の探索を、多項式時間で最適に実行するアルゴリズムを適用する。
• エッジの削除をシミュレートするための動的グラフ更新を用い、PPRスコアの再計算を効率的に行い、反事後的説明のスケーラブルな計算を可能にする。
• PPR感度に基づくプリーニング戦略を統合し、候補となる行動集合の優先順位を付けることで、最適性を損なわずに計算のオーバーヘッドを低減する。

実験結果

リサーチクエスチョン

• RQ1 プロバイダ側のメカニズムは、HINベースの推薦システムにおいて、最小限で実行可能かつプライバシー保護型の説明を生成できるか？
• RQ2 トップ推薦が変化するようになるユーザー行動の最小集合は、直感的なヒューリスティックベースの基準と比較して、どれほどコンパクトで忠実か？
• RQ3 行動ベースの反事後的説明は、パスベースまたはルールベースの説明と比較して、エンドユーザーにとってどれほど有用で理解しやすいか？
• RQ4 ユーザー行動の指数的探索空間にかかわらず、このような最小行動集合を計算する効率的で最適なアルゴリズムを設計できるか？
• RQ5 実世界の設定において、PRINCEが生成する説明は、ベースラインと比較してユーザーの認識および説明品質の観点でどのように異なるか？

主な発見

• PRINCEは、トップ推薦を変化させるために必要な最小限のユーザー行動の集合を生成するため、直感的なベースラインよりもはるかにコンパクトな説明を生成する。
• この方法は、推薦を変化させる最小の行動集合を特定するという点で最適性を保証しており、真の最小集合を同定できないヒューリスティック手法を上回る。
• AMT Mastersを用いたクラウドソーシングによるユーザースタディで、PRINCEが生成する説明は、ベースラインの説明よりも有用性が高く、明確で実行可能であると評価された。
• PRINCEが生成する説明は、理解可能（scrutable）、実行可能（actionable）、および簡潔（最小集合）であるため、効果的な解釈可能性の主要基準を満たしている。
• アルゴリズムは多項式時間で反事後的説明を効率的に計算でき、AmazonやGoodreadsのような大規模な実世界のHINに対してもスケーラブルである。
• パスベースの説明に内在するプライバシー漏洩を回避するため、本手法は他のユーザーの行動を一切露呈せず、常にユーザー自身の行動にのみ依存する。