[論文レビュー] Layer-wise Relevance Propagation for Explainable Recommendations

Homanga Bharadhwaj|arXiv (Cornell University)|Jul 17, 2018

Explainable Artificial Intelligence (XAI)参考文献 16被引用数 6

ひとこと要約

本稿では、画像ベースの推薦システムに層別関連度伝播（LRP）を統合したエンドツーエンドのディーブラーニングフレームワークを提案する。この手法により、最終予測層から入力ピクセルへと関連度スコアを逆伝播させることで、推薦に影響を与えた視覚的顕著な特徴を特定し、アマゾン製品データセット上で解釈性の向上と効果的な説明生成を実証した。

ABSTRACT

In this paper, we tackle the problem of explanations in a deep-learning based model for recommendations by leveraging the technique of layer-wise relevance propagation. We use a Deep Convolutional Neural Network to extract relevant features from the input images before identifying similarity between the images in feature space. Relationships between the images are identified by the model and layer-wise relevance propagation is used to infer pixel-level details of the images that may have significantly informed the model's choice. We evaluate our method on an Amazon products dataset and demonstrate the efficacy of our approach.

研究の動機と目的

• ディープラーニングベースの推薦システム、特に視覚的アイテムにおいて解釈性の欠如に対処すること。
• 層別関連度伝播（LRP）を用いて、ユーザーに特化したピクセル単位の説明を生成すること。
• 特徴と説明を同時に学習するエンドツーエンドでトレーニング可能なDCNNフレームワークにLRPを統合すること。
• LRPが推薦意思決定に寄与する顕著な画像領域を特定する有効性を評価すること。
• 説明フィードバックを用いてモデルのトレーニングと予測精度を向上させる可能性を検討すること。

提案手法

• プレトレーニングされた重みを使用せずに、製品画像からK次元の特徴ベクトルを抽出するために、VGG-16に基づくDCNNをエンドツーエンドでトレーニングする。
• 各ユーザーに特化した $ \mathbf{M}^{(u)} $ を用いて、特徴ベクトル間の類似度を計算するパーソナライズド距離メトリック $ d_u(\mathbf{x}_i, \mathbf{x}_j) = (\mathbf{x}_i - \mathbf{x}_j)\mathbf{M}^{(u)}(\mathbf{x}_i - \mathbf{x}_j)^T $ を定義する。
• 関係性の確率 $ P_u(r_{ij} \in R) $ は、距離のシフトされたシグモイド関数でモデル化され、$ \frac{1}{1 + e^{d_u(\mathbf{x}_i, \mathbf{x}_j) - q}} $ と表され、$ q $ はトレーニング中に最適化される。
• 層別関連度伝播を適用し、ネットワークを逆方向にスコアを再配分することで、入力ピクセルに関連度スコアを割り当てる。
• 説明は、推薦意思決定に最も寄与するピクセルを強調するヒートマップとして可視化される。
• 将来のトレーニングループとして、LRPで抽出された関連ピクセルを用いて畳み込み層の重みを再調整し、より良い特徴抽出を可能にするメタラーニングを提案する。

実験結果

リサーチクエスチョン

• RQ1 層別関連度伝播は、画像ベースの推薦において最も影響力のあるピクセルを効果的に特定できるか？
• RQ2 エンドツーエンドのDCNNにLRPを統合することで、推薦意思決定の解釈性はどのように向上するか？
• RQ3 生成された説明は、人間の関連視覚的特徴の認識とどの程度相関するか？
• RQ4 LRPから得られる関連度フィードバックを用いて、モデルの特徴学習プロセスを改善し、予測精度を向上させることができるか？
• RQ5 距離メトリックのパーソナライズーションは、説明の質と関連性にどのような影響を与えるか？

主な発見

• 摂動に基づく説明評価により、この手法は推薦意思決定に関連する顕著なピクセルを効果的に特定していることが検証された。
• LRPを用いて生成された説明は、製品の種別、色、形状といった視覚的特徴を効果的に強調しており、推奨されたアイテムと整合している。
• LRPのヒートマップは、モデルが補完的アイテムを推薦する際、ゴルフグローブの顔やシャツのロゴといった意味的に意味のある領域に注目していることを示している。
• 本手法は、LRPを推薦タスクに効果的に適用でき、直感的で視覚的に解釈可能な説明を生成できることを示している。
• 予備的な結果では、トレーニングに説明フィードバックを統合することでモデルのロバスト性が向上する可能性があるが、今後さらに検証が必要である。
• 本モデルはアマゾン製品データセットにおいて競争力のある性能を示しており、関連ピクセルをマスクした際の顕著な精度低下を示す摂動分析により、説明の質が確認された。