[論文レビュー] A Capsule Network for Recommendation and Explaining What You Like and Dislike

Chenliang Li, Cong Quan+4 more|arXiv (Cornell University)|Jul 1, 2019

Recommender Systems and Techniques参考文献 37被引用数 6

ひとこと要約

本稿では、ユーザーの視点とアイテムの側面を組み合わせた論理ユニットを通じて、細分化されたレベルでのユーザー・アイテム相互作用をモデル化することで、推薦精度と解釈可能性を向上させるキャプセルネットワークベースのモデルCARPを提案する。独創的なBi-Agreementに基づくルーティング機構を用いて、これらの論理ユニットの感情に敏感な表現を特定し、7つの実世界データセットにおいて最先端の性能を達成するとともに、ユーザーの好みに関する実行可能で説明可能なインサイトを提供する。

ABSTRACT

User reviews contain rich semantics towards the preference of users to features of items. Recently, many deep learning based solutions have been proposed by exploiting reviews for recommendation. The attention mechanism is mainly adopted in these works to identify words or aspects that are important for rating prediction. However, it is still hard to understand whether a user likes or dislikes an aspect of an item according to what viewpoint the user holds and to what extent, without examining the review details. Here, we consider a pair of a viewpoint held by a user and an aspect of an item as a logic unit. Reasoning a rating behavior by discovering the informative logic units from the reviews and resolving their corresponding sentiments could enable a better rating prediction with explanation. To this end, in this paper, we propose a capsule network based model for rating prediction with user reviews, named CARP. For each user-item pair, CARP is devised to extract the informative logic units from the reviews and infer their corresponding sentiments. The model firstly extracts the viewpoints and aspects from the user and item review documents respectively. Then we derive the representation of each logic unit based on its constituent viewpoint and aspect. A sentiment capsule architecture with a novel Routing by Bi-Agreement mechanism is proposed to identify the informative logic unit and the sentiment based representations in user-item level for rating prediction. Extensive experiments are conducted over seven real-world datasets with diverse characteristics. Our results demonstrate that the proposed CARP obtains substantial performance gain over recently proposed state-of-the-art models in terms of prediction accuracy. Further analysis shows that our model can successfully discover the interpretable reasons at a finer level of granularity.

研究の動機と目的

• ユーザーのレビューに依存する深層学習ベースの推薦システムにおける解釈可能性の欠如に対処すること。
• 全体の感情の関数としてのユーザーの評価行動を単にモデル化するのでなく、特定のユーザーの視点とアイテムの側面の結果としてモデル化すること。
• レビューから抽出された情報的な論理ユニットを特定することで、ユーザーがアイテムを好む・嫌う理由を細分化された形で説明可能にすること。
• ユーザーのレビューにおける複雑で多側面的な感情の推論を捉えることで、評価予測の精度を向上させること。
• 高精度な推薦と人間が理解可能な説明を両立できる統一されたフレームワークを提供すること。

提案手法

• ユーザーとアイテムのレビュー文書から、ユーザーの視点とアイテムの側面を抽出するために、畳み込み層の上にスタックされた自己注意機構が用いられる。
• 各ユーザー・アイテムペアは、ユーザーの視点とアイテムの側面をペアリングして形成された論理ユニットの集合としてモデル化される。
• 各論理ユニットの感情を表現するための感情キャプセルアーキテクチャが導入され、情報的なユニットに動的に情報をルーティングするための独創的なBi-Agreementに基づくルーティング機構が採用される。
• ルーティング機構により、最終的な評価予測に寄与するのは最も関連性の高い論理ユニットに限定され、解釈可能性と性能の両方が向上する。
• 最終出力の解釈可能性を向上させるために、生の評価スコアに対してMax-Normalizationが用いられる。
• 最終的な評価は、感情キャプセル出力の非線形変換により予測され、複雑なユーザーの好みのエンドツーエンド学習が可能になる。

実験結果

リサーチクエスチョン

• RQ1 キャプセルネットワークは、ユーザーの視点とアイテムの側面から構成される細分化された論理ユニットを特定することで、ユーザーの好みを効果的にモデル化できるか？
• RQ2 提案されたBi-Agreementに基づくルーティング機構は、キャプセルネットワークにおける標準的なルーティングと比較して、情報的な論理ユニットの特定を改善するか？
• RQ3 本モデルは、ユーザーのレビューのみを用いても、最先端の深層学習モデルを上回る評価予測の精度を達成できるか？
• RQ4 本モデルは、抽出された論理ユニットを通じて、ユーザーの評価に対する人間が理解可能な説明をどの程度提供できるか？
• RQ5 本モデルは、レビューの特性が異なる多様な実世界データセットにおいて、どの程度の頑健性を示すか？

主な発見

• CARPは、7つの実世界データセットにおいて、最近の最先端モデルと比較して予測精度において顕著な向上を達成した。
• 本モデルは、レビューに実際に表現されたユーザーの感情と好みに対応する解釈可能な論理ユニットを効果的に発見した。
• 定性的な分析において、肯定的および否定的センチメントキャプセルが抽出した上位の論理ユニットは、ユーザーのレビューの実際の内容と感情とよく一致していた。
• Bi-Agreementに基づくルーティング機構は、レビューのテキストにおける意味的に意味のあるフレーズに高い注目を向けることで、関連性の高い論理ユニットを効果的に特定・強調していることが裏付けられた。
• 本モデルは、弱い肯定的または否定的要因といった、洗練された感情のダイナミクスを捉えており、影響力の小さい論理ユニットに対しては、ベクトルの大きさが小さく、ルーティング重みも小さいことでそれが反映されていた。
• Max-Normalizationの導入により、生出力がより直感的な範囲にスケーリングされ、最終的な評価予測の解釈可能性が向上した。