[論文レビュー] ExplaiNE: An Approach for Explaining Network Embedding-based Link Predictions

Bo Kang, Jefrey Lijffijt+1 more|arXiv (Cornell University)|Apr 22, 2019

Advanced Graph Neural Networks参考文献 24被引用数 12

ひとこと要約

ExplaiNE は、ネットワーク埋め込みに基づくリンク予測のための反事後的説明手法を導入し、予測されたリンク確率に最も影響を与える既存のリンクを、それらを弱める影響を測定することで同定する。高い正確性とスケーラビリティを達成しており、特に条件付きネットワーク埋め込みに適用した場合に顕著である。実世界の共同執筆ネットワークおよび映画推薦ネットワークにおいても優れた性能を示す。

ABSTRACT

Networks are powerful data structures, but are challenging to work with for conventional machine learning methods. Network Embedding (NE) methods attempt to resolve this by learning vector representations for the nodes, for subsequent use in downstream machine learning tasks. Link Prediction (LP) is one such downstream machine learning task that is an important use case and popular benchmark for NE methods. Unfortunately, while NE methods perform exceedingly well at this task, they are lacking in transparency as compared to simpler LP approaches. We introduce ExplaiNE, an approach to offer counterfactual explanations for NE-based LP methods, by identifying existing links in the network that explain the predicted links. ExplaiNE is applicable to a broad class of NE algorithms. An extensive empirical evaluation for the NE method `Conditional Network Embedding' in particular demonstrates its accuracy and scalability.

研究の動機と目的

• 最新のネットワーク埋め込み（NE）手法によるリンク予測（LP）において解釈不能な点が顕著であるが、これを是正すること。これらの手法は非常に正確であるが、透明性に欠ける。
• NEに基づくLP予測に対する人間が理解可能な反事後的説明を、数学的に整合したアプローチで生成すること。
• さまざまなNE手法、特にネガティブサンプリングを用いたスキップグラムに基づく手法に対しても、スケーラビリティと実用性を確保すること。
• 共同執筆およびMovieLensのような実世界のネットワークを対象とした定量的および定性的な評価を通じて、本手法の有効性を検証すること。
• ExplaiNE が生成する説明が、安定的かつスケーラブルであるだけでなく、分野の相関関係が示されるように、意味的に意味のあるものであることを示すこと（推薦タスクにおけるジャンル相関を含む）

提案手法

• ExplaiNE は反事後的推論を用いる：既存のリンクを弱める影響が、ターゲットリンクの予測確率に与える影響を定量化する。
• 予測されたリンク {i,j} に対して、既存のリンク {i,k} を弱める際のリンク確率の変化を評価し、{i,k} が正の影響または負の影響を与えると特定する。
• まず、ネットワーク内の任意のリンクまたは非リンクに基づく説明が可能な汎用的な形式で定式化し、その後、スケーラビリティを高めるために隣接リンクに特化する。
• 計算コストを削減しながらも正確性を保持するタイトな近似を導入し、アブレーションスタディを通じて実証的に裏付けられる。
• 条件付きネットワーク埋め込み（CNE）に詳細に適用し、微分可能で透明性のある構造を活かして、効率的な説明生成を実現する。
• スキップグラムとネガティブサンプリングに基づく定式化を踏まえ、DeepWalk や node2vec、LINE、PTE などの他のNE手法へのExplaiNEの拡張についても概要を提示する。

実験結果

リサーチクエスチョン

• RQ1 リンク弱体化に基づく反事後的説明は、NEに基づくリンク予測を効果的かつ正確に説明できるか？
• RQ2 近似を用いる場合を含め、大規模ネットワークに適用した際のExplaiNEのスケーラビリティはいかがなものか？
• RQ3 ExplaiNE が生成する説明は、共著者関係の共有や推薦タスクにおけるジャンル類似性といった意味的なネットワーク構造を反映しているか？
• RQ4 共著者関係および推薦タスクにおいて、説明の予測性能がランダムベースラインと比べてどのように異なるか？
• RQ5 説明の内容（例えば共著者や映画ジャンル）と予測されたリンクの特徴との間の相関関係は、統計的に有意であるか？

主な発見

• ExplaiNE は、予測されたリンク確率に最も影響を与える既存のリンクを的確に同定し、ネットワーク幾何学と整合する直感的な結果を得ている。これはザッカリーの空手部のネットワークで示された。
• 共同執筆予測タスクにおいて、高い正確性と再現率を達成しており、エリック P. シェイン、カマリカ・チャウドゥリ、ルスラン・サラフトゥディノフ、マイケル I. ジョーダンの複数の著者および論文長さにおいて、ランダムランク付けを著しく上回っている。
• MovieLens ネットワークでは、ExplaiNE が生成する上位5件の説明が、推薦された映画のジャンルと統計的に有意な相関（p値は数値的に 0.0）を示しており、視聴済みの映画からも、すべての映画からも説明を抽出した場合に共通して成立する。
• コルモゴロフ＝スミルノフ検定により、ジャンル重複のp値が一様分布に従わないことが確認され、帰無仮説が棄却された。これは、ExplaiNE の説明が推薦対象の特徴と意味的に関連していることを示している。
• ExplaiNE のスケーラブルな近似は、高い安定性と正確性を維持しており、大規模ネットワークにおける実世界の展開に適した実行時間性能を有している。
• 定性的分析により、説明が意味的に整合的であることが確認された。例えば、類似した研究分野を共有する共著者や、類似したジャンルの映画が優先的に説明として選ばれており、信頼性と解釈可能性が向上している。