[論文レビュー] CAUSE: Learning Granger Causality from Event Sequences using Attribution Methods

Wei Zhang, Thomas Kobber Panum+3 more|arXiv (Cornell University)|Feb 18, 2020

Explainable Artificial Intelligence (XAI)参考文献 3被引用数 12

ひとこと要約

CAUSE は、複雑なイベント依存関係をモデル化するニューラルポイントプロセスと、解釈可能な因果統計を抽出する公理的帰属手法を組み合わせることで、多様なタイプのイベント系列からグラングル因果関係を学習する画期的なフレームワークである。合成データおよび実世界の多様なデータセットにおいて、従来のハーケス過程モデルが失敗する抑制や協同効果が顕在する状況でも、最先端の手法を上回る性能を発揮する。

ABSTRACT

We study the problem of learning Granger causality between event types from asynchronous, interdependent, multi-type event sequences. Existing work suffers from either limited model flexibility or poor model explainability and thus fails to uncover Granger causality across a wide variety of event sequences with diverse event interdependency. To address these weaknesses, we propose CAUSE (Causality from AttribUtions on Sequence of Events), a novel framework for the studied task. The key idea of CAUSE is to first implicitly capture the underlying event interdependency by fitting a neural point process, and then extract from the process a Granger causality statistic using an axiomatic attribution method. Across multiple datasets riddled with diverse event interdependency, we demonstrate that CAUSE achieves superior performance on correctly inferring the inter-type Granger causality over a range of state-of-the-art methods.

研究の動機と目的

• 多様なタイプのイベント系列における抑制や協同効果といった複雑なイベント相互依存関係を捉えることに限界を示す既存モデルの課題に対処すること。
• ニューラルポイントプロセスのモデルの柔軟性と因果関係発見におけるモデルの解釈可能性のギャップを埋めること。
• 高表現力を持つニューラルポイントプロセスモデルからグラングル因果関係統計を抽出するスケーラブルでモデルに依存しない手法を開発すること。
• 多様な実世界のイベントデータにおいて、興奮的および抑制的因果関係を強固に検出できること。

提案手法

• 非同期で多様なタイプのイベント系列に内在する複雑で非線形な依存関係を捉えるために、柔軟なニューラルポイントプロセス（NPP）モデルを訓練する。
• 訓練済み NPP に公理的帰属手法（例：統合勾配）を適用し、入力特徴の重要度に基づく新しいグラングル因果統計を計算する。
• 大規模な因果統計を効率的に計算するために、2段階のバッチ処理アルゴリズムを設計し、数百万件のイベントを処理可能にする。
• 帰属スコアをグラングル因果関係の代理指標とし、スコアが高いほどあるイベントタイプが別のイベントタイプに強い予測的影響を持つことを示す。
• 完全性や感受性といった公理を満たすことで、信頼性の高い因果推定を保証する。
• 帰属手法のモデルに依存しない性質を活かし、任意の NPP アーキテクチャから因果関係を抽出可能にし、アーキテクチャの制約を設けない。

実験結果

リサーチクエスチョン

• RQ1 帰属に基づく説明手法を用いたニューラルポイントプロセスモデルは、複雑な依存関係を示す多様なタイプのイベント系列において、信頼性を持ってグラングル因果関係を推定できるか？
• RQ2 イベント相互作用に単純な興奮を超えた抑制や協同効果が含まれる場合、本手法はハーケス過程に基づく手法と比較してどの程度優れた性能を示すか？
• RQ3 NPP からの帰属に基づく因果推定は、イベント相互依存パターンが異なる多様な実世界データセットにどの程度一般化可能か？
• RQ4 大規模なイベント系列における帰属に基づく因果推定計算手法の計算スケーラビリティはどの程度か？
• RQ5 従来の興奮のみを想定するモデルでは検出できない、正のおよび負の因果関係（例：抑制効果）を同定できるか？

主な発見

• 抑制データセットでは、AUC（0.920 ± 0.012）と Kendall’s τ（0.533 ± 0.013）の両方で最高を記録し、すべてのベースラインを顕著に上回った。
• 協同効果データセットでは、AUC（0.921 ± 0.021）と τ（0.532 ± 0.021）を達成し、複雑で非線形なイベント相互作用に対しても高いロバストネスを示した。
• MT データセットでは、AUC（0.991 ± 0.004）と τ（0.331 ± 0.003）を達成し、大規模な実世界データでも優れた性能を発揮した。
• IPTV データセットでは、NPP を用いた手法 RPPN よりも AUC が 38% 高く、帰属品質の優位性を示した。
• 広告 → ドラマ、教育 → エンターテインメント といった意味のある負の因果関係（例：抑制効果）を検出でき、HSG のような興奮のみを想定するモデルでは検出できない。
• 2段階のバッチ処理アルゴリズムは、大規模なシーケンスにおいて、ナイーブな実装と比較して 1,000 倍以上の高速化を達成し、通常のワークロード下でもほぼ線形スケーリングを示した。