[論文レビュー] Modelling graph dynamics in fraud detection with "Attention"

Susie Xi Rao, Clémence Lanfranchi+8 more|arXiv (Cornell University)|Apr 22, 2022

Advanced Graph Neural Networks被引用数 5

ひとこと要約

本稿では、時系列的エンティティ表現と異種グラフアテンション機構を統合することで、不正検出における時間的・構造的ダイナミクスをモデル化する動的非同種グラフニューラルネットワークDyHGNを提案する。実世界のeBayデータセットにおいて、時間的分布に偏りのあるラベルを有する状況でも最先端の性能を達成し、シャープレー値を用いた解釈可能性の向上とともに、動的かつ非同種のグラフパターンを捉えるアテンションの重要性を示している。

ABSTRACT

At online retail platforms, detecting fraudulent accounts and transactions is crucial to improve customer experience, minimize loss, and avoid unauthorized transactions. Despite the variety of different models for deep learning on graphs, few approaches have been proposed for dealing with graphs that are both heterogeneous and dynamic. In this paper, we propose DyHGN (Dynamic Heterogeneous Graph Neural Network) and its variants to capture both temporal and heterogeneous information. We first construct dynamic heterogeneous graphs from registration and transaction data from eBay. Then, we build models with diachronic entity embedding and heterogeneous graph transformer. We also use model explainability techniques to understand the behaviors of DyHGN-* models. Our findings reveal that modelling graph dynamics with heterogeneous inputs need to be conducted with "attention" depending on the data structure, distribution, and computation cost.

研究の動機と目的

• eコマースプラットフォームにおける不正検出を目的とした、非同種グラフの構造的および時間的ダイナミクスを統合的にモデル化するエンドツーエンドフレームワークの開発。
• ノードおよびエッジの関係が変化する動的で現実世界の取引グラフにおいて、不正アカウントおよび取引を検出する課題への対応。
• 異なるデータ分布および計算制約下での動的かつ非同種のグラフ構造をモデル化するためのアテンション機構の有効性の評価。
• グラフ由来の特徴量に対するシャープレー値を用いた解釈可能性の向上を通じて、行動可能なビジネスインサイトを提供する。

提案手法

• 登録および取引データを用いてeBayの動的非同種グラフを構築し、複数のノードタイプ（例：アカウント、IPアドレス、電話番号）および時間的エッジを統合する。
• LSTMを用いて時間的経過に伴うエンティティ表現の変化を捉える、時系列的エンティティ埋め込みを実装する。
• 自己アテンションを統合した異種グラフトランスフォーマー（HGT）を用いて、異なるノードおよびエッジタイプ間の動的関係をモデル化する。
• アブレーションおよび性能比較のため、DyHGN-DE（時系列的埋め込みのみ）およびDyHGN-DE-HGT（時系列的埋め込み＋HGT）の変種をDyHGNに拡張する。
• グラフ由来の特徴量とシャープレー値を用いてモデル予測を説明し、特徴量の重要度を評価するため、XGBoostを用いる。
• DyHGN-* モデルを、GATおよび他のGNNと比較するため、3つの実世界データセット（MassReg、xFraudTxn、xFraudAccount）を用いてベンチマークする。

実験結果

リサーチクエスチョン

• RQ1 アテンションを用いて動的かつ非同種のグラフ構造をモデル化することで、静的または同種のモデルと比較して不正検出性能がどのように向上するか？
• RQ2 動的グラフ設定下で、HGTのようなアテンションベースのメカニズムとGATのような単純なモデルの間で、性能と計算コストのトレードオフはどのようなものか？
• RQ3 時間的分布に偏りのあるラベルが与えられた場合、動的グラフニューラルネットワークの性能にどのような影響を与えるか。また、DyHGN-* モデルはこの問題を緩和できるか？
• RQ4 アテンション機構は、リスクパターンが変動する動的グラフにおいて、長期間の依存関係をどの程度捉えることができるか？
• RQ5 シャープレー値は、不正検出システムにおけるグラフ由来の特徴量およびモデル意思決定を説明するために、どの程度有効か？

主な発見

• DyHGN-* モデルは、時間的パターンが重要なMassRegのような、ラベルの分布に偏りのあるデータセットにおいて、GATおよび他のGNNを上回る性能を示す。
• ラベルの分布が比較的均等なデータセット（xFraudTxn、xFraudAccount）では、GATがHGTベースのモデルを著しく上回り、低い学習コストと同等の性能が得られる。
• 時系列的エンティティ埋め込みの統合により、歴史的データからの長期的依存関係の学習が可能となり、リスクパターンが時間経過とともに変化する状況で特に有効である。
• シャープレー値を用いた解釈可能性の分析から、特に時間的および構造的パターンから得られるグラフ由来の特徴量が、不正予測の主要因であることが明らかになった。
• 最大のDyHGN-* モデルは1エポックあたり4〜15分を要しており、スケーラビリティの課題が示唆される。今後の研究では、産業規模での利用を想定したミニバッチ学習および分散型デプロイメントの開発を重点的に進める。