[論文レビュー] Transduction on Directed Graphs via Absorbing Random Walks

Jaydeep De, Xiaowei Zhang+1 more|arXiv (Cornell University)|Feb 19, 2014

Advanced Graph Neural Networks参考文献 32被引用数 5

ひとこと要約

本論文は、マコフ連鎖上の吸収ランダムウォークを用いて、ラベルなしノードからの期待訪問回数を最大化する、有向グラフのための新しいトランスductive分類手法を提案する。本手法は、スパースまたは動的グラフであっても、グラフ構造および弱い方向性信号を保持しながら、多様な実世界のデータセットで最先端の手法を上回る性能を発揮する。

ABSTRACT

In this paper we consider the problem of graph-based transductive classification, and we are particularly interested in the directed graph scenario which is a natural form for many real world applications. Different from existing research efforts that either only deal with undirected graphs or circumvent directionality by means of symmetrization, we propose a novel random walk approach on directed graphs using absorbing Markov chains, which can be regarded as maximizing the accumulated expected number of visits from the unlabeled transient states. Our algorithm is simple, easy to implement, and works with large-scale graphs. In particular, it is capable of preserving the graph structure even when the input graph is sparse and changes over time, as well as retaining weak signals presented in the directed edges. We present its intimate connections to a number of existing methods, including graph kernels, graph Laplacian based methods, and interestingly, spanning forest of graphs. Its computational complexity and the generalization error are also studied. Empirically our algorithm is systematically evaluated on a wide range of applications, where it has shown to perform competitively comparing to a suite of state-of-the-art methods.

研究の動機と目的

• 実世界の応用で一般的な有向グラフにおけるトランスダクティブ分類のギャップを埋める。
• エッジの対称化に依存せずに方向性情報を保持する手法を開発する。
• 大規模な有向グラフにおけるスパarsityおよび動的変化に対して頑健であることを保証する。
• 対称的アプローチではしばしば失われる、有向エッジに符号化された弱い信号に感度を保つ。
• マコフ連鎖に基づく理論的基盤を確立し、グラフラプラシアンやスパニングフォレストといった既存手法と接続する。

提案手法

• ラベル付きノードを吸収状態とし、ラベルなしノードを一時的状態とする、分類問題を吸収マコフ連鎖として定式化する。
• 各ラベルなしノードから吸収状態へのランダムウォークによる期待訪問回数を最大化することを目的とする。
• 吸収マコフ連鎖の基本行列を用いて、訪問確率に基づく分類スコアを計算する。
• エッジの対称化を一切行わず、有向グラフの構造を直接活用することで、エッジの方向性と弱い信号を保持する。
• スパarsityの活用と動的グラフにおける段階的更新により、計算効率を確保する。
• 基礎となるマコフ連鎖フレームワークを通じて、グラフラプラシアン手法、グラフカーネル、スパニングフォレストとの理論的接続を確立する。

実験結果

リサーチクエスチョン

• RQ1 エッジの対称化による方向性情報の損失を避けるために、有向グラフにおけるトランスダクティブ分類を効果的に行うにはどうすればよいか？
• RQ2 吸収ランダムウォークは、スパースまたは進化する有向グラフにおいて、構造的および信号的情報をどの程度保持できるか？
• RQ3 提案手法の吸収ウォークと、グラフラプラシアンやグラフカーネルといった既存のグラフベース手法との理論的関係は何か？
• RQ4 実世界の有向グラフデータセットにおいて、提案手法は最先端のトランスダクティブ分類技術と比較してどの程度の性能を発揮するか？
• RQ5 提案された吸収ランダムウォークアプローチの計算複雑性および一般化誤差の上限は何か？

主な発見

• 提案手法は、幅広い実世界の有向グラフ応用において、競争力のある性能を発揮し、最先端の手法を上回るか同等の性能を達成する。
• 本手法は、対称的または無向グラフアプローチでしばしば失われる、有向エッジに内蔵された弱い信号を効果的に保持する。
• スパースグラフでも高い性能を維持でき、効率的な更新メカニズムのおかげで動的グラフ構造に対しても適応性が非常に高い。
• 理論的分析により、グラフラプラシアン手法やスパニングフォレストとの接続が明らかになり、既存手法を統合的に理解する視点が得られる。
• 計算複雑性および一般化誤差の上限が良好であることが示され、大規模グラフへのスケーラビリティを支持する。