[論文レビュー] The Multiple Random Dot Product Graph Model

Agnes Martine Nielsen, Daniela Witten|arXiv (Cornell University)|Nov 29, 2018

Complex Network Analysis Techniques参考文献 12被引用数 14

ひとこと要約

本稿では、同一ノード上で複数のグラフを扱うための、MREGモデルの洗練された拡張版である複数ランダムドット積グラフ（multi-RDPG）モデルを提案する。このモデルは、潜在ベクトルに正定値性と直交性を強制することで、同一ノード上での複数グラフのモデリングを改善する。直交プロクラウス変換を用いた交互最小化アルゴリズムと、グラフ間の分布的差異を検出するための仮説検定を導入し、シミュレーションおよびWikipediaとC. elegansネットワークの実データにおいて、適合性と推論性能の向上を示している。

ABSTRACT

Data in the form of graphs, or networks, arise naturally in a number of contexts; examples include social networks and biological networks. We are often faced with the availability of multiple graphs on a single set of nodes. In this article, we propose the multiple random dot product graph model for this setting. Our proposed model leads naturally to an optimization problem, which we solve using an efficient alternating minimization approach. We further use this model as the basis for a new test for the hypothesis that the graphs come from a single distribution, versus the alternative that they are drawn from different distributions. We evaluate the performance of both the fitting algorithm and the hypothesis test in several simulation settings, and demonstrate empirical improvement over existing approaches. We apply these new approaches to a Wikipedia data set and a C. elegans data set.

研究の動機と目的

• 既存のモデルが同一ノード集合上の複数グラフを処理する際の限界、特にグラフが同一分布に従わない場合の問題を解決すること。
• ランダムドット積グラフを複数グラフに一般化しつつ、解釈可能性と正定値性を保持する統計的に整合性のあるモデルを構築すること。
• 異なる次元間で潜在ベクトルの直交性を強制する効率的な最適化アルゴリズムを提案すること。
• 複数のグラフが同じ潜在分布から生成されたものか、それとも異なるものかを統計的に検証できること。
• 合成データおよび実世界のネットワーク（WikipediaとC. elegansタンパク質相互作用データを含む）におけるモデルの性能を評価すること。

提案手法

• 潜在重み行列 $ W^k = U\tilde{\Lambda}^k U^T $ がすべての $ k $ に対して正定値であることを要件とするmulti-RDPGモデルを提案し、$ K=1 $ の場合に標準的なランダムドット積グラフモデルに正確に還元されることを保証する。
• 直交潜在行列 $ U $ と対角行列 $ \Lambda^k $ を交互に更新するアルゴリズムを構築し、$ U $ の更新には直交プロクラウス問題を適用する。
• 固定された $ U $ に対して、$ \Lambda^k $ の対角成分は凸二次部分問題の閉形式解により更新され、非負性が保証される。
• 主要化・最小化アプローチを用いて目的関数を最適化し、Liebの凹性定理を活用して補助関数の凹性と収束性を保証する。
• 平均隣接行列とその低ランク近似との差のフロベニウスノルムに基づく仮説検定を採用し、複数のグラフが共通の潜在構造を持つかどうかを検証する。
• 最適化の初期化に平均隣接行列の特異値分解を適用し、アルゴリズムの収束を促進する良好な初期点を確保する。

実験結果

リサーチクエスチョン

• RQ1 同一ノード集合上の複数グラフに対して、より解釈可能で統計的に整合性のあるランダムドット積グラフモデルの一般化は可能か？
• RQ2 潜在構造に直交性と正定値性を強制することで、従来の手法と比較してモデル適合性と推論性能が向上するか？
• RQ3 潜在ベクトルの直交性を維持しつつ、信頼性の高い収束を示す効率的な交互最小化アルゴリズムを設計できるか？
• RQ4 提案された仮説検定は、複数のグラフ間の生成分布の差をどれほど正確に検出できるか？
• RQ5 multi-RDPGモデルは、WikipediaやC. elegansタンパク質相互作用データを含む実世界ネットワークの適合において、実証的にどれほど優れた性能を示すか？

主な発見

• $ K=1 $ の場合に、multi-RDPGモデルは正確に標準的なランダムドット積グラフモデルに還元され、理論的整合性が保たれる。
• 直交プロクラウス更新を組み込んだ交互最小化アルゴリズムは、収束が信頼性高く、シミュレーションデータにおいてMREGアルゴリズムを上回る適合精度を達成する。
• 平均隣接行列のフロベニウスノルムに基づく仮説検定は、シミュレーション設定において分布的差異の検出に高い検出力を持つ。
• Wikipediaデータセットでは、異なる種類のユーザーアクティビティネットワーク間で明確に異なる潜在構造を同定できた。
• C. elegansデータセットでは、異なる実験的条件下での神経結合パターンの意味のある差をモデルが明らかにし、生物学的解釈可能性を裏付けた。
• 特に異質なグラフ分布を示す状況においても、適合および検定タスクの両面で、既存手法に比べて改善された実証的性能を示した。