[論文レビュー] Model Selection Framework for Graph-based data

Rajmonda S. Caceres, Leah Weiner+3 more|arXiv (Cornell University)|Sep 15, 2016

Graph Theory and Algorithms参考文献 4被引用数 3

ひとこと要約

本稿では、エドős＝レニーおよびストークスティックブロックモデルを区別するためのトポロジカル特徴量を用いたランダムフォレストベースのモデル選択フレームワークを提案する。この手法は、近似的に最適な分類精度を達成し、ノイズやパラメータ推定誤差に対して頑健である。また、パrameter空間全体にわたり、主に15個の特徴量が分類能の大部分を占めることを明らかにしたが、生成パラメータが低次元であるにもかかわらず、26個の特徴量のうち約15個が主な判別力を持つことが示された。

ABSTRACT

Graphs are powerful abstractions for capturing complex relationships in diverse application settings. An active area of research focuses on theoretical models that define the generative mechanism of a graph. Yet given the complexity and inherent noise in real datasets, it is still very challenging to identify the best model for a given observed graph. We discuss a framework for graph model selection that leverages a long list of graph topological properties and a random forest classifier to learn and classify different graph instances. We fully characterize the discriminative power of our approach as we sweep through the parameter space of two generative models, the Erdos-Renyi and the stochastic block model. We show that our approach gets very close to known theoretical bounds and we provide insight on which topological features play a critical discriminating role.

研究の動機と目的

• 観測されたグラフデータに対して、現実のネットワークで一般的に見られるスパースな領域においても、最も適切な生成モデルを選択するための頑健なフレームワークを開発すること。
• エドős＝レニーおよびストークスティックブロックモデルという2つの広く使われている生成モデルの全パrameter空間にわたるモデル選択性能を特徴づけること。
• 構造的およびノイズ条件が変化する状況下で、グラフモデルを区別するのに最も有効なトポロジカル特徴量を同定すること。
• パラメータ推定誤差やグラフサイズの変動といった現実世界の一般的な課題に対して、モデル選択フレームワークの頑健性を評価すること。
• パrameter空間の異なる領域における特徴量の重要度を分析することで、グラフ表現の複雑さに関する洞察を提供すること。

提案手法

• 各グラフインスタンスに対して、次数、媒介性、近接性、クラスタ係数、直径、半径、三辺数、平均最短経路長といった全26種類のトポロジカル特徴量を用い、各特徴量をノードごとに最大値、最小値、平均値、標準偏差として計算する。
• スパースな領域（O(V)本の辺）における広範なパラメータ範囲で、エドős＝レニーおよびストークスティックブロックモデルから生成されたラベル付きグラフインスタンスを用いてランダムフォレスト（RF）分類器を学習する。
• モデル選択タスクを二値分類問題として定式化し、与えられたグラフインスタンスのトポロジカル特徴量ベクトルに基づいて、それがエドős＝レニーまたはストークスティックブロックモデルに属するかを分類する。
• ノイズの異なるレベル（10%および20%のエッジ再接続、p_inおよびp_outのパラメータ推定誤差±0.02および±0.04）を想定して性能を評価する。
• グラフサイズの変動に対する頑健性を検証するため、n=1000のグラフで学習し、同じモデルパラメータでn=1100のグラフで評価する。
• 特徴量の重要度を分析し、分類に最も寄与する特徴量を同定する。上位k個の特徴量（例：上位10個、上位15個）を用いたアブレーションスタディを実施する。

実験結果

リサーチクエスチョン

• RQ1 スパースグラフ領域において、機械学習とトポロジカル特徴量を用いて、エドős＝レニーとストークスティックブロックモデルを効果的に区別できるか？
• RQ2 構造的パラメータやノイズ（例：エッジ再接続、パラメータ推定誤差）の変化に伴い、モデル選択性能はどのように低下するか？
• RQ3 パラメータ空間の異なる領域において、2つのモデルを区別するのに最も重要なトポロジカル特徴量は何か？
• RQ4 グラフサイズの変動やノイズ、不正確なパラメータ推定といった要因に対して、ランダムフォレスト分類器はどの程度頑健か？
• RQ5 上位特徴量の少数集合が、高い分類精度を維持できる範囲はどの程度か？また、このセットはパラメータ空間全体で一様に変化するか？

主な発見

• ランダムフォレスト分類器は、スパースなエドős＝レニーおよびストークスティックブロックモデルのグラフを区別する際、理論的性能限界に非常に近い近似的に最適な分類精度を達成した。
• 10%のエッジが一様に再接続された場合、分類精度は比較的高いが、20%に達すると急激に低下し、頑健性に明確なしきい値があることが示された。
• パラメータ推定誤差が±0.02までであれば分類性能を維持できるが、±0.04を超えると著しく劣化した。
• グラフサイズの変化（例：n=1000で学習、n=1100で評価）に伴い、スパースなグラフでは精度が低下したが、密度の高い領域では相対的に頑健であった。
• 元の26個のトポロジカル特徴量のうち約15個が、分類能の大部分を占めており、このセットはパラメータ空間全体で変動する。
• 上位10個の特徴量のみを用いると性能が著しく低下し、純粋なグラフインスタンスの研究とは対照的に、特徴量選択は文脈依存的でモデル特有であることが示された。