[論文レビュー] Are we there yet? When to stop a Markov chain while generating random graphs

Jaideep Ray, Ali Pinar+1 more|arXiv (Cornell University)|Feb 15, 2012

Complex Network Analysis Techniques参考文献 10被引用数 5

ひとこと要約

本稿では、所望の連携次数分布を有するほぼ独立なランダムグラフを生成するために必要なマルコフ連鎖の反復回数（N）を決定する2つの実用的手法を提案する。手法Aはエッジの独立性を仮定した閉形式モデルを用いてNを推定する。一方、手法Bはエッジ出現時系列のデータ駆動型スプライシングを用い、最適なスプライシング要因kを特定する。主な結果として、N ≈ 30|E|がほぼ独立なサンプルを提供することが判明し、スケールにおいて手法Aの出力は手法Bの出力と統計的に区別できない。

ABSTRACT

Markov chains are a convenient means of generating realizations of networks, since they require little more than a procedure for rewiring edges. If a rewiring procedure exists for generating new graphs with specified statistical properties, then a Markov chain sampler can generate an ensemble of graphs with prescribed characteristics. However, successive graphs in a Markov chain cannot be used when one desires independent draws from the distribution of graphs; the realizations are correlated. Consequently, one runs a Markov chain for N iterations before accepting the realization as an independent sample. In this work, we devise two methods for calculating N. They are both based on the binary "time-series" denoting the occurrence/non-occurrence of edge (u, v) between vertices u and v in the Markov chain of graphs generated by the sampler. They differ in their underlying assumptions. We test them on the generation of graphs with a prescribed joint degree distribution. We find the N proportional |E|, where |E| is the number of edges in the graph. The two methods are compared by sampling on real, sparse graphs with 10^3 - 10^4 vertices.

研究の動機と目的

• マルコフ連鎖モンテカルロ（MCMC）サンプラーが逐次的依存性により相関のあるサンプルを生成するという課題に対処する。
• 初期化バイアスを排除し、MCMCで生成されたグラフ集合の自己相関を減らすために、サンプリングを開始するまでの最小反復回数Nを特定する。
• ユーザー定義のしきい値を必要とせず、すべてのエッジにおける完全な自己相関解析の高コストを回避する、簡単で実用的かつ近似的な手法を開発する。
• 実際のスパarsなグラフを用いて提案手法を検証し、直径やエッジ分布などのグラフレベルの指標を用いて性能を比較する。
• 固定された連携次数分布を持つ統計的に信頼できるグラフ集合を生成するためのスケーラブルなソリューションを提供する。

提案手法

• 手法A（「複数の短い実行」）は、エッジの独立性に基づく閉形式モデルを用い、マルコフ連鎖が定常分布に収束するまでに必要な反復回数Nを推定する。
• この手法は、連鎖内でのエッジ出現がベルヌーイ過程に従うと仮定し、初期状態を十分に「忘れた」状態に達するNを導出する。
• 手法B（「1つの長い実行」）は、1つの長いMCMC実行におけるエッジ存在/不在のバイナリ時系列を分析し、k番目のサンプルのみを保持することで連鎖を段階的にスプライシングする。
• 1次マルコフモデルと独立サンプリングモデルの間で尤度を比較し、独立モデルのBICスコアが低くなるようなスプライシング要因kを選択する。
• この手法はデータ駆動型であり、ρ_minのようなユーザー定義のしきい値を必要としないため、従来の自己相関に基づくアプローチよりもより頑健である。
• 両手法は実際のスパースグラフ（10^3–10^4頂点）でテストされ、直径やエッジ分布などのグラフ指標を用いて結果が検証された。

実験結果

リサーチクエスチョン

• RQ1 MCMC反復回数Nをどのように決定すれば、生成されたグラフレイアウトが近似的に独立になる実用的でスケーラブルな手法が存在するか？
• RQ2 ユーザー定義のしきい値に依存せずに、MCMCで生成されたグラフ集合における初期化バイアスと自己相関をどのように最小化できるか？
• RQ3 提案手法である手法A（モデルベース）と手法B（データ駆動型）が、統計的に同等のグラフ集合を生成する程度はどの程度か？
• RQ4 N ≈ 30|E|の選択と、データ駆動型のk要因の選択は、直径やエッジ分布といったグローバルなグラフ特性をどの程度保持するか？
• RQ5 まれなエッジの少数に残存する相関が、グラフ指標の全体的な分布に及ぼす影響は何か？

主な発見

• 提案手法Aは、N ≈ 30|E|がほぼ独立なグラフレイアウトを生成するのに十分であると推定し、初期化バイアスを最小化し、ほぼ定常状態に達する。
• BICに基づくモデル選択をエッジ時系列に適用する手法Bは、通常10|E|から100|E|の範囲にある最適なスプライシング要因kを同定し、N ≈ 30|E|の実用性を裏付けた。
• N = 30|E|を用いた手法Aで生成されたグラフ集合は、直径やエッジ分布といった複数の指標において、手法Bで生成されたものと統計的に区別できない。
• 理論的仮定としてエッジの独立性を採用している手法Aでも、結果の集合は手法Bとわずかに異なるが、まれなエッジにおける残存相関のためわずかに分布が広がるにとどまる。
• 手法Aと手法Bの差は測定可能ではあるが、大きなグラフでは無視できるほど小さく、N ≈ 30|E|が独立なサンプルを生成するための頑健で実用的な選択であることが示された。
• 本研究は、両手法が有効かつスケーラブルであることを示しており、手法Aはすべての|V|²エッジにおける完全な自己相関解析に比べて計算コストが低い代替手段を提供する。