[論文レビュー] Supervised Blockmodelling

Leto Peel|arXiv (Cornell University)|Sep 25, 2012

Complex Network Analysis Techniques参考文献 18被引用数 5

ひとこと要約

本稿では、リンク構造から解釈可能な役割ベースの相互作用パターンを学習することで、ネットワーク内のノード分類を向上させる教師ありブロックモデリングを提案する。3つのバリエーション——標準SBM、単一所属、混合所属ブロックモデリング——を用い、混合所属モデルがより高い計算コストを伴うが優れた性能を示す。すべてのモデルが、異種性のあるネットワークにおいて標準SBMを上回る性能を発揮する。

ABSTRACT

Collective classification models attempt to improve classification performance by taking into account the class labels of related instances. However, they tend not to learn patterns of interactions between classes and/or make the assumption that instances of the same class link to each other (assortativity assumption). Blockmodels provide a solution to these issues, being capable of modelling assortative and disassortative interactions, and learning the pattern of interactions in the form of a summary network. The Supervised Blockmodel provides good classification performance using link structure alone, whilst simultaneously providing an interpretable summary of network interactions to allow a better understanding of the data. This work explores three variants of supervised blockmodels of varying complexity and tests them on four structurally different real world networks.

研究の動機と目的

• 集団分類手法が同質性を仮定しており、クラス内での異種性のある相互作用パターンをモデル化できないという限界を解消すること。
• ネットワーク構造を活用して分類性能を向上させるとともに、ノードの役割相互作用の解釈可能な要約を提供する教師ありブロックモデリングフレームワークの開発。
• 実世界の多様なネットワークにおいて、標準SBM、単一所属、混合所属の3つの教師ありブロックモデリングバリエーションを比較し、性能と計算コストのトレードオフを評価すること。
• 学習されたブロックモデリング構造が、関係データにおけるクラス-役割関係および役割相互作用ネットワークの解釈可能な分析をどの程度可能にするかを示すこと。

提案手法

• 確率的ブロックモデリングに基づく教師ありブロックモデリングフレームワークを提案。ノードの役割はリンク構造から推定され、それがノードのクラスラベルの予測に用いられる。
• ギブスサンプリングの遅い収束や標準的変分推論における高コストなディガマ関数評価を回避する、効率的な更新式を備えた畳み込み変分ベイズ推論法を導入。
• 3つのモデルを開発：(1) 標準SBMでは役割とクラスが同一視される。 (2) 教師あり単一所属ブロックモデリング（SSMB）では、1つのクラスに複数の役割が許容される。 (3) 教師あり混合所属ブロックモデリング（SMMB）では、ノードが複数の役割に属し、ソフトマックス確率で割り当てられる。
• 混合所属モデルにおけるソフトマックスパラメータの推定に共役勾配最適化を用い、柔軟な役割割り当てを可能にする。
• 生成プロセスとして、ノードの役割はディリクレ事前分布から抽出され、エッジの確率は役割ペアに基づくベータ分布から抽出される。
• 4つの実世界ネットワーク——Cora、David、News、Weddell——を用い、ネットワーク内分類を適用して、構造的性質の異なる状況での性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 教師ありブロックモデリングが、クラスの同質性を仮定するのではなく、ネットワークの役割間の相互作用パターンをモデル化することで、ノード分類性能を向上させられるか？
• RQ2 異種性のある相互作用パターンを示すネットワークにおいて、単一所属および混合所属ブロックモデリングの性能と解釈可能性は、標準SBMと比較してどの程度異なるか？
• RQ3 教師ありブロックモデリングの単一所属と混合所属バージョンの間で、計算コストと性能のトレードオフはどのようなものか？
• RQ4 学習されたブロックモデリング構造は、クラス-役割関係および役割相互作用ネットワークにおいて、どの程度解釈可能なパターンを明らかにできるか？

主な発見

• クラスレベルでの相互作用の異種性が存在するNewsおよびWeddellネットワークにおいて、教師あり混合所属ブロックモデリング（SMMB）が最高の分類性能を達成した。
• 高い同質性を示すCoraおよび非同質性を示すDavidネットワークでは、標準SBMがより複雑なモデルと同等の性能を示し、均質な状況では複雑さの増加に明確な利点がないことを示唆した。
• Weddellデータセットでは、単一所属モデル（SSMB）が混合所属モデルを上回ったが、分散がやや高かった。これは、正確性と安定性の間のトレードオフを示している。
• 混合所属モデルは、共役勾配によるソフトマックスパラメータ推定の計算コストのため、単一所属モデルよりも著しく長い実行時間を要した。
• SMMBモデルから導出された要約ネットワークは、解釈可能なパターンを明らかにした。例えば、共起する役割の鎖（例：4-2-5-1）や方向性のある接続（例：副詞は唯一動詞に接続される）といったパターンが観察された。
• 役割分布の分析から、特定の役割が特定のクラスと一貫して関連していることがわかった。例えば、役割1および2は主に動詞と関連し、役割7および9は名詞に関連している。