[論文レビュー] Machine learning meets network science: dimensionality reduction for fast and efficient embedding of networks in the hyperbolic space

Josephine Maria Thomas, Alessandro Muscoloni+3 more|arXiv (Cornell University)|Feb 21, 2016

Complex Network Analysis Techniques参考文献 49被引用数 45

ひとこと要約

この論文は、非線形非教師あり次元削減を活用して、ノードの角度座標を『角度の凝集』と呼ばれる現象により近似することで、大規模なネットワークを高速に双曲空間に埋め込む、画期的な機械学習手法を提案する。この手法は、数千ノードを含むグラフに対しても、計算効率が著しく高く、既存手法を大きく上回りながら、トポロジカル構造を保持する、高速で正確かつスケーラブルな双曲ネットワーク埋め込みを実現する。

ABSTRACT

Complex network topologies and hyperbolic geometry seem specularly connected, and one of the most fascinating and challenging problems of recent complex network theory is to map a given network to its hyperbolic space. The Popularity Similarity Optimization (PSO) model represents - at the moment - the climax of this theory. It suggests that the trade-off between node popularity and similarity is a mechanism to explain how complex network topologies emerge - as discrete samples - from the continuous world of hyperbolic geometry. The hyperbolic space seems appropriate to represent real complex networks. In fact, it preserves many of their fundamental topological properties, and can be exploited for real applications such as, among others, link prediction and community detection. Here, we observe for the first time that a topological-based machine learning class of algorithms - for nonlinear unsupervised dimensionality reduction - can directly approximate the network's node angular coordinates of the hyperbolic model into a two-dimensional space, according to a similar topological organization that we named angular coalescence. On the basis of this phenomenon, we propose a new class of algorithms that offers fast and accurate coalescent embedding of networks in the hyperbolic space even for graphs with thousands of nodes.

研究の動機と目的

• 大規模ネットワークにおける既存の双曲ネットワーク埋め込み手法の計算非効率性を解決すること。
• ネットワークのトポロジカル構造を活用して、明示的な幾何最適化を伴わずに双曲空間のノード角度座標を近似すること。
• クラスタリングやパワー則度分布といった重要なネットワーク特性を保持する、高速でスケーラブルかつ正確な埋め込み手法を開発すること。
• 非線形次元削減技術が、ネットワークトポロジを双曲的類似表現に効果的に凝集できることを示すこと。

提案手法

• 本手法は、ネットワークノードを2次元の双曲空間に埋め込むために、主に非線形非教師あり次元削減を用いたトポロジカルベースの機械学習アルゴリズムを適用する。
• 本手法は、「角度の凝集」と呼ばれる現象を特定・活用し、元のネットワーク内のトポロジカル類似性に基づいて、双曲空間におけるノードの角度位置を近似する。
• Popularity-Similarity Optimization (PSO) モデルの計算コストの高い最適化を回避し、ネットワークトポロジから直接角度座標を学習する。
• 多様体学習技術を用いて、低次元の双曲埋め込みにおけるネットワークの内在的な幾何構造を保持する。
• ノードのポピュラーさと類似性を反映する角度座標を学習することで、ノードを2次元の双曲空間にマッピングする。
• 得られた埋め込みは凝集的であるため、元のネットワークの階層的かつスケールフリーな組織構造を維持する。

実験結果

リサーチクエスチョン

• RQ1 非線形次元削減技術は、明示的な幾何最適化を伴わずに、複雑ネットワークにおける双曲角度座標を近似できるか？
• RQ2 角度の凝集現象は、どのように高速かつ正確な双曲ネットワーク埋め込みを可能にするか？
• RQ3 トポロジカル構造のみで、双曲空間の本質的幾何的性質をどれほど正確に捉えることができるか？
• RQ4 本手法は、数千ノードを含む大規模ネットワークに対しても、効率的にスケーリング可能か？
• RQ5 本手法は、PSOモデルおよび他の双曲埋め込み手法と比較して、性能と速度の点でどの程度優れているか？

主な発見

• 本手法は、トポロジカル凝集による角度座標の近似により、計算コストを著しく削減し、高速かつ正確な双曲ネットワーク埋め込みを実現する。
• 本手法は、クラスタリング、パワー則度分布、階層的構造といった重要なネットワーク特性を、埋め込みにおいても保持する。
• 本アルゴリズムは大規模ネットワークに対しても効率的にスケーリングでき、数千ノードを含むグラフに対しても実用的応用が可能である。
• 角度の凝集現象により、PSOモデルの反復的最適化を必要とせず、トポロジカル忠実性を維持できる。
• 埋め込み品質はPSOモデルと同等であるが、実行時間性能が著しく優れている。
• 本手法は、得られた双曲表現を用いて、リンク予測やコミュニティ検出といった有効な後続タスクを実行可能にしている。