[論文レビュー] Strongly Local Hypergraph Diffusions for Clustering and Semi-supervised Learning

Meng Liu, Nate Veldt+3 more|arXiv (Cornell University)|Nov 16, 2020

Complex Network Analysis Techniques参考文献 60被引用数 5

ひとこと要約

本稿では、パーソナライズド・ページランクにインspiredされた二次的ハイパーグラフカット目的関数を解く強力な局所的ハイパーグラフ拡散法を提案する。この手法は、大規模ハイパーグラフにおいて高いスケーラビリティと正確性を達成しており、数百万エッジのデータセットでも数秒で実行可能である。さまざまなカット関数をサポートし、チェーバーに類似た境界によって理論的保証を提供する。

ABSTRACT

Hypergraph-based machine learning methods are now widely recognized as important for modeling and using higher-order and multiway relationships between data objects. Local hypergraph clustering and semi-supervised learning specifically involve finding a well-connected set of nodes near a given set of labeled vertices. Although many methods for local clustering exist for graphs, there are relatively few for localized clustering in hypergraphs. Moreover, those that exist often lack flexibility to model a general class of hypergraph cut functions or cannot scale to large problems. To tackle these issues, this paper proposes a new diffusion-based hypergraph clustering algorithm that solves a quadratic hypergraph cut based objective akin to a hypergraph analog of Andersen-Chung-Lang personalized PageRank clustering for graphs. We prove that, for graphs with fixed maximum hyperedge size, this method is strongly local, meaning that its runtime only depends on the size of the output instead of the size of the hypergraph and is highly scalable. Moreover, our method enables us to compute with a wide variety of cardinality-based hypergraph cut functions. We also prove that the clusters found by solving the new objective function satisfy a Cheeger-like quality guarantee. We demonstrate that on large real-world hypergraphs our new method finds better clusters and runs much faster than existing approaches. Specifically, it runs in few seconds for hypergraphs with a few million hyperedges compared with minutes for flow-based technique. We furthermore show that our framework is general enough that can also be used to solve other p-norm based cut objectives on hypergraphs. Our code is available \url{github.com/MengLiuPurdue/LHQD}.

研究の動機と目的

• 多様なハイパーグラフカット関数を扱える柔軟性・スケーラビリティ・強力な局所性を持つハイパーグラフクラスタリングアルゴリズムの欠如に対処すること。
• ハイパーグラフサイズではなく出力サイズに比例してスケーリングする拡散ベースの手法を開発し、大規模データセットでも高速計算を可能にすること。
• 基数に基づくおよびpノルムカット関数をサポートする二次的カット目的関数を用いて、ハイパーグラフへのパーソナライズド・ページランクの一般化を実現すること。
• 解のクラスタに対してチェーバーに類似た境界を通じてクラスタ品質に関する理論的保証を提供すること。
• 実世界のハイパーグラフにおいて、既存のフローベースおよび拡散ベースのベースラインと比較して、速度と正確性の両面で優れた性能を示すこと。

提案手法

• パーソナライズド・ページランクをハイパーグラフに一般化する二次的目的関数に基づくハイパーグラフ拡散フレームワークを提案する。
• クリークやスターアウトフィットに依存せずに、さまざまな基数に基づくハイパーグラフカット関数を柔軟にモデル化できる新しい定式化を採用する。
• 出力サイズにのみ依存する実行時間となるよう、適応的スパース化を用いたパワー法を用いて拡散問題を効率的に解く。
• パラメータδを介して、すべてまたはなしのペナルティと基数に基づくペナルティの間を補間するパラメータ化されたペナルティ関数を導入し、クラスタ品質の制御を可能にする。
• パラメータκで制御されるスパース化戦略を適用し、計算効率を維持しながら解の品質を保持する。
• 拡散の広がりを制御するダミングパラメータγを用い、生成されるクラスタのサイズ制御を可能にする。

実験結果

リサーチクエスチョン

• RQ1 ハイパーグラフクラスタリングの拡散ベース手法は、強力な局所性と多様なハイパーグラフカット関数のモデル化の柔軟性を両立できるか？
• RQ2 提案手法は、大規模な実世界のハイパーグラフにおいて、既存のフロー系および拡散系アプローチよりも優れた正確性とスケーラビリティを達成できるか？
• RQ3 生成する解に対して、チェーバーに類似た境界のようなクラスタ品質に関する理論的保証を提供できるか？
• RQ4 実世界のデータセットにおけるさまざまなシードセットサイズとハイパーグラフ構造において、本手法はどのように性能を発揮するか？
• RQ5 本フレームワークは、二次のケースを超えてpノルムに基づくカット目的関数をサポートできるように拡張可能か？

主な発見

• 提案手法LH-2.0は、Stack Overflowデータセットにおいて中央値F1スコア0.66を達成し、正確性と速度の両面でフロー系および他の拡散手法を上回った。
• 同じデータセットにおいてLH-2.0は平均3.69秒で実行され、フロー系手法（48.28秒）および他の拡散バリアントと比較して顕著に高速であった。
• 小さなシードセット（ノードの0.1%）においても、LH-1.4およびLH-2.0は高いF1スコア（中央値約0.65–0.74）を維持したが、OneHop除去を施したフロー系手法はクラスタの拡大を効果的に実行できなかった。
• 本手法はチェーバーに類似た品質保証を達成し、発見されたクラスタがハイパーグラフカット関数に関して良好に接続されておりバランスが取れていることを保証した。
• アルゴリズムは入力サイズに対して準線形にスケーリングし、実行時間は出力クラスタサイズにのみ依存するため、強力な局所性が裏付けられた。
• フレームワークは一般性に富んでおり、二次的カットを超えてpノルムに基づくカット目的関数をサポート可能であり、二次的カットを超える広範な適用可能性を有する。