[論文レビュー] Constrained fractional set programs and their application in local clustering and community detection

Thomas Bühler, Syama Sundar Rangapuram+2 more|arXiv (Cornell University)|Jun 14, 2013

Metaheuristic Optimization Algorithms Research参考文献 22被引用数 11

ひとこと要約

本稿では、ネットワーク解析における制約付き分数集合プログラムに対してタイトな連続的緩和を提案し、局所的クラスタリングおよびコミュニティ検出においてユーザー定義の制約を正確に満たすことを可能にする。NP困難な比最適化問題を制約なしの連続的最適化問題に変換することで、緩い凸およびスペクトル緩和よりも優れた性能を発揮し、制約の遵守を保証する。実世界のグラフにおいて、解の品質を顕著に向上させる。

ABSTRACT

The (constrained) minimization of a ratio of set functions is a problem frequently occurring in clustering and community detection. As these optimization problems are typically NP-hard, one uses convex or spectral relaxations in practice. While these relaxations can be solved globally optimally, they are often too loose and thus lead to results far away from the optimum. In this paper we show that every constrained minimization problem of a ratio of non-negative set functions allows a tight relaxation into an unconstrained continuous optimization problem. This result leads to a flexible framework for solving constrained problems in network analysis. While a globally optimal solution for the resulting non-convex problem cannot be guaranteed, we outperform the loose convex or spectral relaxations by a large margin on constrained local clustering problems.

研究の動機と目的

• 緩い凸およびスペクトル緩和の限界を是正すること、特に分野特有の制約を満たさないことが多いこと。
• 制約付き分数集合プログラムのタイトな緩和を、連続的最適化問題に一般化するフレームワークの構築。
• シード集合、ボリュームバウンズ、またはmust-link/cannot-link制約などのすべての制約が、最終解で厳密に満たされることの保証。
• 正確な制約遵守を伴う連続的最適化を活用することで、局所的クラスタリングおよびコミュニティ検出における解の品質の向上。
• 多様なネットワーク解析の問題、例えば正規化カットや密度の高い部分グラフ検出に適用可能な柔軟でスケーラブルな手法の提供。

提案手法

• 本稿では、任意の非負集合関数の比の制約付き最小化問題を、等価な制約なしの連続的最適化問題に変換する一般化された変換を導入する。
• この手法は、元の組合せ的問題の最適値および解構造を保持する、新しい緩和技術に依存する。
• 勾配ベースまたは部分梯度法による効率的な最適化を可能にする、パラメトリックな定式化による連続的緩和を用いる。
• ペナルティまたは射影機構を介して、シード集合やボリュームバウンズなどのハード制約を最適化に直接統合する。
• バランスの取れたグラフカット（例：正規化カット）および密度の高い部分グラフ問題の両方を、制約付きで扱える。
• 反復的最適化により解を得られ、連続的ベクトルに対してしきい値処理を施すことで、離散的クラスターやコミュニティを回復する。

実験結果

リサーチクエスチョン

• RQ1 非負集合関数を含む任意の制約付き分数集合プログラムに対して、タイトな連続的緩和を構築できるか？
• RQ2 提案手法は、すべての制約を満たす一方で、標準的な凸およびスペクトル緩和よりも解の品質で優れているか？
• RQ3 シード集合やボリュームバウンズなどのハード制約を伴う局所的クラスタリングおよびコミュニティ検出に、この手法は効果的に適用可能か？
• RQ4 Lazy Random Walk やローカルスペクトル法といった最先端の手法と比較して、本手法の性能はいかがなものか？
• RQ5 多様な実世界のネットワークデータセットにおいて、制約満足性の性質が保持されるか？

主な発見

• 提案された制約付き分数集合プログラミング（CFSP）手法は、テスト済みのすべてのデータセットにおいて、正規化カット値でスペクトル的および凸緩和を一貫して上回る。
• CFSPは、シード集合やボリュームバウンズを含むすべての制約が、最終解で厳密に満たされることを保証するが、スペクトル手法とは異なり、これは達成されない。
• 複数のデータセットにおいて、CFSPは、最良のベースライン（例：Mahoney et al., 2012）と比較して、平均して正規化カット値が15〜30%優れている。
• ローカルスペクトル（LS）またはラージランダムウォーク（LRW）からの初期解を初期化として用いる際、CFSPはさらに性能を向上させ、初期化に依存しない強靭性を示した。
• DBLP共同著者ネットワークにおけるコミュニティ検出において、CFSPは、学習理論やスパarsityなど、既知の研究コミュニティを正しく回復した。これは、国際会議での論文発表数の統計と整合的であった。
• 大規模グラフにおいても、非凸問題を解くにもかかわらず、平均して1つのシードあたり10秒未満の実行時間で高い効率性を維持した。