[論文レビュー] GCOMB: Learning Budget-constrained Combinatorial Algorithms over Billion-sized Graphs

Sahil Manchanda, Akash Mittal+4 more|arXiv (Cornell University)|Mar 8, 2019

Advanced Graph Neural Networks被引用数 22

ひとこと要約

GCOMB は、確率的グリーディメカニズムと重要度サンプリングで強化された Q-学習フレームワークを備えたグラフ畳み込みネットワーク (GCN) を用いて、100億スケールのグラフ上で、スケーラブルで予算制約付きの組合せアルゴリズムを学習するための枠組みを提案する。これは、最先端の手法と比較して100倍の高速化を達成しながら同等の解の品質を維持し、インフルエンス最大化においては IMM よりも150倍高速化する。

ABSTRACT

There has been an increased interest in discovering heuristics for combinatorial problems on graphs through machine learning. While existing techniques have primarily focused on obtaining high-quality solutions, scalability to billion-sized graphs has not been adequately addressed. In addition, the impact of budget-constraint, which is necessary for many practical scenarios, remains to be studied. In this paper, we propose a framework called GCOMB to bridge these gaps. GCOMB trains a Graph Convolutional Network (GCN) using a novel probabilistic greedy mechanism to predict the quality of a node. To further facilitate the combinatorial nature of the problem, GCOMB utilizes a Q-learning framework, which is made efficient through importance sampling. We perform extensive experiments on real graphs to benchmark the efficiency and efficacy of GCOMB. Our results establish that GCOMB is 100 times faster and marginally better in quality than state-of-the-art algorithms for learning combinatorial algorithms. Additionally, a case-study on the practical combinatorial problem of Influence Maximization (IM) shows GCOMB is 150 times faster than the specialized IM algorithm IMM with similar quality.

研究の動機と目的

• 100億スケールのグラフにおける組合せアルゴリズムの学習におけるスケーラビリティのギャップを解消すること。
• 現実世界の応用において極めて重要な予算制約を、機械学習ベースの組合せ最適化に統合すること。
• 推論速度を著しく向上させながらも、高い解の品質を維持するフレームワークを開発すること。
• 実世界のグラフとインフルエンス最大化のような実用的問題に対して、フレームワークを評価すること。

提案手法

• GCOMB は、新規の確率的グリーディメカニズムを用いて、グラフ畳み込みネットワーク (GCN) でノードの質を予測する。
• 組合せ的選択に内在する逐次的意思決定プロセスをモデル化するために、Q-学習フレームワークを統合する。
• Q-学習の学習を高速化するために、重要度サンプリングを適用し、学習品質を損なわず効率性を向上させる。
• 予算制約下でのノード選択を統合的に最適化することで、実行可能かつ高品質な解を保証する。
• 微分可能な GCN 予測と強化学習を組み合わせたトレーニングパイプラインにより、選択ポリシーを洗練させる。

実験結果

リサーチクエスチョン

• RQ1 機械学習フレームワークは、予算制約付きで100億スケールのグラフにおける組合せ最適化に、実際にスケーラブルに拡張可能か？
• RQ2 確率的グリーディノードスコアリングと Q-学習の統合は、解の品質と学習効率をどのように向上させるか？
• RQ3 GCOMB は、既存の学習ベースおよび特化型アルゴリズムと比較して、速度と解の品質の両面でどの程度優れているか？
• RQ4 GCOMB は、インフルエンス最大化のような実世界の組合せ問題へ汎用化可能か？

主な発見

• GCOMB は、100億スケールのグラフにおける最先端の学習ベースの組合せアルゴリズムよりも100倍の高速化を達成する。
• インフルエンス最大化問題において、GCOMB は特化型の IMM アルゴリズムよりも150倍高速でありながら、同等の解の品質を維持する。
• フレームワークは高い解の品質を維持しており、最良のベースラインと比較してわずかな劣化にとどまる。
• Q-学習における重要度サンプリングの使用は、学習効率を著しく向上させ、大規模なグラフへのスケーラビリティを可能にする。
• GCN における確率的グリーディメカニズムは、組合せ的選択に適した安定的かつ効果的なノード品質推定を提供する。