[논문 리뷰] GCOMB: Learning Budget-constrained Combinatorial Algorithms over Billion-sized Graphs

Sahil Manchanda, Akash Mittal외 4명|arXiv (Cornell University)|2019. 03. 08.

Advanced Graph Neural Networks인용 수 22

한 줄 요약

GCOMB는 확률적 그린 메커니즘과 중요도 샘플링으로 향상된 Q-학습 프레임워크를 갖춘 그래프 컨volution 네트워크(GCN)를 사용하여 빌리언 규모의 그래프에서 조합 최적화 알고리즘을 스케일러블하고 예산 제약 하에 학습하는 확장 가능한 프레임워크를 제안한다. 최첨단 방법 대비 100배 빠른 속도를 기록하면서도 유사한 해의 품질을 유지하며, 영향력 최대화 문제에서는 IMM 대비 150배 빠른 성능을 달성한다.

ABSTRACT

There has been an increased interest in discovering heuristics for combinatorial problems on graphs through machine learning. While existing techniques have primarily focused on obtaining high-quality solutions, scalability to billion-sized graphs has not been adequately addressed. In addition, the impact of budget-constraint, which is necessary for many practical scenarios, remains to be studied. In this paper, we propose a framework called GCOMB to bridge these gaps. GCOMB trains a Graph Convolutional Network (GCN) using a novel probabilistic greedy mechanism to predict the quality of a node. To further facilitate the combinatorial nature of the problem, GCOMB utilizes a Q-learning framework, which is made efficient through importance sampling. We perform extensive experiments on real graphs to benchmark the efficiency and efficacy of GCOMB. Our results establish that GCOMB is 100 times faster and marginally better in quality than state-of-the-art algorithms for learning combinatorial algorithms. Additionally, a case-study on the practical combinatorial problem of Influence Maximization (IM) shows GCOMB is 150 times faster than the specialized IM algorithm IMM with similar quality.

연구 동기 및 목표

• 빌리언 규모의 그래프에서 조합 최적화 알고리즘의 확장성 격차를 해소하기 위해.
• 실제 응용에 매우 중요한 예산 제약 조건을 기계학습 기반 조합 최적화에 통합하기 위해.
• 유의미한 해의 품질을 유지하면서 추론 속도를 크게 향상시키는 프레임워크를 개발하기 위해.
• 실제 그래프와 영향력 최대화와 같은 실용적 문제에 대해 프레임워크를 평가하기 위해.

제안 방법

• GCOMB는 새로운 확률적 그린 메커니즘을 사용하여 GCN을 활용해 노드의 품질을 예측한다.
• 조합 선택 과정에서 내재된 순차적 의사결정 과정을 모델링하기 위해 Q-학습 프레임워크를 통합한다.
• Q-학습 학습을 가속화하기 위해 중요도 샘플링을 적용하여 효율성을 향상시키면서도 학습 품질을 손상시키지 않는다.
• 예산 제약 조건 하에서의 노드 선택을 공동 최적화하여 타당하고 고품질의 해를 보장한다.
• 다양한iable GCN 예측과 강화학습을 결합한 학습 파이프라인을 통해 선택 정책을 정교화한다.

실험 결과

연구 질문

• RQ1 기계학습 기반 프레임워크가 예산 제약 조건 하에서 빌리언 규모의 그래프에서 조합 최적화에 효과적으로 확장될 수 있는가?
• RQ2 확률적 그린 노드 스코어링과 Q-학습의 통합이 해의 품질과 학습 효율성에 어떻게 기여하는가?
• RQ3 GCOMB가 기존의 기계학습 기반 및 전용 알고리즘에 비해 속도와 해의 품질 측면에서 얼마나 뛰어나게 성능을 발휘하는가?
• RQ4 GCOMB는 영향력 최대화와 같은 실세계 조합 문제에 일반화될 수 있는가?

주요 결과

• GCOMB는 빌리언 규모의 그래프에서 최첨단 기계학습 기반 조합 최적화 알고리즘 대비 100배 빠른 속도를 기록한다.
• 영향력 최대화 문제에서 GCOMB는 전용 IMM 알고리즘 대비 150배 더 빠르며, 유사한 해의 품질을 유지한다.
• 프레임워크는 최고 성능을 보인 베이스라인들과 비교해 근소한 품질 저하만을 보이며 높은 해의 품질을 유지한다.
• Q-학습에 중요도 샘플링을 적용함으로써 학습 효율성이 크게 향상되어 대규모 그래프에 대한 확장성이 가능해졌다.
• GCN 내의 확률적 그린 메커니즘이 조합 선택을 위한 안정적이고 효과적인 노드 품질 추정을 제공한다.