[논문 리뷰] GLSearch: Maximum Common Subgraph Detection via Learning to Search

Yunsheng Bai, Derek Xu외 2명|arXiv (Cornell University)|2020. 02. 08.

Advanced Graph Neural Networks인용 수 11

한 줄 요약

GLSearch는 최대 공통 부분그래프(MCS) 탐지의 분할정복 탐색에서 히우리스틱적 노드 선택을 대체하기 위해 GNN 기반의 딥 강화학습 프레임워크를 제안한다. GNN을 강화한 딥 Q-네트워크(DQN)를 사용해 최적의 탐색 전략을 학습함으로써, 동일한 계산 예산 내에서 기존 최고 수준의 솔버들보다 훨씬 더 큰 MCS 결과를 달성한다. 특히 대규모 및 실제 그래프에서 뚜렷한 성능 향상을 보인다.

ABSTRACT

Detecting the Maximum Common Subgraph (MCS) between two input graphs is fundamental for applications in drug synthesis, malware detection, cloud computing, etc. However, MCS computation is NP-hard, and state-of-the-art MCS solvers rely on heuristic search algorithms which in practice cannot find good solution for large graph pairs given a limited computation budget. We propose GLSearch, a Graph Neural Network (GNN) based learning to search model. Our model is built upon the branch and bound algorithm, which selects one pair of nodes from the two input graphs to expand at a time. Instead of using heuristics, we propose a novel GNN-based Deep Q-Network (DQN) to select the node pair, allowing the search process faster and more adaptive. To further enhance the training of DQN, we leverage the search process to provide supervision in a pre-training stage and guide our agent during an imitation learning stage. Experiments on synthetic and real-world large graph pairs demonstrate that our model learns a search strategy that is able to detect significantly larger common subgraphs given the same computation budget. Our GLSearch can be potentially extended to solve many other combinatorial problems with constraints on graphs.

연구 동기 및 목표

• 그래프 유사도 분석에서 기본적이지만 NP-난이도 문제인 두 그래프 간 최대 공통 부분그래프(MCS) 탐지의 과제를 해결한다.
• 실제 계산 예산 내에서 높은 품질의 MCS 해를 찾지 못하는 히우리스틱 기반의 분할정복 솔버의 한계를 극복한다.
• 그래프의 구조와 위상에 적응 가능한 학습 가능한 탐색 정책을 개발하여 탐색 효율성과 해 품질을 향상시킨다.
• 학습 중에 자기지도 학습과 모방 학습을 활용해 고비용의 사전 계산된 MCS 레이블에 대한 의존도를 줄인다.
• 정확한 솔버가 비현실적인 초대규모의 실제 그래프(예: 백만 노드 그래프 포함)에서도 확장 가능한 MCS 탐지가 가능하도록 한다.

제안 방법

• 각 단계에서 확장할 노드 쌍을 선택하는 분할정복 프레임워크 내에서 MCS 탐지를 순차적 의사결정 문제로 공식화한다.
• 수작업 히우리스틱 대신 노드 쌍 선택을 위한 GNN 기반의 딥 Q-네트워크(DQN)를 도입하여 구조적 및 주변 특징을 캡처한다.
• DQN을 노드 쌍 임베딩 기반으로 재구성하여, 각 선택의 이sovorphism 및 부분그래프 크기 영향을 장기적으로 평가할 수 있도록 한다.
• 두 단계로 구성된 훈련 파이프라인을 활용: 검색 경로에서의 지도 신호를 사용한 사전 훈련 후, 정책을 개선하기 위한 모방 학습.
• 후보 노드 쌍 주변의 k-호프 이웃 구조를 인코딩하기 위해 그래프 신경망을 활용하여 표현 품질을 향상시킨다.
• 탐색 과정 자체를 활용해 지도 신호를 생성함으로써, 추론 시 진정한 MCS 레이블이 필요 없이 엔드 투 엔드 훈련이 가능하도록 한다.

실험 결과

연구 질문

• RQ1 고정된 계산 예산 내에서 학습된 탐색 정책이 수작업 히우리스틱보다 더 큰 공통 부분그래프를 찾는 데 성능이 뛰어나게 되는가?
• RQ2 GNN을 강화한 DQN 모델이 화학, 도로, 회로, 사회망 등 다양한 그래프 유형 간 MCS 탐지에서 얼마나 일반화되는가?
• RQ3 레이블이 없는 MCS 인스턴스에 의존하지 않고도 사전 훈련과 모방 학습의 조합이 DQN 정책 성능 향상에 얼마나 효과적인가?
• RQ4 학습된 정책이 MCS 크기와 이sovorphism에 크게 영향을 주는 '핵심' 노드(예: 고도수 또는 구조적으로 중심에 있는 노드)를 식별할 수 있는가?
• RQ5 기존 솔버가 지수적 복잡도로 인해 실패하는 대규모 그래프(예: 백만 노드 그래프)에서도 모델이 효과적으로 확장 가능한가?

주요 결과

• GLSearch는 합성 및 실제 그래프 쌍에서 McSp와 같은 최고 수준의 솔버들보다 훨씬 더 큰 유도 공통 부분그래프를 탐지한다. 특히 계산 예산이 제한된 조건에서 뚜렷한 성능 향상을 보인다.
• Nci109 데이터셋에서 GLSearch는 평균 MCS 크기가 McSp를 초월하며, 시각화 결과는 더 완전하고 연결된 부분그래프를 보여준다.
• 도로 네트워크 그래프(Road)에서 GLSearch는 낮은 도수의 노드를 먼저 선택함으로써 진짜 MCS의 사슬 구조와 더 잘 일치하여 McSp를 능가한다.
• 회로 그래프(Circ)에서 GLSearch는 McSp가 잘못된 노드 쌍 스코어링으로 실패한 3개의 고도수 노드를 정확히 매칭하여 이sovorphism를 유지한다.
• GLSearch의 학습된 정책은 구조적으로 중요한 노드를 식별하고 우선순위를 정함으로써 더 큰 MCS 해에 빠르게 수렴한다.
• 제거 실험 결과, 사전 훈련 및 모방 학습 단계 모두가 높은 성능을 달성하는 데 필수적이며, GNN 기반 DQN이 단순한 모델보다 뛰어난 성능을 보인다.