[논문 리뷰] PDP: A General Neural Framework for Learning Constraint Satisfaction Solvers

Saeed Amizadeh, Sergiy Matusevych외 1명|arXiv (Cornell University)|2019. 03. 05.

Constraint Satisfaction and Optimization참고 문헌 50인용 수 7

한 줄 요약

이 논문은 제약 만족 문제(CSP) 해법기를 학습하기 위한 일반적인 신경망 프레임워크인 PDP를 제안한다. 이 프레임워크는 확률적 추론과 미분 가능한 메시지 전파를 통합함으로써, 에너지 최소화를 통한 엔드 투 엔드, 비지도 학습을 가능하게 하여 전통적인 히우리스틱에 국한되지 않는 비그리디 탐색 전략을 학습할 수 있도록 한다. 특히 도메인 특화 분포에서 훈련된 경우, k-SAT 문제에서 최신 기술 수준의 해법기와 경쟁 가능한 성능을 달성한다.

ABSTRACT

There have been recent efforts for incorporating Graph Neural Network models for learning full-stack solvers for constraint satisfaction problems (CSP) and particularly Boolean satisfiability (SAT). Despite the unique representational power of these neural embedding models, it is not clear how the search strategy in the learned models actually works. On the other hand, by fixing the search strategy (e.g. greedy search), we would effectively deprive the neural models of learning better strategies than those given. In this paper, we propose a generic neural framework for learning CSP solvers that can be described in terms of probabilistic inference and yet learn search strategies beyond greedy search. Our framework is based on the idea of propagation, decimation and prediction (and hence the name PDP) in graphical models, and can be trained directly toward solving CSP in a fully unsupervised manner via energy minimization, as shown in the paper. Our experimental results demonstrate the effectiveness of our framework for SAT solving compared to both neural and the state-of-the-art baselines.

연구 동기 및 목표

• 기존의 신경 해법기가 해석 가능한 탐색 전략을 갖추지 못하고 있으며, 그로 인해 그로시 탐색 전략에 국한되어 있다는 한계를 해결하기 위해.
• 도메인 특화 문제 분포에 적응할 수 있는 일반적인, 비지도 학습 프레임워크를 개발하기 위해.
• 확률적 추론을 딥러닝과 통합하여, 비가역적이고 엔드 투 엔드로 학습 가능한 아키텍처를 구축함으로써 비그리디 탐색 전략을 지원하기 위해.
• 지도 학습이나 수작업으로 만든 특징에 의존하지 않고도 효율적인 도메인 특화 추론 알고리즘을 학습할 수 있도록 하기 위해.
• 신경 기반 기법과 고전적 해법기 사이의 격차를 줄이기 위해, 고전적 추론 원리를 학습 가능한 신경 프레임워크에 통합하기 위해.

제안 방법

• PDP 프레임워크는 세 가지 핵심 연산인 전파, 감소, 예측을 중심으로 구성되며, 이는 모두 미분 가능한 구성 요소로 모델링된다.
• 전파 단계는 그래프 모델에서의 신뢰도 전파와 유사하게, 제약 그래프를 따라 메시지를 전파한다.
• 감소 단계는 학습된 신뢰도 점수를 기반으로 변수 할당을 선택하며, 학습 가능한 구성 요소를 통해 그로시 선택에서 벗어날 수 있다.
• 예측 단계는 초기 변수 할당 또는 메시지 사전 정보를 생성하여, 다양한 문제 인스턴스를 처리할 수 있도록 한다.
• 전체 프레임워크는 에너지 함수가 제약 만족도와 변수 할당의 일관성을 코딩하는 에너지 최소화를 통한 비지도 학습으로 훈련된다.
• 이 프레임워크는 하이브리드 구성도 지원하며, 예를 들어 고정된 고전적 전파기(SP)와 학습 가능한 감소기 조합을 통해 다양한 모델 설계가 가능하다.

실험 결과

연구 질문

• RQ1 신경 프레임워크는 확률적 추론을 통해 설명 가능성을 유지하면서도, CSP에 대해 비그리디이고 효율적인 탐색 전략을 학습할 수 있는가?
• RQ2 비지도, 에너지 기반 학습 목표는 신경 해법기가 다양한 CSP 분포에 일반화되도록 하는 데 얼마나 효과적인가?
• RQ3 PDP 프레임워크는 균일한 랜덤 인스턴스를 초월하여, 모듈러 k-SAT과 같은 비균일한 도메인 특화 문제 구조에 적응할 수 있는가?
• RQ4 미분 가능하고 엔드 투 엔드로 학습 가능한 해법기가 Glucose와 같은 최신 기술 수준의 CDCL 해법기의 성능을 따라하거나 뛰어넘을 수 있는가?
• RQ5 PDP 프레임워크는 비지도 설정에서 고전적 기법인 리스타트와 백트래킹을 어떻게 통합할 수 있는가?

주요 결과

• PDP 프레임워크는 균일한 랜덤 k-SAT 문제에서 고전적 및 신경 기반 기준을 모두 압도하며, 강력한 일반화 능력과 학습 능력을 입증한다.
• 모듈러 4-SAT 문제에서 훈련된 PDP 해법기는 균일한 4-SAT에서 훈련된 모델보다 뚜렷이 뛰어난 성능을 보이며, 도메인 특화 구조에 효과적으로 적응함을 시사한다.
• 비지도 방식으로 훈련되었음에도 불구하고, PDP 모델은 모듈러 k-SAT 인스턴스에서 매우 최적화된 Glucose 해법기와 비슷한 성능을 달성한다.
• 비그리디 탐색 전략을 효과적으로 학습함을 입증하기 위해, PDP는 구조화된 문제 세트에서 그로시 기준을 뛰어넘는 성능을 보였다.
• PDP 프레임워크는 SP, BP와 같은 고전적 메시지 전파 알고리즘을, 미분 가능하고 병렬 처리 가능한 구성 요소로 변환하여 GPU 가속에 적합하게 만들 수 있었다.
• 초기 메시지 값에 따라 모델이 여러 개의 해를 찾는 행동을 보이며, 배치 복제를 통해 자연스럽게 리스타트 전략을 통합할 수 있었다.