[논문 리뷰] G2SAT: Learning to Generate SAT Formulas

Jiaxuan You, Haoze Wu외 3명|PubMed|2019. 10. 29.

Formal Methods in Verification참고 문헌 2인용 수 21

한 줄 요약

G2SAT는 이원 그래프로 표현된 리터럴-클라우즈 그래프를 모델링하고, 그래프 컨volution 네트워크를 사용해 순차적으로 노드를 병합함으로써 현실적인 SAT 공식을 생성하는 딥 페어러티브 모델이다. 이는 실제 SAT 인스턴스의 구조적 지표와 솔버 행동 모두에서 유사한 성능을 보이며, 벤치마크에서 SAT 솔버 성능을 향상시킨다.

ABSTRACT

The Boolean Satisfiability (SAT) problem is the canonical NP-complete problem and is fundamental to computer science, with a wide array of applications in planning, verification, and theorem proving. Developing and evaluating practical SAT solvers relies on extensive empirical testing on a set of real-world benchmark formulas. However, the availability of such real-world SAT formulas is limited. While these benchmark formulas can be augmented with synthetically generated ones, existing approaches for doing so are heavily hand-crafted and fail to simultaneously capture a wide range of characteristics exhibited by real-world SAT instances. In this work, we present G2SAT, the first deep generative framework that learns to generate SAT formulas from a given set of input formulas. Our key insight is that SAT formulas can be transformed into latent bipartite graph representations which we model using a specialized deep generative neural network. We show that G2SAT can generate SAT formulas that closely resemble given real-world SAT instances, as measured by both graph metrics and SAT solver behavior. Further, we show that our synthetic SAT formulas could be used to improve SAT solver performance on real-world benchmarks, which opens up new opportunities for the continued development of SAT solvers and a deeper understanding of their performance.

연구 동기 및 목표

• 실제 SAT 솔버 평가 및 향상을 위한 다양한, 현실적인 SAT 벤치마크 공식의 부족 문제를 해결하기 위해.
• 실제 세계 인스턴스의 복잡성을 충분히 반영하지 못하는 수작업으로 만든 SAT 공식 생성기의 대안으로 데이터 기반, 학습 가능한 대체 모델을 개발하기 위해.
• 리터럴-클라우즈 그래프를 이원 그래프로 모델링하고, 노드 병합 연산의 순서로 SAT 공식 생성을 이원 그래프 생성 작업으로 모델링하기 위해.
• 실제 세계 인스턴스의 핵심 구조적 및 솔버 행동 특성을 유지하는 합성 SAT 공식을 가능하게 하기 위해.
• 생성된 공식이 실제 벤치마크에서 SAT 솔버 성능 향상에 기여할 수 있음을 입증하기 위해.

제안 방법

• SAT 공식을 리터럴-클라우즈 그래프(LCG)로 표현하며, 이는 변수와 클라우즈를 노드로 가지는 이원 그래프이다.
• 생성 과정을 서로 분리된 트리 집합에서 시작하여 한 파artition의 노드 병합 연산을 순차적으로 적용하는 것으로 모델링한다.
• 자기회귀적으로 각 단계에서 병합할 노드 쌍을 예측하기 위해 공유된 그래프 컨volution 네트워크(GCN)를 사용한다.
• 실제 LCG에서 유도된 노드 분할 연산 시퀀스를 기반으로 GCN을 훈련시켜 유효한 병합 경로의 분포를 학습한다.
• 트리에서 시작하여 학습된 병합 정책을 단계별로 적용함으로써 새로운 공식을 생성한다.
• 이원 구조를 유지하고 실제 그래프 통계에서 학습함으로써 생성된 그래프가 핵심 구조적 특성을 유지하도록 보장한다.

실험 결과

연구 질문

• RQ1 딥 페어러티브 모델은 그래프 구조와 솔버 행동 양면에서 실제 세계 인스턴스와 유사한 SAT 공식을 생성할 수 있는가?
• RQ2 수작업 규칙에 의존하지 않고도 다양하고 비트리비얼한 SAT 공식을 생성할 수 있는가?
• RQ3 학습된 생성 모델이 모듈래리티, 도수 분포, 군집 계수와 같은 핵심 그래프 지표를 어느 정도 유지하는가?
• RQ4 G2SAT가 생성한 합성 공식은 실제 세계 벤치마크에서 SAT 솔버 성능 향상에 기여하는가?
• RQ5 GCN의 깊이와 같은 아키텍처 선택에 따라 모델 성능은 어떻게 변하는가?

주요 결과

• G2SAT는 실제 세계 SAT 인스턴스와 유사한 구조적 특성(예: 모듈래리티, 도수 분포, 군집 계수)을 갖는 SAT 공식을 생성한다.
• 모델가 생성한 공식은 실제 세계 공식과 통계적으로 구분되지 않는 SAT 솔버 행동(예: 실행 시간, 충돌 패턴)을 보인다.
• GCN 레이어 수를 늘릴수록 훈련 데이터의 모듈래리티에 더 가까워지며, 깊이가 깊을수록 더 복잡한 구조를 포착함을 시사한다.
• G2SAT가 생성한 합성 공식은 훈련 또는 튜닝에 사용될 경우 실제 세계 벤치마크에서 SAT 솔버 성능 향상에 기여한다.
• G2SAT는 특히 비트리비얼하고 만족 가능한 인스턴스를 생성하는 데서 수작업 기반 기준인 커뮤니티 결합(CA)과 인기도-유사성(PS)보다 뛰어난 성능을 보인다.
• 불만족 가능한 코어에서 클라우즈를 제거하는 후처리를 통해 PS가 생성한 공식의 난이도는 크게 증가하지만, G2SAT는 여전히 더 현실적이고 도전적인 인스턴스를 생성한다.