[논문 리뷰] Guiding High-Performance SAT Solvers with Unsat-Core Predictions

Daniel Selsam, Nikolaj Bjørner|arXiv (Cornell University)|2019. 03. 12.

Software Engineering Research참고 문헌 41인용 수 5

한 줄 요약

이 논문은 실제 SAT 문제에서 불만족 가능 핵심을 예측하고 고성능 SAT 솔버를 지속적으로 재초점화하는 데 사용하기 위해 단순화된 NeuroSAT 아키텍처인 NeuroCore를 제안한다. 수정된 MiniSat, Glucose, Z3 솔버는 표준 및 전용 벤치마크에서 원래 버전보다 10–20% 더 많은 문제를 해결하며, 신경망 기반 핵심 예측이 실제 산업 문제에서 솔버 성능을 크게 향상시킨다는 것을 입증한다.

ABSTRACT

The NeuroSAT neural network architecture was recently introduced for predicting properties of propositional formulae. When trained to predict the satisfiability of toy problems, it was shown to find solutions and unsatisfiable cores on its own. However, the authors saw "no obvious path" to using the architecture to improve the state-of-the-art. In this work, we train a simplified NeuroSAT architecture to directly predict the unsatisfiable cores of real problems. We modify several high-performance SAT solvers to periodically replace their variable activity scores with NeuroSAT's prediction of how likely the variables are to appear in an unsatisfiable core. The modified MiniSat solves 10% more problems on SAT-COMP 2018 within the standard 5,000 second timeout than the original does. The modified Glucose solves 11% more problems than the original, while the modified Z3 solves 6% more. The gains are even greater when the training is specialized for a specific distribution of problems; on a benchmark of hard problems from a scheduling domain, the modified Glucose solves 20% more problems than the original does within a one-hour timeout. Our results demonstrate that NeuroSAT can provide effective guidance to high-performance SAT solvers on real problems.

연구 동기 및 목표

• 단순화된 NeuroSAT 아키텍처에서 유도된 신경망 기반 불만족 가능 핵심 예측을 활용하여 고성능 SAT 솔버의 성능을 향상시키는 것.
• 기존 SAT 솔버의 핵심 히وري스틱을 대체하지 않고도 신경망 가이던스를 통합하는 데 도전하는 것.
• 훈련을 위한 대규모, 감독된 불만족 가능한 문제 데이터셋을 생성하고, 핵심 변수에 레이블을 부여하는 것.
• 부정확한 핵심 예측이라도 변수 분기 결정에 효과적인 지침을 제공할 수 있는지 평가하는 것.
• 신경망 기반 핵심 예측이 실제 세계의 SAT 문제에서 측정 가능한 성능 향상을 이끌 수 있는지 입증하는 것.

제안 방법

• 논리 공식의 불만족 가능 핵심에 포함될 가능성이 높은 변수를 예측할 수 있도록 단순화된 NeuroSAT 모델인 NeuroCore를 훈련한다.
• 기존의 불만족 가능한 문제를 분해하고 DRAT 증명을 사용하여 핵심 변수를 추출함으로써 훈련 데이터를 생성한다.
• NeuroCore를 MiniSat, Glucose, Z3에 통합하여 전체 문제에 대해 주기적으로 예측을 요청하고, 예측된 핵심 가능성에 따라 EVSIDS 변수 활성도 점수를 재설정한다.
• 주기적인 재초점화 전략을 활용한다: 매 결정 단계가 아닌 간격 단위로 활성도 점수를 업데이트함으로써 성능 오버헤드를 최소화한다.
• 다중 머신에서 효율적인 데이터셋 생성을 위해 분산 컴퓨팅(Ray)을 활용한다.
• 특정 도메인 문제 분포(예: 스케줄링)에 특화된 훈련을 통해 어려운 인스턴스에서의 성능 향상을 도모한다.

실험 결과

연구 질문

• RQ1 불만족 가능 핵심을 예측하도록 훈련된 신경망이 실제 문제에서 고성능 SAT 솔버의 성능을 향상시킬 수 있는가?
• RQ2 부정확한 핵심 예측이라도 SAT 솔버의 변수 분기 결정에 여전히 유용한 지침을 제공할 수 있는가?
• RQ3 신경망 예측을 활용해 변수 활성도 점수를 주기적으로 재초점화하는 것이 표준 EVSIDS 히وري스틱을 능가할 수 있는가?
• RQ4 훈련 데이터를 특정 문제 도메인에 특화시킬 경우 성능 향상은 어떻게 스케일링되는가?
• RQ5 핵심 예측은 절차자르기(Clause pruning) 또는 기타 솔버 최적화에 효과적으로 활용될 수 있는가?

주요 결과

• 수정된 MiniSat 솔버는 5,000초 타임아웃 내 SATCOMP-2018에서 원래 버전보다 10% 더 많은 문제를 해결했다.
• 수정된 Glucose 4.1 솔버는 SATCOMP-2018에서 원래 버전보다 11% 더 많은 문제를 해결했다.
• 수정된 Z3 솔버는 SATCOMP-2018에서 원래 버전보다 6% 더 많은 문제를 해결했다.
• 어려운 스케줄링 문제 전용 벤치마크에서 수정된 Glucose는 1시간 타임아웃 내에 원래 버전보다 20% 더 많은 문제를 해결했다.
• NeuroCore의 핵심 예측은 미세한 핵심을 가진 문제에서 뚜렷한 속도 향상을 이끌었으며, 절차자르기 잠재력이 있음을 시사한다.
• 도메인 특화된 하위문제에 대한 훈련은 일반 훈련보다 훨씬 높은 성능 향상을 이끌었으며, 분포 기반 적응의 가치를 입증한다.