[논문 리뷰] Constrained Sampling and Counting: Universal Hashing Meets SAT Solving

Kuldeep S. Meel, Moshe Y. Vardi외 6명|arXiv (Cornell University)|2015. 12. 21.

Bayesian Modeling and Causal Inference참고 문헌 52인용 수 29

한 줄 요약

이 논문은 보편적 해싱과 SAT 해결기를 조합하여 제약 있는 샘플링과 카운팅을 위한 확장 가능하고 정확한(by-construction) 접근법을 제시한다. 이는 대규모 산업용 부울 공식에 대해 효율적인 근사 샘플링과 카운팅을 가능하게 하면서도 강력한 이론적 보장을 유지한다. 핵심 혁신은 해싱 함수를 최소 독립적 지지(minimal independent supports)로 제한하여 XOR 제약 조건의 밀도를 감소시키고, 정확성을 훼손하지 않은 채 성능을 두~세 개의 지수 정도 향상시키는 데 있다.

ABSTRACT

Constrained sampling and counting are two fundamental problems in artificial intelligence with a diverse range of applications, spanning probabilistic reasoning and planning to constrained-random verification. While the theory of these problems was thoroughly investigated in the 1980s, prior work either did not scale to industrial size instances or gave up correctness guarantees to achieve scalability. Recently, we proposed a novel approach that combines universal hashing and SAT solving and scales to formulas with hundreds of thousands of variables without giving up correctness guarantees. This paper provides an overview of the key ingredients of the approach and discusses challenges that need to be overcome to handle larger real-world instances.

연구 동기 및 목표

• 이론적으로 타당하지만 실용적이지 않은 알고리즘과 확장 가능하지만 신뢰할 수 없는 실용적 도구 사이의 격차를 메우기 위해.
• 대규모 실세계 부울 공식에 대해 확장 가능하고 정확한(by-construction) 샘플링 및 카운팅을 가능하게 하기 위해.
• 기존에는 성능을 저해하는 해싱 기반 기법에서 XOR 제약 조건의 밀도를 줄이기 위해.
• 작은 변수 집합에서 효율적인 해싱을 가능하게 하기 위해 최소 독립적 지지(minimal independent supports)를 자동으로 계산하는 방법을 개발하기 위해.
• 입력 구조를 유지하면서도 기존의 unweighted model counting(UMC) 솔버를 활용할 수 있도록, 가중 모델 카운팅(WMC)을 비밀상자 감소(black-box reduction)를 통해 unweighted model counting(UMC)으로 변환함으로써 정확한 가중 모델 카운팅을 가능하게 하기 위해.

제안 방법

• 추가된 보편적 해싱 제약 조건이 포함된 공식의 만족 가능성 여부를 확인하기 위해 SAT 솔버를 오рак루로 활용한다.
• 공식의 최소 독립적 지지(minimal independent support)에 대해 보편적 해싱을 적용하여 XOR 제약 조건의 수를 줄이고 효율성을 향상시킨다.
• 문제를 그룹 최소 불만족 가능한 부분집합(GMUS) 문제로 환원함으로써 최소 독립적 지지(minimal independent supports)를 계산하는 MIS 알고리즘을 도입한다.
• 입력 정규형을 유지하면서도 비밀상자 통합이 가능한 UMC 솔버를 활용할 수 있도록, literal-weighted model counting(WMC)에서 unweighted model counting(UMC)으로의 환원을 시행한다.
• 해싱에 의한 투영된 해 공간을 활용하여 CNF 공식의 해 집합에서 균일하거나 근사적으로 균일한 샘플링을 가능하게 한다.
• 오차가 제한된 채 총 해의 수를 추정하기 위해 재귀적 해싱 및 분할 전략을 활용한다.

실험 결과

연구 질문

• RQ1 보편적 해싱과 SAT 해결기를 조합하면 제약 있는 샘플링 및 카운팅에 대해 확장 가능하고 정확한(by-construction) 알고리즘을 제공할 수 있는가?
• RQ2 해싱 기반 카운팅에서 XOR 제약 조건의 밀도를 어떻게 줄여 실용적 성능을 향상시킬 수 있는가?
• RQ3 최소 독립적 지지(minimal independent supports)를 알고리즘적으로 계산하여 더 작은 변수 집합에서 효율적인 해싱을 가능하게 할 수 있는가?
• RQ4 입력 구조를 유지하면서도 기존의 UMC 솔버를 활용할 수 있도록, 가중 모델 카운팅(WMC)에서 비밀상자 감소로의 효율적 변환은 가능한가?
• RQ5 SAT 해결 기술의 발전을 어떻게 활용하여 모델 카운팅을 통해 그래프 모델의 확률적 추론을 확장할 수 있는가?

주요 결과

• 제안된 해싱 기반 접근법은 최소 독립적 지지에 해싱를 제한함으로써 샘플링 및 카운팅 성능을 두~세 개의 지수 정도 향상시켰다.
• MIS 알고리즘은 최소 독립적 지지를 성공적으로 계산하여 이론적 보장을 유지하면서도 효율적인 해싱을 가능하게 하였다.
• 가중 모델 카운팅에서 비가중 모델 카운팅으로의 환원은 정확한 가중 카운터를 비가중 카운터의 비밀상자 확장으로 구축할 수 있도록 하여 더 큰 인스턴스로의 확장 가능성을 보장하였다.
• 최소 독립적 지지의 사용은 XOR 제약 조건의 밀도를 크게 감소시켜 정확성을 훼손하지 않은 채 런타임을 향상시켰다.
• 실험 결과, UniGen2와 ApproxMC와 같은 최종 솔버는 수십만 개의 변수를 가진 공식에도 확장 가능하며 강력한 이론적 근사 보장을 유지하였다.
• 비밀상자 WMC-to-UMC 환원은 비가중 모델 카운팅의 발전을 자동으로 활용할 수 있도록 하여 대규모 벤치마크에서 성능 향상을 이끌었다.