[논문 리뷰] A Model Counter's Guide to Probabilistic Systems

Marcell Vazquez-Chanlatte, Markus N. Rabe외 1명|arXiv (Cornell University)|2019. 03. 22.

Bayesian Modeling and Causal Inference참고 문헌 23인용 수 6

한 줄 요약

이 논문은 비중이 없는 모델 수세기(모델 카운팅)를 통해 마르코프 체인과 유한 이산 분포와 같은 확률적 시스템을 체계적으로 모델링하는 프레임워크를 제시한다. 확률적 행동은 부울 함수와 편향이 없는 동전 뒷면의 던지기로 인코딩되며, 주요 기여는 표준 모델 수세기 도구를 활용해 효율적인 확률적 추론을 가능하게 하는 구성적, SAT 기반 접근법이다. 이는 가중 모델 수세기와 비트 벡터 비교(특히 부호 없는 정수에 대한 작거나 같음 연산자) 간의 새로운 등가성을 제공한다.

ABSTRACT

In this paper, we systematize the modeling of probabilistic systems for the purpose of analyzing them with model counting techniques. Starting from unbiased coin flips, we show how to model biased coins, correlated coins, and distributions over finite sets. From there, we continue with modeling sequential systems, such as Markov chains, and revisit the relationship between weighted and unweighted model counting. Thereby, this work provides a conceptual framework for deriving #SAT encodings for probabilistic inference.

연구 동기 및 목표

• 확률적 시스템을 비중이 없는 모델 수세기 문제로 체계적으로 모델링하는 방법을 개발하는 것.
• 가중 모델 수세기 의존을 피하기 위해 SAT 기반 모델 수세기 도구를 활용해 효율적인 확률적 추론을 가능하게 하는 것.
• 확률적 추론과 무작위 비트 생성 기법 간 격차를 해소하기 위해 이들을 부울 회로에 인코딩하는 것.
• 모델 수세기와 순차적 시스템(예: 마르코프 체인)을 유지하는 구성적, 부울 함수 중심의 프레임워크를 제공하는 것.
• 표준 모델 수세기 기법이 희귀사건 분석을 위해 몬테카를로 및 BDD 기반 방법을 대체할 수 있음을 보여주는 것.

제안 방법

• 편향되고 상관관계가 있는 동전 뒷면의 던지기 행동을 비트 스트림에 적용한 부울 조건자로 모델링하는 것.
• 비트 벡터 비교(특히 부호 없는 정수에 대한 작거나 같음 연산자)를 사용해 비중이 없는 인코딩을 통해 가중 모델 수세기를 시뮬레이션하는 것.
• 분해를 통한 순차 회로 구축(예: 그림 6 참조)을 통해 마르코프 체인을 시간 단위 부울 함수로 인코딩하는 것.
• 랜덤 비트 모델에서 유도된 부울 회로를 사용해 임의의 유한 이산 분포(예: 이항분포, 쿤스-요아)를 인코딩하는 것.
• 정수 비교를 표현하기 위해 H^k_n 가젯을 적용하여, 비중이 없는 수세기를 통한 가중 모델의 정확한 수세기를 가능하게 하는 것.
• 각 리터럴의 가중치를 부울 함수로 표현한 편향된 동전으로 모델링함으로써 리터럴 가중 모델 수세기를 비중이 없는 모델 수세기로 감소시키는 것.

실험 결과

연구 질문

• RQ1 마르코프 체인과 같은 확률적 시스템은 어떻게 비중이 없는 모델 수세기 문제로 인코딩될 수 있는가?
• RQ2 복잡한 확률적 행동의 모델 수세기 조합에 있어 부울 함수의 역할은 무엇인가?
• RQ3 가중 모델 수세기에서 비중이 없는 모델 수세기로의 감소를 체계적이고 구성적으로 수행할 수 있는가?
• RQ4 기존의 무작위 수 생성 알고리즘(예: 쿤스-요아)은 모델 수세기에서 사용 가능한 부울 회로로 인코딩될 수 있는가?
• RQ5 편향되지 않은 동전 뒷면의 던지기를 원시적 요소로 사용할 때, 어떻게 임의의 확률 분포를 구성할 수 있는가?

주요 결과

• 모든 할당이 정확히 k개일 때의 만족할 수 있는 할당 수를 세는 H^k_n 가젯은 비트 벡터가 k보다 작거나 같을 조건과 등가이며, 이는 모델 수세기와 정수 비교 간 직접적인 연결 고리를 제공한다.
• 몬테카를로 샘플링과 BDD 기반 방법을 피함으로써, 이 프레임워크는 희귀사건에 대한 정확한 확률적 추론을 가능하게 한다.
• 모델 수세기 접근법은 만족할 수 있는 할당의 수를 유지하므로, 조건부 및 상관관계가 있는 확률을 모델링할 때 정확성을 보장한다.
• 쿤스-요아 알고리즘의 순차 부울 회로로의 인코딩은 고전적 무작위 변수 생성 기법을 SAT 기반 추론에 통합할 수 있음을 보여주는 실현 가능성의 증거이다.
• 작거나 같음 연산자를 통한 가중에서 비중이 없는 모델 수세기로의 감소는 개념적으로 단순하고 이전 감소 방법과 형식적으로 등가하지만, 더 구성적이고 모듈러한 방식이다.
• 이 프레임워크는 비트 벡터 비교를 통한 비중이 없는 수세기를 활용해 이항분포와 같은 분포를 자동으로 효율적으로 인코딩할 수 있으며, py-aiger-coins 라이브러리에서 구현된 바 있다.