[论文解读] A Model Counter's Guide to Probabilistic Systems

Marcell Vazquez-Chanlatte, Markus N. Rabe+1 more|arXiv (Cornell University)|Mar 22, 2019

Bayesian Modeling and Causal Inference参考文献 23被引用 6

一句话总结

本文提出了一套系统化框架，通过将概率行为编码为布尔函数和无偏硬币翻转，利用无权重模型计数对概率系统（如马尔可夫链和有限离散分布）进行建模。关键贡献是一种基于SAT的组合式方法，通过标准模型计数器实现高效的概率推理，其核心是加权模型计数与通过小于运算符进行的位向量比较之间的新颖等价关系。

ABSTRACT

In this paper, we systematize the modeling of probabilistic systems for the purpose of analyzing them with model counting techniques. Starting from unbiased coin flips, we show how to model biased coins, correlated coins, and distributions over finite sets. From there, we continue with modeling sequential systems, such as Markov chains, and revisit the relationship between weighted and unweighted model counting. Thereby, this work provides a conceptual framework for deriving #SAT encodings for probabilistic inference.

研究动机与目标

• 开发一种系统化方法，将概率系统建模为无权重模型计数问题。
• 通过避免依赖加权模型计数，利用基于SAT的模型计数器实现高效的概率推理。
• 通过将它们编码为布尔电路，弥合概率推理与随机位生成技术之间的差距。
• 提供一种以布尔函数为中心的组合式框架，保持模型计数并支持马尔可夫链等序列系统。
• 展示标准模型计数如何替代蒙特卡洛方法和基于BDD的方法，用于罕见事件分析。

提出的方法

• 使用应用于无偏随机位流的布尔谓词来建模有偏且相关的硬币翻转。
• 通过位向量比较（特别是无符号整数上的小于运算符）实现无权重编码下的加权模型计数。
• 通过分解（如图6所示）构建序列电路，将马尔可夫链编码为随时间步长变化的布尔函数。
• 利用源自随机位模型的布尔电路，对任意有限离散分布（如二项分布、Knuth-Yao）进行编码。
• 应用H^k_n组件以表示整数比较，从而通过无权重计数实现加权模型的精确计数。
• 通过布尔函数将每个文字的权重建模为有偏硬币，将字面量加权模型计数归约为无权重模型计数。

实验结果

研究问题

• RQ1 如何将马尔可夫链等概率系统编码为无权重模型计数问题？
• RQ2 布尔函数在组合复杂概率行为的模型计数中扮演什么角色？
• RQ3 如何使从加权到无权重模型计数的归约过程系统化且具有组合性？
• RQ4 经典随机数生成算法（如Knuth-Yao）能否被编码为布尔电路以用于模型计数？
• RQ5 使用无偏硬币翻转作为原语，如何实现任意概率分布的构建？

主要发现

• H^k_n组件（用于统计满足赋值数等于k的个数）与位向量小于k的条件等价，直接建立了模型计数与整数比较之间的联系。
• 该框架通过避免使用蒙特卡洛采样和基于BDD的方法，实现了对罕见事件的精确概率推理。
• 模型计数方法保持了满足赋值的计数，确保在建模条件概率和相关概率时的正确性。
• 将Knuth-Yao算法编码为序列布尔电路，证明了将经典随机变量生成技术集成到基于SAT的推理中的可行性。
• 通过小于运算符实现从加权到无权重模型计数的归约，概念上简洁且在形式上等价于先前的归约，但更具组合性和模块化。
• 该框架支持使用布尔电路对二项分布等分布进行自动且高效的编码，相关实现已发布于py-aiger-coins库中。