[论文解读] Proving uniformity and independence by self-composition and coupling

Gilles Barthe, Thomas Espitau+3 more|arXiv (Cornell University)|Jan 23, 2017

Distributed systems and fault tolerance参考文献 24被引用 11

一句话总结

本文提出了一种新颖的方法，利用概率耦合与自组合技术，在 pRHL 程序逻辑中对概率程序中的均匀性与概率独立性进行形式化验证。通过将非关系性质转化为关系判断，该方法实现了组合式、无事件的推理，避免了显式概率计算，并使用 EasyCrypt 证明助手进行了形式化验证，实际案例研究包括随机游走与条件独立性。

ABSTRACT

Proof by coupling is a classical proof technique for establishing probabilistic properties of two probabilistic processes, like stochastic dominance and rapid mixing of Markov chains. More recently, couplings have been investigated as a useful abstraction for formal reasoning about relational properties of probabilistic programs, in particular for modeling reduction-based cryptographic proofs and for verifying differential privacy. In this paper, we demonstrate that probabilistic couplings can be used for verifying non-relational probabilistic properties. Specifically, we show that the program logic pRHL---whose proofs are formal versions of proofs by coupling---can be used for formalizing uniformity and probabilistic independence. We formally verify our main examples using the EasyCrypt proof assistant.

研究动机与目标

• 为解决现有技术难以验证的、在概率程序中常见但难以验证的均匀性与概率独立性形式化验证挑战。
• 证明非关系性概率性质——均匀性与独立性——可借助概率耦合表示并验证为关系性质。
• 提供一种组合式、无事件的验证方法，避免直接计算单个事件的概率。
• 使用 EasyCrypt 证明助手对方法进行形式化与验证，并在包括随机游走与条件独立性的实际示例中加以应用。
• 表明自组合与耦合可实现对复杂概率性质的可扩展且模块化的推理。

提出的方法

• 通过比较同一程序的两次独立运行，将均匀性简化为关系性质，要求任意输出值在两次运行中的概率相等。
• 对于独立性，该方法使用自组合比较两次运行，并通过耦合构造证明联合分布可分解为边缘分布。
• 该方法利用 pRHL 逻辑，其中关系判断表达两次程序运行的输出以某种方式耦合，从而保持期望的概率不变量。
• 关键技术组件包括使用恒等耦合处理独立采样，以及使用自定义双射在运行之间对齐随机变量，从而实现对分布的正确耦合。
• 该方法在 EasyCrypt 证明助手中实现并验证，包括手动构建自组合程序及仔细发现不变量。
• 该方法通过支持结构规则与 pRHL 内部的组合式证明技术，实现模块化推理。

实验结果

研究问题

• RQ1 能否在不计算每个单独输出概率的情况下验证程序变量在有限集合上的均匀性？
• RQ2 能否在不显式计算联合概率与边缘概率的情况下建立两个变量之间的概率独立性？
• RQ3 能否使用基于概率耦合的关系证明技术来表达并验证非关系性概率性质？
• RQ4 如何系统性地应用自组合与耦合技术，以在 pRHL 中形式化均匀性与独立性？
• RQ5 在使用交互式证明助手（如 EasyCrypt）验证此类性质时，实际挑战与解决方案是什么？

主要发现

• 本文成功通过自组合将均匀性形式化为关系性质，从而减少了对每个输出值单独概率计算的需求。
• 该方法通过精心构建的耦合证明联合分布可分解为边缘分布，从而实现独立性的验证，避免了直接的概率计算。
• 该方法成功应用于形式化并验证了在环上的随机游走，使用了约 500 行的 EasyCrypt 证明脚本，展示了其可扩展性。
• 通过耦合采样并重新排列指令以对齐依赖关系，成功形式化并验证了贝叶斯网络风格程序中的条件独立性。
• 形式化过程共需约 1,000 行 EasyCrypt 代码，其中 90% 用于证明基础设施与不变量，凸显了不变量发现的复杂性。
• 结果表明，pRHL 中基于耦合的推理为均匀性与独立性的传统概率验证提供了一种模块化且组合式的替代方案。