[论文解读] Polynomial Time Algorithms for Multi-Type Branching Processes and Stochastic Context-Free Grammars

Kousha Etessami, Alistair Stewart+1 more|arXiv (Cornell University)|Jan 11, 2012

Algorithms and Data Compression参考文献 22被引用 16

一句话总结

本文提出了用于近似求解多变量单调概率多项式方程系统（PPS）的最小不动点（LFP）解的多项式时间算法，该类系统等价于多类型分支过程和随机上下文无关文法（SCFG）中的关键问题。作者通过应用牛顿法并引入新颖的收敛性分析，证明了最小不动点可被近似至加法误差 ε 内，时间复杂度为系统编码大小和 log(1/ε) 的多项式函数。

ABSTRACT

We show that one can approximate the least fixed point solution for a multivariate system of monotone probabilistic polynomial equations in time polynomial in both the encoding size of the system of equations and in log(1/ε), where ε> 0 is the desired additive error bound of the solution. (The model of computation is the standard Turing machine model.) We use this result to resolve several open problems regarding the computational complexity of computing key quantities associated with some classic and heavily studied stochastic processes, including multi-type branching processes and stochastic context-free grammars.

研究动机与目标

• 解决长期悬而未决的开放问题：在多项式时间内计算多类型分支过程中的灭绝概率以及随机上下文无关文法（SCFG）中的终止概率。
• 解决这些随机模型中关键概率近似计算的复杂性问题，此前这些问题是未知是否可在多项式时间内求解的。
• 证明多变量单调概率多项式方程系统的最小不动点（LFP）解可在任意期望的加法误差范围内以多项式时间求解。
• 证明判断某个概率是否大于或小于有理数阈值 r 的决策问题可多项式时间归约至 PosSLP，从而将其置于复杂性类 P^{PosSLP} 中。

提出的方法

• 将灭绝概率与终止概率的计算问题表述为求解单调概率多项式方程系统（PPS）的最小不动点（LFP）：x = P(x)。
• 应用牛顿法迭代逼近 LFP，每一步均涉及矩阵求逆与向量更新。
• 利用克莱姆法则将矩阵求逆表示为行列式的比值，从而在单位成本 RAM 模型下实现多项式时间算术电路计算。
• 引入基于双指数收敛速率的停止准则，确保经过 O(log log(1/ε)) 次迭代后，近似误差在 ε 以内。
• 将决策问题（q_k^* > r 和 q_k^* < r）归约为有理数比较问题，这些有理数由多项式大小的算术电路计算得出，而这类问题已知属于复杂性类 PosSLP。
• 借助 Allender 等人的已知结果，证明这些决策问题可多项式时间单射归约至 PosSLP，从而确立其可解性。

实验结果

研究问题

• RQ1 能否在多项式时间内近似求解多变量单调概率多项式方程系统的最小不动点（LFP）？
• RQ2 是否可能在多项式时间内且达到期望精度下计算多类型分支过程中的灭绝概率？
• RQ3 能否高效近似随机上下文无关文法（SCFG）中的终止概率？判断此类概率是否超过给定阈值的计算复杂性是什么？
• RQ4 判断 PPS 的最小不动点是否大于或小于给定有理数 r 的复杂性是什么？
• RQ5 计算或判断分支过程（BPs）与 SCFG 中关键概率的问题是否可归约至已知复杂性类（如 PosSLP）？

主要发现

• 任何多变量单调概率多项式方程系统（PPS）的最小不动点（LFP）都可在编码大小和 log(1/ε) 的多项式时间内，以加法误差 ε 近似求解。
• 该算法使用牛顿法，其收敛速率确保 O(log log(1/ε)) 次迭代即可达到 ε 精度。
• 判断 LFP 分量 q_k^* 是否大于有理数阈值 r 的决策问题属于复杂性类 P^{PosSLP}，同理适用于 q_k^* < r 的情况。
• 判断 q_k^* > r 和 q_k^* < r 的问题可多项式时间单射归约至 PosSLP，从而在标准复杂性假设下确立其可解性。
• 该算法在标准图灵机模型下运行时间多项式，算术运算通过多项式大小的算术电路实现。
• 该结果解决了多类型分支过程与 SCFG 中灭绝概率与终止概率计算复杂性的长期开放问题。