[论文解读] Maximum Entropy Edgeworth Estimates of Volumes of Polytopes

Alexander Barvinok, J. A. Hartigan|arXiv (Cornell University)|Oct 13, 2009

Advanced Statistical Methods and Models参考文献 6被引用 4

一句话总结

本文提出了一种最大熵Edgeworth校正高斯近似方法，用于估计由线性约束定义的高维多面体中的整数格点数量。通过使用最大熵密度建模点的分布，并利用四阶矩对高斯尾部概率进行Edgeworth展开修正，该方法在计数列联表和给定度序列的图时实现了渐近有效的估计。

ABSTRACT

The number of points (x_1,...x_n) that lie in an integer cube C in R_n and satisfy the constraints S_i=sum_i[ h_{ij}(x_j) ] is approximated by an Edgeworth corrected gaussian approximation based on the maximum entropy density p on C, that satisfies ES = s . Under p, the variables X_1,...X_n are independent with densities of exponential form. Conditional on S = s, X is uniformly distributed over the integers in C that satisfy S = s . The number of points in C satisfying S=s is p{S=s} exp(I(p)) where I(p) is the entropy of the density p . We first estimate p{S=s}by P{Z=s} where Z is multivariate gaussian with the same first two moments as S ;and when d is large we use in addition an Edgeworth factor that requires the first four moments of S under p. The asymptotic validity of the Edgeworth corrected estimate is examined for counting contingency tables with given row sums and column sums, and for counting the number of graphs with a given degree sequence.

研究动机与目标

• 开发一种计算上可行且渐近有效的方法，用于估计由线性约束定义的高维多面体中的整数点数量。
• 解决列联表计数问题（固定行和列和），这是统计学和组合数学中的经典问题。
• 将估计方法扩展到具有给定度序列的图的数量，涉及复杂的组合约束。
• 通过Edgeworth校正引入高阶矩，以提高高维情况下的准确性，从而改进标准高斯近似。

提出的方法

• 使用满足矩约束 E[S] = s 的最大熵密度 p，对约束立方体 C ⊂ ℝⁿ 中整数点的分布进行建模。
• 在 p 下，随机变量 X₁,…,Xₙ 相互独立，且服从指数族密度，从而能够高效计算矩。
• 将满足 S = s 的点的数量估计为 p{S = s} × exp(I(p))，其中 I(p) 是最大熵密度 p 的熵。
• 使用具有与 p 下 S 相同的一、二阶矩的多元正态概率 P{Z = s} 近似 p{S = s}。
• 利用 p 下 S 的前四阶矩对高斯近似应用Edgeworth校正，以提高高维情况下的准确性。
• 在两个关键组合问题上对方法进行渐近验证：固定边缘的列联表计数和具有指定度序列的图计数。

实验结果

研究问题

• RQ1 如何高效且准确地估计由线性约束定义的高维多面体中的整数点数量？
• RQ2 通过Edgeworth展开引入高阶矩在多大程度上能提高高维计数问题中高斯近似的准确性？
• RQ3 Edgeworth校正的最大熵近似在计数具有固定行和列和的列联表时是否具有渐近有效性？
• RQ4 该框架能否扩展到计数具有给定度序列的图？在该情境下其准确性如何？

主要发现

• 通过四阶矩引入偏度和峰度，Edgeworth校正近似显著优于标准高斯近似。
• 当维度 d 较大时，该方法在计数具有固定边缘的列联表时实现了渐近有效性。
• 在类似高维条件下，该方法在估计具有给定度序列的图的数量时也具有渐近有效性。
• 满足 S = s 的整数点数量被准确估计为 p{S = s} × exp(I(p))，其中 p 为最大熵密度，I(p) 为其熵。
• Edgeworth校正的使用降低了尾部概率估计的误差，尤其在 S 的分布呈偏态或重尾时效果更明显。
• 该框架通过统一的最大熵与Edgeworth校正方法，将多种组合问题中的格点计数估计统一起来。