[论文解读] The Polya Urn: Limit Theorems, Polya Divergence, Maximum Entropy and Maximum Probability

Marian Grendár, Robert K. Niven|arXiv (Cornell University)|Dec 29, 2006

Stochastic processes and statistical mechanics参考文献 23被引用 4

一句话总结

本文建立了多色Pólya-Eggenberger（PE）瓮抽样方案下的条件极限定理（CoLT）与Sanov定理，引入了一种新的散度度量——Pólya散度，该度量推广了Kullback-Leibler散度。研究证明，在PE抽样下，最大似然原理（而非标准的最大熵原理）能提供正确的渐近推理，挑战了最大熵方法的普遍适用性，并为依赖抽样下的逆问题提供了概率基础的替代方案。

ABSTRACT

Sanov's Theorem and the Conditional Limit Theorem (CoLT) are established for a multicolor Polya Eggenberger urn sampling scheme, giving the Polya divergence and the Polya extension to the Maximum Relative Entropy (MaxEnt) method. Polya MaxEnt includes the standard MaxEnt as a special case. The universality of standard MaxEnt - advocated by an axiomatic approach to inference for inverse problems - is challenged, in favor of a probabilistic approach based on CoLT and the Maximum Probability principle.

研究动机与目标

• 将Sanov定理与条件极限定理（CoLT）扩展至多色Pólya-Eggenberger（PE）瓮抽样方案。
• 引入并分析一种新的散度度量——Pólya散度，该度量推广了Kullback-Leibler散度，适用于依赖抽样过程。
• 通过证明在 $ c \neq 0 $ 时标准最大熵（MaxEnt）方法在逆问题中失效，挑战其在公理化MaxEnt方法中的普遍适用性。
• 通过最大似然（MaxProb）原理建立推理的概率基础，证明其在PE抽样下与CoLT一致。
• 证明基于CoLT推导出的Pólya MaxEnt方法可将标准MaxEnt作为特例包含在内，并在依赖抽样下提供一致的渐近推理。

提出的方法

• 推导出Pólya散度 $ I(p\,||\,q;\beta,c) $ 作为KL散度的推广，引入参数 $ \beta $（抽样比例）和 $ c $（强化参数）。
• 通过分析概率 $ \pi(\nu^n \in \Pi; q, c) $ 的大偏差行为，建立PE抽样下的Sanov定理，表明其指数衰减由Pólya散度控制。
• 应用Gibbs条件化原理（GCP）推导出PE抽样下的CoLT，表明经验类型 $ \nu^n $ 集中于使Pólya散度相对于先验 $ q $ 最小化的分布。
• 利用Pólya散度定义一种新的最大熵方法——Pólya MaxEnt，当 $ c = 0 $ 时退化为标准MaxEnt。
• 通过数值表格（表I）分析最大似然（MaxProb）分布随 $ n \to \infty $ 收敛至Pólya MaxEnt解的过程，展示渐近一致性。
• 证明Pólya散度的关键性质：非负性、下极限连续性、凸性、分划不等式及Pinsker型不等式。

实验结果

研究问题

• RQ1 多色Pólya-Eggenberger瓮抽样方案下，条件极限定理（CoLT）是否成立？其大偏差行为如何？
• RQ2 能否定义一种广义散度度量，以将最大相对熵（MaxEnt）方法扩展至依赖抽样（如Pólya抽样）？
• RQ3 在Pólya抽样下，最大似然（MaxProb）原理与标准MaxEnt方法相比如何，特别是在 $ c \neq 0 $ 时？
• RQ4 标准MaxEnt方法在Pólya抽样下是否具有渐近一致性，还是在 $ c \neq 0 $ 时违反CoLT？
• RQ5 在PE抽样下，最可能的经验类型 $ \nu^n $ 的极限行为是什么？其与Pólya MaxEnt的关系如何？

主要发现

• Pólya散度 $ I(p\,||\,q;\beta,c) $ 非负，且当且仅当 $ p = q $ 时为零，确保其为有效的散度度量。
• Pólya散度在两个变量上均满足凸性，并满足分划不等式，使其适用于优化与信息论分析。
• 当 $ c \neq 0 $ 时，标准MaxEnt方法无法满足Pólya CoLT，表明其在依赖抽样下不具备渐近一致性。
• 最大似然（MaxProb）原理所选择的最可能经验类型，随着 $ n \to \infty $ 收敛至Pólya MaxEnt解，表I中 $ n = 1000 $ 时已显示此收敛性。
• Pólya MaxEnt方法基于CoLT推导，当 $ c = 0 $ 时包含标准MaxEnt作为特例，为依赖抽样下的推理提供统一框架。
• 表I中的数值结果表明，当 $ n = 1000 $ 时，MaxProb分布与Pólya MaxEnt解高度接近，所有分量在 $ c \in \{-2,-1,0,1,5,10\} $ 范围内最大偏差均低于0.03。