[论文解读] Natural Exponential Families With Reduction Functions and Resolution of A Conjecture

Xiongzhi Chen|arXiv (Cornell University)|Oct 14, 2015

Advanced Statistical Methods and Models被引用 2

一句话总结

本文解决了关于单参数自然指数族（NEFs）中方差函数的一个长期存在的猜想，证明了当一个多项式具有零根和具有正虚部的复根时，其生成的NEF的均值域为 (0, ∞) 当且仅当该复根的实部非正。此外，本文建立了存在一个确定性约化函数 h，使得 h(ξ) 是具有绝对连续诱导测度的无限可分NEF中 Var(ξ) 的无偏估计量，从而在高维数据中实现方差估计与降维。

ABSTRACT

One-parameter natural exponential family (NEF) plays fundamental roles in probability and statistics. This article contains two independent results: (a) A conjecture of Bar-Lev, Bshouty and Enis states that a polynomial with a simple root at $0$ and a complex root with positive imaginary part is the variance function of some NEF with mean domain $\left(0,\infty ight)$ if and only if the real part of the complex root is not positive. This conjecture is resolved. The positive answer to this conjecture enlarges existing family of polynomials that are able to generate NEFs, and it helps prevent practitioners from choosing incompatible functions as variance functions for statistical modeling using NEFs. (b) if a random variable $\xi$ has parametric distributions that form a infinitely divisible NEF whose induced measure is absolutely continuous with respect to its basis measure, then there exists a deterministic function $h$, called function, such that $\mathbb{E} \left(h\left(\xi ight) ight)=\mathbb{V}\left(\xi ight)$, i.e., $h\left(\xi ight)$ is an unbiased estimator of the variance of $\xi$. The reduction function has applications to estimating latent, low-dimensional structures and to dimension reduction in the first and/or second moments in high-dimensional data.

研究动机与目标

• 解决 Bar-Lev、Bshouty 和 Enis 提出的关于某些多项式在何种条件下可生成均值域为 (0, ∞) 的有效NEF的猜想。
• 建立存在一个确定性约化函数 h，使得对于具有绝对连续诱导测度的无限可分NEF，有 E[h(ξ)] = Var(ξ)。
• 扩展可用于NEF基础统计建模中方差函数的多项式类。
• 为估计高维数据的一阶与二阶矩中的潜在低维结构并实现降维，提供理论工具。

提出的方法

• 利用复分析和自然指数族的性质，证明了该猜想，重点研究方差函数中复根的位置。
• 通过分析均值域与方差生成多项式根之间的相互作用，刻画了NEF中方差函数的结构。
• 证明了对于具有绝对连续诱导测度的无限可分NEF，存在一个确定性函数 h，使得 E[h(ξ)] = Var(ξ)。
• 利用测度论论证，表明诱导测度相对于基测度绝对连续，可确保此类约化函数 h 的存在性。
• 推导出复根在方差函数中实部必须非正的条件，以保证NEF的均值域为 (0, ∞)。
• 将约化函数 h 应用于高维场景中方差估计，实现了对一阶与二阶矩的降维。

实验结果

研究问题

• RQ1 在多项式的根满足何种条件时，其可作为均值域为 (0, ∞) 的NEF的有效方差函数？
• RQ2 是否每个在零处具有单重根且在虚部为正的复根的多项式，其生成的NEF的均值域为 (0, ∞) 当且仅当该复根的实部非正？
• RQ3 能否构造一个确定性函数 h，使得对于具有绝对连续诱导测度的无限可分NEF，有 E[h(ξ)] = Var(ξ)？
• RQ4 此类约化函数如何用于估计高维数据中的潜在低维结构？
• RQ5 此类约化函数的存在对方差估计与统计建模中的降维有何影响？

主要发现

• 该猜想得到证实：当一个多项式在 0 处具有单重根且在虚部为正的复根时，其为均值域为 (0, ∞) 的NEF的有效方差函数，当且仅当该复根的实部不为正。
• 通过解决该猜想，可生成NEF的多项式类显著扩大，提升了基于NEF建模的灵活性。
• 对于任意诱导测度相对于其基测度绝对连续的无限可分NEF，均存在一个确定性函数 h，使得 E[h(ξ)] = Var(ξ)。
• 该约化函数 h 可实现对 ξ 方差的无偏估计，为统计推断提供了新工具。
• 该约化函数通过估计潜在的低维结构，促进了高维数据一阶与二阶矩的降维。
• 理论结果防止了在基于NEF的统计模型中使用不相容的方差函数，从而增强了模型的有效性。