[論文レビュー] Natural Exponential Families With Reduction Functions and Resolution of A Conjecture

Xiongzhi Chen|arXiv (Cornell University)|Oct 14, 2015

Advanced Statistical Methods and Models被引用数 2

ひとこと要約

本論文は、1パrameter自然指数型分布族（NEF）における分散関数に関する長年の予想を解決し、原点に単一の根をもち、正の虚部をもつ複素根をもつ多項式が、その実部が非正である場合にかつその場合に限り、平均領域 (0, ∞) をもつ NEF を生成することを証明した。さらに、絶対連続な誘導測度をもつ無限に可分な NEF に対して、h(ξ) が Var(ξ) の不偏推定量であるような決定的還元関数 h が存在することを確立した。これにより、高次元データにおける分散推定と次元削減が可能になった。

ABSTRACT

One-parameter natural exponential family (NEF) plays fundamental roles in probability and statistics. This article contains two independent results: (a) A conjecture of Bar-Lev, Bshouty and Enis states that a polynomial with a simple root at $0$ and a complex root with positive imaginary part is the variance function of some NEF with mean domain $\left(0,\infty ight)$ if and only if the real part of the complex root is not positive. This conjecture is resolved. The positive answer to this conjecture enlarges existing family of polynomials that are able to generate NEFs, and it helps prevent practitioners from choosing incompatible functions as variance functions for statistical modeling using NEFs. (b) if a random variable $\xi$ has parametric distributions that form a infinitely divisible NEF whose induced measure is absolutely continuous with respect to its basis measure, then there exists a deterministic function $h$, called function, such that $\mathbb{E} \left(h\left(\xi ight) ight)=\mathbb{V}\left(\xi ight)$, i.e., $h\left(\xi ight)$ is an unbiased estimator of the variance of $\xi$. The reduction function has applications to estimating latent, low-dimensional structures and to dimension reduction in the first and/or second moments in high-dimensional data.

研究の動機と目的

• Bar-Lev, Bshouty, Enis が提起した、特定の多項式が有効な NEF を生成するための条件、特に平均領域 (0, ∞) をもつ場合の条件を解明すること。
• 絶対連続な誘導測度をもつ無限に可分な NEF に対して、E[h(ξ)] = Var(ξ) を満たす決定的還元関数 h が存在することを確立すること。
• NEFに基づく統計モデリングにおける分散関数として使用可能な多項式のクラスを拡張すること。
• 高次元データの一次モーメントおよび二次モーメントにおける潜在的な低次元構造を推定し、次元削減を可能にする理論的ツールを提供すること。

提案手法

• 複素解析および自然指数型分布族の性質を用いて、分散関数における複素根の位置に注目し、予想を証明した。
• 平均領域と分散生成多項式の根との間の相互作用を分析することで、NEFにおける分散関数の構造を特徴づけた。
• 絶対連続な誘導測度をもつ無限に可分な NEF に対して、E[h(ξ)] = Var(ξ) を満たす決定的関数 h が存在することを確立した。
• 測度論的議論を用いて、誘導測度が基本測度に関して絶対連続であることにより、このような還元関数 h の存在が保証されることを示した。
• NEF が平均領域 (0, ∞) をもつためには、分散関数における複素根の実部が非正でなければならないという条件を導出した。
• 還元関数 h を用いて高次元設定における分散推定を実行し、一次モーメントおよび二次モーメントにおける次元削減を可能にした。

実験結果

リサーチクエスチョン

• RQ1 多項式の根にどのような条件下で、それが平均領域 (0, ∞) をもつ NEF の有効な分散関数となるか？
• RQ2 原点に単一の根をもち、正の虚部をもつ複素根をもつ多項式が、その実部が非正である場合にかつその場合に限り、平均領域 (0, ∞) をもつ NEF を生成するか？
• RQ3 絶対連続な誘導測度をもつ無限に可分な NEF に対して、E[h(ξ)] = Var(ξ) を満たす決定的関数 h を構成可能か？
• RQ4 このような還元関数は、高次元データにおける潜在的な低次元構造を推定するためにどのように利用可能か？
• RQ5 このような還元関数の存在が、統計モデリングにおける分散推定および次元削減に与える影響は何か？

主な発見

• 予想は正当であると確認された：原点に単一の根をもち、正の虚部をもつ複素根をもつ多項式が、平均領域 (0, ∞) をもつ NEF の有効な分散関数であるための必要十分条件は、その複素根の実部が正でないことである。
• この予想の解決により、NEF を生成可能な多項式のクラスが著しく拡大され、NEFに基づくモデリングの柔軟性が向上した。
• 任意の無限に可分な NEF に対して、その誘導測度が基本測度に関して絶対連続である場合、E[h(ξ)] = Var(ξ) を満たす決定的関数 h が存在する。
• この還元関数 h は、ξ の分散の不偏推定を可能にし、統計的推論のための新たなツールを提供する。
• この還元関数は、高次元データの一次モーメントおよび二次モーメントにおける潜在的な低次元構造を推定することで、次元削減を促進する。
• 理論的結果により、NEFに基づく統計モデルにおける不適合な分散関数の使用が回避され、モデルの妥当性が向上した。