[論文レビュー] Limit theorems for invariant distributions

Morgane Austern, Peter Orbanz|arXiv (Cornell University)|Jun 27, 2018

Bayesian Methods and Mixture Models参考文献 35被引用数 3

ひとこと要約

本稿は、エルゴード理論とスティンの方法を用いて、変換群にわたる平均化に基づく不変分布推定子の中心極限定理、ベリー＝エッセーンの上限および集中不等式を確立する。混合性および群の成長条件の下で、広範な過程のクラスに対して経験エントロピーの漸近正規性を証明する。

ABSTRACT

A distributional symmetry is invariance of a distribution under a group of transformations. Exchangeability and stationarity are examples. We explain that a result of ergodic theory provides a law of large numbers: If the group satisfies suitable conditions, expectations can be estimated by averaging over subsets of transformations, and these estimators are strongly consistent. We show that, if a mixing condition holds, the averages also satisfy a central limit theorem, a Berry-Esseen bound, and concentration. These are extended further to apply to triangular arrays, to randomly subsampled averages, and to a generalization of U-statistics. As applications, we obtain new results on exchangeability, random fields, network models, and a class of marked point processes. We also establish asymptotic normality of the empirical entropy for a large class of processes. Some known results are recovered as special cases, and can hence be interpreted as an outcome of symmetry. The proofs adapt Stein's method.

研究の動機と目的

• 群不変分布の下での期待値の一貫推定のための一般枠組みの構築。
• 変換群にわたる平均化に基づく推定量の中心極限定理およびベリー＝エッセーンの上限の確立。
• 三角配列、ランダムに部分抽出された平均、一般化されたU統計量への結果の拡張。
• 混合性および群の成長条件の下で、不変過程における経験エントロピーの漸近正規性の証明。
• 対称性を通じて、交換可能性、確率場、ネットワークモデル、点過程の分野における既知の結果を統一的かつ一般化する。

提案手法

• 群平均推定量の一貫性の基礎として、リンデンストラウスの点ごとのエルゴード定理を用いる。
• スティンの方法を用いて、群平均関数の性質に関するベリー＝エッセーンの上限および集中不等式を導出する。
• 群の要素k個の組に対して係数α(t,k)を用いて定義される混合条件を導入し、従属を制御する。
• 群に左不変な全順序を導入し、予測的従属を定義し、エントロピー推定における近似誤差を制御する。
• 滑らかなFølner列を用いて、拡大する部分集合における群平均の漸近的同等性を保証する。
• 予測的対数尤度の間の自己共分散の和として漸近分散η²を導出する。

実験結果

リサーチクエスチョン

• RQ1 不変分布の下で、群平均推定量Fn(f,X)が漸近正規となる条件は何か？
• RQ2 スティンの方法を用いて、不変推定量のためのベリー＝エッセーンの上限をどのように導出できるか？
• RQ3 経験エントロピーの漸近正規性を保証する混合条件は何か？
• RQ4 群構造（例：多項式成長、トーリオンなし）の選択が推定量の収束性に与える影響は何か？
• RQ5 交換可能性およびネットワークモデル分野における既知の結果が、この一般枠組みの特別な場合として回復可能か？

主な発見

• G不変性および滑らかなFølner列の下で、群平均推定量Fn(f,X)は強く一貫する。
• α(t,k)を含む混合条件および群の成長条件の下で、Fn(f,X)に対して中心極限定理が成り立つ。
• 混合係数および群の成長に依存するレートを持つ、ベリー＝エッセーンの上限が確立された。
• ρmおよびα(i−m,|Bm|)のsummability条件の下で、経験エントロピーhn(λ,X)の漸近正規性が証明された。
• 漸近分散η²は、左不変性の下で順序の選択に依存しない予測的対数尤度の自己共分散の和として表現される。
• 本枠組みは、交換可能性、確率場、ネットワークモデル分野における既知の結果を特別な場合として回復する。