[論文レビュー] Conditioning by rare sources

Marian Grendár|ArXiv.org|Jan 3, 2006

Target Tracking and Data Fusion in Sensor Networks参考文献 16被引用数 4

ひとこと要約

本稿は統計的推論におけるレアソースの条件付き確率について調査し、一様または一般の事前分布のもとで、レアソースの事後確率がL-発散によって制御される指数関数的減衰を示している。主な結果は、レアソースが凸かつ閉集合への真のソースのL-射影に漸近的に集中することであり、これはサンフ・の定理や経験測度に関する条件付き極限定理に類似している。

ABSTRACT

In this paper we study the exponential decay of posterior probability of a set of sources and conditioning by rare sources for both uniform and general prior distributions of sources. The decay rate is determined by $L$-divergence and rare sources from a convex, closed set asymptotically conditionally concentrate on an $L$-projection. $L$-projection on a linear family of sources belongs to $\varLambda$-family of distributions. The results parallel those of Large Deviations for Empirical Measures (Sanov's Theorem and Conditional Limit Theorem).

研究の動機と目的

• 経験測度に関するサンフの定理や条件付き極限定理に類似した、ソースに関する大偏差原理を確立すること。
• 統計的推論におけるβ問題の文脈において、特に稀なソースに条件づけた際の事後分布の挙動を調査すること。
• 事前分布が一様でない場合を含め、稀なソース条件下での最適なソース選択法を特定すること。
• L-発散とL-射影が、稀なソース集合上での事後分布の極限的挙動を特徴付ける役割を形式化すること。
• 凸かつ閉集合である稀なソース集合のもとで、L-発散の最大化がβ問題における基準選択問題（CCP）の解を与えることを示し、漸近的に最も確率の高いソースを同定すること。

提案手法

• 大偏差理論をソースに適用し、サンフの定理や条件付き極限定理を、稀なソース集合の文脈に拡張する。
• レアソース条件付き推論問題における事後確率の減衰率を支配する主要な発散測度としてL-発散を定義する。
• 凸かつ閉集合へのソースのL-射影を、事後分布の漸近的集中の極限として導入する。
• タイプの方法と情報理論的不等式を用いて、事後確率の指数的バウンドを導出する。
• 一様および一般の事前分布を両方検討し、事前分布が全有理数ソース空間上で正であれば、L-射影が漸近的極限として不変であることを示す。
• L-射影と逆I-射影の間の同等性を確立し、パrametric統計における既存の結果と関連付ける。

実験結果

リサーチクエスチョン

• RQ1 標本サイズが増加する際、稀なソース集合の事後確率はどのように減衰するか？
• RQ2 稀で、凸かつ閉集合であるソース集合上での事後分布の極限分布は何か？
• RQ3 事前分布の選択（一様 vs. 一般）が、稀なソース上での事後分布の漸近的挙動に与える影響は何か？
• RQ4 真のソースが候補集合に含まれない場合、β問題における最適なソース選択ルールは何か？
• RQ5 L-発散は、稀なソース条件付き推論における事後集中と基準選択問題（CCP）とどのように関係するか？

主な発見

• 稀で、凸かつ閉集合であるソース集合の事後確率は、真のソースとその集合へのL-射影との間のL-発散によって定まるレートで指数的に減衰する。
• nが十分に大きい場合、事後分布は、事前分布が全有理数ソース上で正であれば、一様でも一般でも、真のソースの稀な集合へのL-射影に漸近的に集中する。
• 一様事前分布のもとでは、真のソースの稀な集合へのL-射影は、すべてのnに対して事後確率を最大にする唯一のソースである。
• 事前分布が全有理数ソース空間上で正でない場合、事後分布は、事前分布が支持する部分集合への経験タイプのL-射影に集中する。
• L-射影は形式的に逆I-射影と同等であるが、L-発散の定式化は、β問題における非パラメトリック推論の文脈でより自然な枠組みを提供する。
• β問題に関連する基準選択問題（CCP）の解は、指定された正則性条件下で、稀な集合上でL-発散を最大化することによって与えられる。