[論文レビュー] New Probabilistic Inequalities from Monotone Likelihood Ratio Property

Xinjia Chen|arXiv (Cornell University)|Oct 18, 2010

Statistical Mechanics and Entropy参考文献 6被引用数 4

ひとこと要約

本稿では、単調尤度比性質（MLRP）とBerry-Essen不等式を活用することで、Studentのt分布、F分布、超幾何分布、待ち時間分布などの分布の裾確率に対して、鋭い確率的不等式を導出する新しい手法を提案する。指数分布族において、Chernoff-Hoeffding不等式を約2倍の要因で改善する、類を見ないほどきつい境界を確立する。

ABSTRACT

In this paper, we propose a new approach for deriving probabilistic inequalities. Our main idea is to exploit the information of underlying distributions by virtue of the monotone likelihood ratio property and Berry-Essen inequality. Unprecedentedly sharp bounds for the tail probabilities of some common distributions are established.

研究の動機と目的

• モーメント母関数が扱いにくい分布の裾確率境界を導出する際のモーメント法の限界を克服すること。
• 既知の分布の構造的性質を単調尤度比性質（MLRP）を用いて活用し、よりきつい確率的不等式を構築すること。
• 指数分布族およびその他の一般的な分布にわたる裾確率の境界を統一的に扱うフレームワークを構築すること。
• 信頼区間の構築と標本サイズの決定における実用的応用を示すこと。

提案手法

• 単調尤度比性質（MLRP）を用いて、尤度比を十分統計量の非減少関数として表現することで、よりきつい裾の境界を可能にする。
• 定理1を用いて尤度比境界（LRB）を導入し、裾確率を尤度比関数と基準確率の積によって上界で抑え込む。
• Berry-Essen不等式とMLRPを組み合わせることで、集中境界を精緻化し、特にChernoff-Hoeffding型不等式を改善する。
• 第4節では、MLRPと漸近正規性を用いて、指数分布族の分布に対する統一理論を構築する。
• 裾確率不等式から導かれる下限と上限を用いて、パラメータの信頼区間を構築する。
• Chernoffの定理に接続する裾確率の対数的漸近的性質を用いて、標本サイズ要件を分析する。

実験結果

リサーチクエスチョン

• RQ1 単調尤度比性質（MLRP）を体系的に用いることで、古典的なモーメントに基づく手法よりもきつい裾確率境界を導出可能か？
• RQ2 指数分布族の分布において、MLRPは既存のChernoff-Hoeffding不等式をどの程度改善できるか？
• RQ3 モーメント母関数が扱いにくい分布（例：Studentのt分布、F分布、超幾何分布、待ち時間分布）に対し、鋭い境界を導出可能か？
• RQ4 新しい不等式は、特に信頼区間の構築と標本サイズの決定において、パrameter推定にどの程度有効か？
• RQ5 新しい境界下での標本サイズ要件の漸近的挙動は、古典的手法と比較していかなるものか？

主な発見

• 提案手法により、Studentのt分布、F分布、超幾何分布、待ち時間分布の裾確率に対する境界が、類を見ないほどきついものとなった。
• 指数分布族の分布において、MLRPに基づく境界は、Chernoff-Hoeffding不等式の裾の減衰率を約2倍改善する。
• 下限と上限から導かれる信頼区間の構築により、カバレッジ確率が少なくとも1−δに達し、両裾の確率がそれぞれδ/2以下に抑えられる。
• 与えられた信頼水準δに対する必要な標本サイズNは、古典的手法と同様のオーダーに漸近的に収束し、lim_{δ→0} N_a(δ)/N_b(δ) = 1が成り立つ。
• 裾確率の対数的極限を用いることで、新しい手法と古典的手法との間で、標本サイズ要件の漸近的同値性が確立された。
• 本手法は、モーメント母関数に依存せず、分布構造とMLRPの基本的知識のみで、きつい信頼区間を構築可能である。