[論文レビュー] The Practical Scope of the Central Limit Theorem

David Draper, Erdong Guo|arXiv (Cornell University)|Nov 24, 2021

Stochastic processes and statistical mechanics参考文献 63被引用数 4

ひとこと要約

この論文は、実世界のデータサイエンティスティクスおよび統計的推論における中央極限定理（CLT）が正確な近似を提供するための実用的な標本サイズ要件を調査する。歴史的文脈、エッジワース展開およびコルニッシュ＝フィッシャー展開、および標本抽出やギャンブルに関する事例研究を通じて、歪度や裾の重い分布では収束が遅くなることが示され、一般的な閾値n=30が不十分である可能性がある。歪度、尖度、および所望の精度水準に基づいた洗練された基準を提示する。

ABSTRACT

The extit{Central Limit Theorem (CLT)} is at the heart of a great deal of applied problem-solving in statistics and data science, but the theorem is silent on an important implementation issue: extit{how much data do you need for the CLT to give accurate answers to practical questions?} Here we examine several approaches to addressing this issue -- along the way reviewing the history of this problem over the last 290 years -- and we illustrate the calculations with case-studies from finite-population sampling and gambling. A variety of surprises emerge.

研究の動機と目的

• 応用統計およびデータサイエンスにおけるCLTが信頼性のある近似を提供するためのデータ量がどの程度必要かという長年の実用的問いに応えること。
• 歪度や尖度などの分布特性を踏まえた場合に、一般的なルール of thumb（例：n ≥ 30）の限界を評価すること。
• 実用的用途に適した十分な精度に達するまでの、分布固有の定量的基準を提示すること。
• 有限母集団からの標本抽出やギャンブル戦略といった現実世界の文脈において、CLTの収束が遅いことがもたらす影響を説明すること。
• 高次モーメントおよび漸近的展開が、正規近似の精度を評価する上で果たす役割を強調すること。

提案手法

• 歪度と尖度を組み込むことで、有限標本における正規近似の精度を向上させるエッジワース展開を用いる。
• モーメントに基づいて正規分布の分位点を補正するコルニッシュ＝フィッシャー展開を用い、より正確な裾確率推定を可能にする。
• 二項分布の標本抽出と赤黒ルーレットゲームの事例研究を通じて、CLTの収束行動を分析する。両者とも離散的で、有界かつ歪度のある分布を対象とする。
• 特に格子分布の設定において、離散近似の精度を向上させるために連続性補正を適用する。
• 絶対誤差を確率尺度で評価し、p = 0.975、0.995、0.9995（zスコア：±1.960、±2.576、±3.291）の閾値を設定する。
• 数値計算および記号計算ツール（例：Mathematica）を用いて、同時密度関数J(z)の評価と、異なる表現間の同等性の検証を行い、理論的導出を検証する。

実験結果

リサーチクエスチョン

• RQ1 実用的なデータサイエンス応用において、中央極限定理が十分に正確な正規近似を提供するためには、どの程度の標本サイズが必要か？
• RQ2 歪度および過剰尖度がCLTの収束速度にどの程度影響を及ぼすか、そしてそれらを定量的に補正する方法は何か？
• RQ3 なぜ一般的なルール of thumb（例：n ≥ 30）は、歪度や裾の重い分布ではしばしば実際には不十分に終わるのか？
• RQ4 エッジワース展開およびコルニッシュ＝フィッシャー展開は、標準的なCLTに比べて正規近似の精度をどのように向上させるか？
• RQ5 CLTの収束が遅いことが、特にp = 0.05の基準に従う科学的研究における誤り発見率および再現可能性にどのような影響を及えるか？

主な発見

• 歪度や裾の重い分布では、CLTの収束は極めて遅く、n ≥ 30が十分とされる場合でも、n = 100やそれ以上の標本サイズが必要になる場合がある。
• p = 0.5の二項分布では、正規近似がn ≈ 30を超えると良好に機能し始めるが、p = 0.1やp = 0.9の場合は収束がはるかに遅く、許容可能な精度を得るにはn > 100が必要となる。
• 連続性補正を用いることで、離散分布における正規近似の精度、特に裾の部分で顕著に向上する。
• コルニッシュ＝フィッシャー展開は、高い歪度や尖度を示す非正規分布に対して、標準正規分布のzスコアよりもより正確な分位点近似を提供する。
• 赤黒ルーレットのギャンブルモデルでは、35 MUsの損失確率は0.394であり、最も確率の高い勝利額は1 MU（確率0.372）である。これは、多くの試行を行っても、純利益の分布が依然として著しく歪んでいることを示している。
• 高信頼区間（例：0.9995）では、0.95の信頼区間よりも標本サイズが大きく必要になることが示され、特に絶対誤差基準を用いる場合、信頼水準が高くなるほど標本サイズに敏感でないという仮定に反する。