[論文レビュー] Another look at Bootstrapping the Student t-statistic

Miklós Csörgő, Yuliya V. Martsynyuk+1 more|arXiv (Cornell University)|Sep 18, 2012

Bayesian Methods and Mixture Models参考文献 13被引用数 5

ひとこと要約

この論文は、データではなくランダム重みに条件づけることで、ブートストラップt統計量を再評価し、Lindeberg-Feller中心極限定理を用いて、最小限の仮定のもとで漸近的有効性を確立する。重みの交換可能性は不要であり、正規分布への吸引域に属するが無限分散をもつ分布に対しても、ブートストラップt信頼区間が有効である新たな条件を提示する。

ABSTRACT

Let X, X_1,X_2,... be a sequence of i.i.d. random variables with mean $μ=E X$. Let ${v_1^{(n)},...,v_n^{(n)}}_{n=1}^\infty$ be vectors of non-negative random variables (weights), independent of the data sequence ${X_1,...,X_n}_{n=1}^\infty$, and put $m_n=\sumn v_i^{(n)}$. Consider $ X^{*}_1,..., X^{*}_{m_n}$, $m_n\geq 1$, a bootstrap sample, resulting from re-sampling or stochastically re-weighing a random sample $X_1,...,X_n$, $n\geq 1$. Put $\bar{X}_n= \sumn X_i/n$, the original sample mean, and define $\bar{X^*}_{m_n}=\sumn v_i^{(n)} X_i/m_n$, the bootstrap sample mean. Thus, $\bar{X^*}_{m_n}- \bar{X}_n=\sumn ({v_i^{(n)}}/{m_n}-{1}/{n}) X_i$. Put $V_n^{2}=\sumn ({v_i^{(n)}}/{m_n}-{1}/{n})^2$ and let $S_n^{2}$, $S_{m_{n}}^{*^{2}}$ respectively be the the original sample variance and the bootstrap sample variance. The main aim of this exposition is to study the asymptotic behavior of the bootstrapped $t$-statistics $T_{m_n}^{*}:= (\bar{X^*}_{m_n}- \bar{X}_n)/(S_n V_n)$ and $T_{m_n}^{**}:= \sqrt{m_n}(\bar{X^*}_{m_n}- \bar{X}_n)/ S_{m_{n}}^{*} $ in terms of conditioning on the weights via assuming that, as $n,m_n o \infty$, $\max_{1\leq i \leq n}({v_i^{(n)}}/{m_n}-{1}/{n})^2\big/ V_n^{2}=o(1)$ almost surely or in probability on the probability space of the weights. This view of justifying the validity of the bootstrap is believed to be new. The need for it arises naturally in practice when exploring the nature of information contained in a random sample via re-sampling, for example. Conditioning on the data is also revisited for Efron's bootstrap weights under conditions on $n,m_n$ as $n o \infty $ that differ from requiring $m_n /n$ to be in the interval $(λ_1,λ_2)$ with 0< λ_1 < λ_2 < \infty as in Mason and Shao. Also, the validity of the bootstrapped $t$-intervals for both approaches to conditioning is established.

研究の動機と目的

• ブートストラップされたt統計量の有効性を、データではなくランダム重みに条件づける形で再表現すること。
• 交換可能な重みを仮定しない条件下で、ブートストラップt統計量が漸近的に有効である条件を確立すること。
• 正規分布への吸引域に属する分布、特に無限分散をもつ分布に対しても、ブートストラップt信頼区間の有効性を拡張すること。
• ランク統計や交換可能性に依存しない、より単純で直接的な方法でブートストラップ有効性を正当化すること。
• Efronのリサンプリングブートストラップと確率的再重み付けブートストラップを、異なる条件づけ枠組みの下で比較・対比すること。

提案手法

• Lindeberg-Feller中心極限定理を根幹とするツールとして用い、重みに条件づける枠組みのもとで、ブートストラップされたt統計量の漸近的正規性を正当化する。
• 2つのブートストラップt統計量を定義する：$ T^{*}_{m_n} = (\bar{X}^{*}_{m_n} - \bar{X}_n)/(S_n V_n) $ および $ T^{**}_{m_n} = \sqrt{m_n}(\bar{X}^{*}_{m_n} - \bar{X}_n)/S^{*}_{m_n} $、ここで $ V_n^2 = \sum_{i=1}^n \left( \frac{v_i^{(n)}}{m_n} - \frac{1}{n} \right)^2 $。
• 最大無視可能性条件を課す：重み空間上でほとんど確実または確率的に $ \max_{1\leq i\leq n} \left( \frac{v_i^{(n)}}{m_n} - \frac{1}{n} \right)^2 / V_n^2 = o(1) $。
• データに条件づけるときの中心極限定理を、Morris [20] の結果を用いて、中心化された多項分布変数の確率的重み付き和に適用する。
• 重みに条件づける枠組みのもとで、ブートストラップ再試行間の漸近的条件付き独立性を、漸近的無相関性の証明により確立する。
• Cheshevの不等式とモーメントバウンドを用いて、クロス重み付き和項の確率的収束を0に示し、ブートストラップ再試行の漸近的独立性を保証する。

実験結果

リサーチクエスチョン

• RQ1 データではなくランダム重みに条件づける場合、ブートストラップt統計量がどのような条件下で有効となるか。
• RQ2 重みの交換可能性を仮定せず、ブートストラップを正当化することは可能か。
• RQ3 元の分布が無限分散をもつ場合、すなわち正規分布への吸引域に属する場合、ブートストラップt信頼区間は有効か。
• RQ4 データに条件づける場合と重みに条件づける場合とで、ブートストラップされたt統計量の漸近的挙動はどのように異なるか。
• RQ5 ランクに基づく漸近的正規性の結果に依存せずに、Lindeberg-Feller中心極限定理を直接用いて、ブートストラップt統計量の有効性を正当化できるか。

主な発見

• 最大無視可能性条件のもとで、交換可能性がなくても、ブートストラップt統計量 $ T^{*}_{m_n} $ は標準正規分布に分布収束する。
• データに条件づける場合と重みに条件づける場合の両方で、ブートストラップt信頼区間の有効性が確立され、後者は無限分散分布に対して新しい貢献である。
• データに条件づける場合、$ X $ が正規分布への吸引域（DAN）に属する場合でさえ、$ \mathbb{E}[X^2] = \infty $ であっても、結果が成り立つ。これは新たな貢献である。
• 重みに条件づける場合、$ \mathbb{E}[X^2] = \infty $ の下で、同様の無視可能性条件のもとで、ブートストラップされたt統計量の漸近的正規性を初めて確立した。
• モーメントバウンドとCheshevの不等式を用いて、クロスマomentの収束を0に示すことで、ブートストラップ再試行の漸近的条件付き独立性が証明された。
• 重みに条件づける枠組みでは、特にデータに条件づける場合、条件付き中心極限定理を重み付き多項分布配列に適用することで、従来の手法よりも著しく単純な証明手法が得られた。