[論文レビュー] Sample size effects in multivariate fitting of correlated data

D. Toussaint, W Freeman|ArXiv.org|Aug 15, 2008

Advanced Statistical Methods and Models参考文献 2被引用数 4

ひとこと要約

この論文は、格子QCDや類似のシミュレーションにおける相関データの多次元フィッティングにおける有限標本バイアスを扱う。標準的手法（微分、ジャックナイフ、ブートストラップ）からの分散推定値に対する解析的補正を導出しており、標本サイズの影響が誤差棒や適合度指標を歪めることを示している。主な補正は次元数（D）、パラメータ数（P）、標本サイズ（N）に依存する。

ABSTRACT

A common problem in analysis of experiments or in lattice QCD simulations is fitting a parameterized model to the average over a number of samples of correlated data values. If the number of samples is not infinite, estimates of the variance of the parameters ("error bars") and of the goodness of fit are affected. We illustrate these problems with numerical simulations, and calculate approximate corrections to the variance of the parameters for estimates made in the standard way from derivatives of the parameters' probability distribution as well as from jackknife and bootstrap estimates.

研究の動機と目的

• 有限標本の平均値に対するモデルフィッティングにおけるパラメータ分散推定のバイアスを扱う。
• 標準的手法（微分、ジャックナイフ、ブートストラップ）が有限標本サイズの影響により系統的なバイアスを生じることを特定する。
• 相関と有限Nを考慮した多次元フィッティングにおける分散推定値の解析的補正を提供する。
• 一次フィッティングの結果が二次フィッティングに影響を与えるようなマルチステージフィッティングパイプラインにおける誤差伝搬の正確性を保証する。
• 統計が限られたシミュレーションにおける適合度統計量および誤差推定の信頼性を向上させる。

提案手法

• 真の共分散行列を対角化する座標変換を用いて変数を単位分散にスケーリングし、分散推定値の補正を導出する。
• 1/Nおよび1/N²の展開を適用し、微分ベース、ジャックナイフ、ブートストラップ手法からのパラメータ分散のバイアスを計算する。
• 固定および再作成された共分散行列を用いたリサンプリング手法（ジャックナイフ、ブートストラップ）を用い、バイアスの原因を特定する。
• 有限標本バイアスを補正するための補正係数 F_deriv、F_reuse、F_jackknife_remake、F_bootstrap_remake を導出する。
• 正規分布に従う相関のあるデータ点を仮定し、Nが有限である場合に1/Nを用いて共分散行列を正規化することで、標本サイズの影響を明確に分離する。
• 数値シミュレーションによる解析的結果の妥当性を検証し、補正済み推定値が高Nで真の分散に収束することを示す。

実験結果

リサーチクエスチョン

• RQ1 有限標本サイズは、相関データの多次元フィッティングにおける分散推定値をどのように歪めるか？
• RQ2 微分ベース、ジャックナイフ、ブートストラップ推定手法におけるパラメータ分散の一次補正項は何か？
• RQ3 マルチステージフィッティングパイプラインにおいて、共分散行列のバイアスとパラメータ推定値のバイアスはどのように相互作用するか？
• RQ4 全標本共分散行列を使用するのと、各リサンプリングで再計算するのとでは、誤差推定バイアスにどのような影響があるか？
• RQ5 分散推定値の補正係数は、データ次元数（D）、パラメータ数（P）、標本サイズ（N）にどのように依存するか？

主な発見

• 有限標本サイズは、モデルが正しい場合でも、微分、ジャックナイフ、ブートストラップ手法からの分散推定値に系統的なバイアスをもたらす。
• 微分ベースの分散推定値の補正係数は F_deriv = [1 + (D−P)/N + (D−P)(D−P+2)/N²] / [1 − (1+D−P)/N + O(1/N²)] であり、標本サイズの影響を補正する。
• 共分散行列を再利用するジャックナイフおよびブートストラップ手法では、補正係数は F_reuse = [1 + (D−P)/N + O(1/N²)] / [1 − (D−P)/N + O(1/N²)] であり、F_derivとは分母の定数項でのみ異なる。
• 各リサンプリングで共分散行列を再作成する場合（例：ジャックナイフまたはブートストラップ）、補正係数 F_jackknife_remake は 1 − (D−P)/N + ... 、F_bootstrap_remake は 1 + 1/N + ... となり、バイアスの次数が異なる。
• 数値シミュレーションにより、バイアス補正済み推定値が高Nで真の分散に収束することが確認され、1/N²までの補正が精度を顕著に向上させることを示している。
• 再作成された共分散行列を用いるブートストラップ手法は、他の手法に比べて一次バイアスが小さいが、高次補正項が大きいため、実用的使用においてはトレードオフがあることが示唆される。