[論文レビュー] Prediction of Ordered Random Effects in a Simple Small Area Model

Yaakov Malinovsky, Yosef Rinott|arXiv (Cornell University)|Sep 24, 2009

Statistical Methods and Bayesian Inference参考文献 17被引用数 4

ひとこと要約

本稿では、単純な小領域推定（SAE）モデルにおける順序付きラジカル効果のための縮小型予測子を提案し、平均二乗誤差（MSE）の観点で、ナードな順序付き推定子よりも著しく優れていることを示している。この手法は、期待される交差積の上限を用いて導かれた最適な縮小係数を用いて、全体の平均への経験ベイズ的縮小を実行し、計算が困難な最適ベイズ予測子に非常に近い性能を達成している。

ABSTRACT

Prediction of a vector of ordered parameters or part of it arises naturally in the context of Small Area Estimation (SAE). For example, one may want to estimate the parameters associated with the top ten areas, the best or worst area, or a certain percentile. We use a simple SAE model to show that estimation of ordered parameters by the corresponding ordered estimates of each area separately does not yield good results with respect to MSE. Shrinkage-type predictors, with an appropriate amount of shrinkage for the particular problem of ordered parameters, are considerably better, and their performance is close to that of the optimal predictors, which cannot in general be computed explicitly.

研究の動機と目的

• 単純なSAEモデルにおける順序付き小領域パラメータ（例：上位、中央、最悪の領域）を予測する課題に対処すること。
• 個々の領域予測子の直接的な順序付けが、選択バイアスのためMSE性能が著しく低下することを示すこと。
• 複雑なベイズ計算を回避する、簡単で頑健な縮小ベースの予測子を、順序付きパラメータのためのものとして開発すること。
• 提案された縮小予測子が、無順序パラメータのための標準的経験ベイズ予測子を上回る条件を特定すること。
• 順序付き予測のための最適な縮小係数に関する理論的境界を提供し、完全な数値積分を用いずに実装可能にするものとする。

提案手法

• 順序付き標本値 $y_{(i)}$ と全体平均 $\overline{y}$ を用いた、$\widehat{\theta}_{(i)}^{[2]}(\gamma) = \gamma y_{(i)} + (1-\gamma)\overline{y}$ の形の縮小型予測子を提案する。
• 期待MSEを最小化することで最適な縮小係数 $\gamma$ を導出し、$\gamma = 1 - \frac{E\sum (y_{(i)} - \theta_{(i)})(y_{(i)} - \overline{y})}{(m-1)(\sigma_u^2 + \sigma_e^2)}$ が得られる。この式は解析的に解けないが、境界で抑えられる。
• 再配列不等式およびコーシー＝シュワルツ不等式を用いて、解けない期待値項の下限と上限を導出する。
• $\gamma^* \leq \left(\frac{m - \sqrt{(m-1)^2 + 1}}{2}\right)^2$ のとき、提案された予測子 $\widehat{\theta}^{[2]}(\gamma)$ が標準的経験ベイズ予測子 $\widehat{\theta}^{[1]}$ を支配することを確立する。
• ファイ＝ハリオおよびバッテス・ハーティング・フルラーのSAEフレームワークにモデルを適用し、十分統計量を用いて多観測ケースを単純モデルに還元する。
• データから $\mu$, $\sigma_u^2$, および $\sigma_e^2$ を経験ベイズ的手法で推定することで、完全なベイズ計算を用いずに実装可能にする。

実験結果

リサーチクエスチョン

• RQ1 なぜ個々の領域予測子（例：$\widehat{\theta}_i = y_i$）を単に順序付けただけのナードな手法が、最大値や中央値といった順序付きパラメータの予測において、悪い性能を示すのか？
• RQ2 目的が個々の領域パラメータではなく、順序付きラジカル効果を推定することである場合、単純な縮小ベースの予測子は、標準的経験ベイズ予測子を上回ることができるか？
• RQ3 順序付きパラメータを予測する際の、全体平均への最適な縮小量は何か？ そして、完全なベイズ計算を用いずに、どのように近似できるか？
• RQ4 分散成分（$\sigma_u^2$, $\sigma_e^2$）にどのような条件下で、提案された縮小予測子が無順序パラメータのための標準的予測子を支配するのか？
• RQ5 期待交差積 $E\sum (y_{(i)} - \theta_{(i)})(y_{(i)} - \overline{y})$ に対する理論的境界は、順序付き効果のための頑健かつモデルロバストな予測子の設計にどのように寄与するか？

主な発見

• 個々の経験ベイズ推定値（$\widehat{\theta}_i = E(\theta_i|\mathbf{y})$）を単に順序付けたナードな予測は、特に $m$ が大きくなると選択バイアスのため、MSEが著しく高くなる。
• $\gamma \in [0,1]$ の範囲にある提案された縮小予測子 $\widehat{\theta}^{[2]}(\gamma)$ は、計算が困難な最適ベイズ予測子 $E(\theta_{(i)}|\mathbf{y})$ に非常に近いMSE性能を達成する。
• 最適な縮小係数 $\gamma$ は、解けない期待値項の境界から導出され、$\gamma^* \leq \left(\frac{m - \sqrt{(m-1)^2 + 1}}{2}\right)^2$ のとき、標準的経験ベイズ予測子を支配する。
• $m > 2$ の場合、最適な $\gamma$ は1未満となるため、平均への縮小は順序付き予測の正確性にとって不可欠である。
• この手法は、完全な尤度計算に依存しないモーメントベースの境界に依存しているため、モデルの誤指定に対しても頑健である。
• 再配列不等式およびコーシー＝シュワルツ不等式を用いて、$E\sum (y_{(i)} - \theta_{(i)})(y_{(i)} - \overline{y})$ の理論的境界が導出され、数値積分を用いずに実装可能である。