[論文レビュー] Bayesian Logistic Regression for Small Areas with Numerous Households

Balgobin Nandram, Lu Chen+2 more|arXiv (Cornell University)|Jun 1, 2018

Statistical Methods and Bayesian Inference参考文献 22被引用数 6

ひとこと要約

本論文は、多数の世帯から得られるビッグデータを用いた小地域推計におけるスケーラブルなベイズ的ロジスティック回帰手法を提案する。統合ネストド正規近似（INNA）を用いた高速なハイパーパrameter推定と、ランダム効果の並列化された正確な条件付き後部確率分布サンプリングを組み合わせることで、計算負荷を軽減するとともに過剰に収縮するのを回避し、ネパール生活水準調査（NLSS）のような調査における世帯レベルの健康割合の効率的かつ正確な推定を可能にする。

ABSTRACT

We analyze binary data, available for a relatively large number (big data) of families (or households), which are within small areas, from a population-based survey. Inference is required for the finite population proportion of individuals with a specific character for each area. To accommodate the binary data and important features of all sampled individuals, we use a hierarchical Bayesian logistic regression model with each family (not area) having its own random effect. This modeling helps to correct for overshrinkage so common in small area estimation. Because there are numerous families, the computational time on the joint posterior density using standard Markov chain Monte Carlo (MCMC) methods is prohibitive. Therefore, the joint posterior density of the hyper-parameters is approximated using an integrated nested normal approximation (INNA) via the multiplication rule. This approach provides a sampling-based method that permits fast computation, thereby avoiding very time-consuming MCMC methods. Then, the random effects are obtained from the exact conditional posterior density using parallel computing. The unknown nonsample features and household sizes are obtained using a nested Bayesian bootstrap that can be done using parallel computing as well. For relatively small data sets (e.g., 5000 families), we compare our method with a MCMC method to show that our approach is reasonable. We discuss an example on health severity using the Nepal Living Standards Survey (NLSS).

研究の動機と目的

• 多数の世帯と二値の結果を有する調査データにおける小地域の割合を推定する課題に対処すること。
• 多数のランダム効果を有する階層ベイズ的ロジスティック回帰モデルを適合させる際、標準的なMCMC手法が計算的に非現実的であるという問題を克服すること。
• 各世帯に固有のランダム効果を割り当てることで、小地域推定における過剰収縮を低減すること。
• 時間のかかるMCMCサンプリングを回避しながらも、正確性を維持する高速なサンプリングベースの推定手法を開発すること。
• 並列計算を用いたネストドベイズ的ブートストラップを用いて、サンプル化されていない世帯の特徴と規模を推定すること。

提案手法

• 個々の世帯レベルのランダム効果を有する階層ベイズ的ロジスティック回帰モデルを用い、世帯内および世帯間の変動を捉える。
• 確率の乗法定理を用いて、ハイパーパrameterの同時後部密度を統合ネストド正規近似（INNA）で近似する。
• 完全なMCMCサンプリングを回避するため、INNAにサンプリングベースのアプローチを適用し、計算時間を著しく短縮する。
• 並列計算を用いてランダム効果の正確な条件付き後部分布を計算することで、推定の正確性を維持する。
• 並列化を施したネストドベイズ的ブートストラップを用いて、サンプル化されていない世帯の特徴とサイズを推定する。
• 標本割合が極端な場合（例：1または0）に後部モード推定が数値的に不安定になるのを防ぐために、経験的ロジスティック変換（ELT）の補正を組み込む。

実験結果

リサーチクエスチョン

• RQ1 大規模な世帯数を有するビッグデータの調査データに対して、ベイズ的ロジスティック回帰をどのように効率的に適用できるか。
• RQ2 統合ネストド正規近似（INNA）は、階層的ロジスティックモデルにおけるハイパーパrameter推定のためのMCMCの計算的に現実的な代替手段となり得るか。
• RQ3 各世帯に固有のランダム効果をモデル化することで、地域レベルのランダム効果と比較して、小地域推定における過剰収縮がどのように低減されるか。
• RQ4 提案手法は、完全なMCMCと比較して、世帯レベルの割合推定においてどの程度正確性と精度を維持できるか。
• RQ5 大規模な調査データにおけるランダム効果および非サンプル世帯特徴の推定を高速化するために、並列計算を効果的に活用できるか。

主な発見

• 提案されたINNAベースの手法は、多数の世帯を有する階層ベイズ的ロジスティック回帰モデルにおけるハイパーパrameter推定のための計算的に効率的な代替手段を提供する。
• 各世帯に個別のランダム効果を割り当てることで、過剰収縮を効果的に回避し、小地域推定の正確性が向上する。
• 比較的小さなデータセット（例：5,000世帯）に対しても、提案手法は完全なMCMCと同等の推定値と標準誤差を生成し、その妥当性を検証する。
• 並列計算により、ランダム効果の正確な条件付き後部分布および非サンプル特徴のネストドベイズ的ブートストラップの計算が高速化され、スケーラビリティが実現される。
• 経験的ロジスティック変換（ELT）の補正を用いることで、標本割合が1または0の場合の後部モード推定における数値的不安定性が防止される。
• 本手法は、ネパール生活水準調査（NLSS）の実データを用いて、世帯レベルの健康割合を推定する上で有効であることが示された。