[論文レビュー] Statistical details of the default priors in the Bambi library

Jacob Westfall|arXiv (Cornell University)|Feb 3, 2017

Algorithms and Data Compression参考文献 2被引用数 14

ひとこと要約

この論文は、Bambi Python ライブラリにおけるベイジアン一般化線形混合モデル用のデフォルトの弱情報的事前分布の統計的基盤を詳述している。回帰係数の独立した正規事前分布を、意味的な部分相関の標準偏差から導出された分散に設定することで、スケール不変で解釈可能な事前分布を実現し、データ構造に適応しつつ計算の単純さと頑健性を維持する。

ABSTRACT

This is a companion paper to Yarkoni and Westfall (2017), which describes the Python package Bambi for estimating Bayesian generalized linear mixed models using a simple interface. Here I give the statistical details underlying the default, weakly informative priors used in all models when the user does not specify the priors. Our approach is to first deduce what the variances of the slopes would be if we were instead to have defined the priors on the partial correlation scale, and then to set independent Normal priors on the slopes with variances equal to these implied variances. Our approach is similar in spirit to that of Zellner's g-prior (Zellner 1986), in that it involves a multivariate normal prior on the regression slopes, with a tuning parameter to control the width or informativeness of the priors irrespective of the scales of the data and predictors. The primary differences are that here the tuning parameter is directly interpretable as the standard deviation of the distribution of plausible partial correlations, and that this tuning parameter can have different values for different coefficients. The default priors for the intercepts and random effects are ultimately based on the prior slope variances.

研究の動機と目的

• Bambi ライブラリにおけるベイジアン一般化線形混合モデルのための原理的で解釈可能なデフォルト事前分布の指定を提供すること。
• 予測子のスケーリングに依存しない事前分布の情報量を確保するため、事前分布を部分相関の標準偏差に固定すること。
• g-事前分布枠組みを拡張し、係数別に調整可能なチューニングパラメータを導入することで、より高い柔軟性を実現すること。
• 弱情報的事前分布を用いることで、小標本または高次元の設定でも頑健な推論を可能にすること。
• 専門的な事前知識がなくても、ユーザーが原理的で使いやすい事前分布を簡単に適用できるようにすること。

提案手法

• 望ましい部分相関の標準偏差から、多変量正規事前分布の分散に変換することで、回帰係数の潜在的な分散を導出する。
• 各回帰係数に独立した正規事前分布を適用し、その分散を導出された潜在的分散に設定する。
• 各係数の部分相関の標準偏差を表すチューニングパラメータを導入し、係数ごとの情報量の違いを可能にする。
• 切片項およびランダム効果の事前分布を、固定効果の事前分布から導出された同じ分散構造に基づく。
• 事前分布のスケール不変性を保つために、原始的な回帰係数ではなく、部分相関効果サイズに基づいて事前分布の幅を固定する。
• Bambi ライブラリにこのフレームワークを実装し、ユーザーがカスタム事前分布を指定しない場合に自動的にこれらの事前分布を適用する。

実験結果

リサーチクエスチョン

• RQ1 ベイジアン回帰におけるデフォルト事前分布を、予測子のスケーリングに対して頑健かつ解釈可能にするにはどうすればよいか？
• RQ2 部分相関の標準偏差と回帰係数事前分布の分散との間には、どのような統計的関係があるか？
• RQ3 g-事前分布枠組みを、係数別に情報量を調整可能にするようにどのように拡張できるか？
• RQ4 部分相関に基づく事前分布を用いることで、混合モデルにおけるモデル収束性および事後分布推論にどのような影響を与えるか？
• RQ5 ユーザーフレンドリーなベイジアンモデリングライブラリで、弱情報的事前分布を自動的に適用するにはどうすればよいか？

主な発見

• Bambi のデフォルト事前分布は、望ましい部分相関の標準偏差から導出されており、直接的に解釈可能でスケール不変である。
• 各係数の事前分布の分散は、部分相関の標準偏差の二乗に設定されており、異なる予測子のスケールに対しても一貫した事前分布の情報量を保証する。
• 係数ごとのチューニングパラメータを用いることで、異なる係数に異なるレベルの事前分布の情報量を割り当てられる。
• このアプローチは、チューニングパラメータを部分相関の標準偏差として解釈可能にすることで、Zellner の g-事前分布を一般化する。
• 切片項およびランダム効果の事前分布は、固定効果の分散構造と同じものに基づいて暗黙的に決定され、モデルの各構成要素間の整合性が保たれる。
• このフレームワークにより、ユーザーが事前分布選択の専門知識がなくても、Bambi で頑健で自動的な事前分布指定が可能になる。