[論文レビュー] On the correspondence between Bayesian log-linear and logistic regression models with unit information priors

Michail Papathomas|arXiv (Cornell University)|Sep 12, 2014

Bayesian Modeling and Causal Inference被引用数 1

ひとこと要約

この論文は、g-ハイパーパラメータまたはg-ハイパーパラメータの混合を用いる場合、ベイズ的対数線形モデルとロジスティック回帰の間で形式的な対応関係を確立する。後方分布が漸近的に同等であることを証明し、主効果および交互作用を評価するためのロジスティック回帰フレームワークにおける対数線形モデルの推論の有効性を裏付ける。

ABSTRACT

Consider a set of categorical variables where at least one of them is binary. The log-linear model that describes the counts in the resulting contingency table implies a specific logistic regression model, with the binary variable as the outcome. Within the Bayesian framework, the $g$-prior and mixtures of $g$-priors are commonly assigned to the parameters of a generalized linear model. We prove that assigning a $g$-prior (or a mixture of $g$-priors) to the parameters of a certain log-linear model designates a $g$-prior (or a mixture of $g$-priors) on the parameters of the corresponding logistic regression. By deriving an asymptotic result, and with numerical illustrations, we demonstrate that when a $g$-prior is adopted, this correspondence extends to the posterior distribution of the model parameters. Thus, it is valid to translate inferences from fitting a log-linear model to inferences within the logistic regression framework, with regard to the presence of main effects and interaction terms.

研究の動機と目的

• g-ハイパーパラメータの仮定の下で、ベイズ的対数線形モデルとロジスティック回帰モデルの理論的対応関係を調査すること。
• 対数線形モデルにg-ハイパーパラメータを適用すると、対応するロジスティック回帰モデルのパラメータに対しても同等のg-ハイパーパラメータ分布が誘導されるかどうかを特定すること。
• 主効果および交互作用項に関して、対数線形モデルからの推論をロジスティック回帰モデルに信頼性を持って移行できるかどうかを評価すること。
• 両モデルフレームワークにおけるg-ハイパーパラメータ指定の下で、後方分布の同等性に漸近的根拠を提供すること。

提案手法

• 二値のアウトカム変数を想定したもとで、対数線形モデルとロジスティック回帰モデルの設計行列の間の数学的関係を導出する。
• 対数線形モデルのパラメータにg-ハイパーパラメータおよびg-ハイパーパラメータの混合を適用し、これによりロジスティック回帰のパラメータに対しても対応するg-ハイパーパラメータが誘導されることを示す。
• 漸近的解析を用いて、g-ハイパーパラメータ仮定の下で、両モデルのパラメータの後方分布が収束することを示す。
• 理論的結果を支持し、有限標本における対応関係を検証するために数値的例示を提供する。
• 標準的な指数型分散族および共役事前分布理論を用いて、ベイズ枠組み内での対応関係を確立する。

実験結果

リサーチクエスチョン

• RQ1 対数線形モデルにg-ハイパーパラメータを割り当てると、対応するロジスティック回帰モデルに対してもg-ハイパーパラメータが得られるか？
• RQ2 g-ハイパーパラメータ仮定の下で、対数線形モデルとロジスティック回帰モデルの後方分布がどの程度一致するか？
• RQ3 対数線形モデルにおける主効果および交互作用項に関する推論を、信頼性を持ってロジスティック回帰モデルに移行できるか？
• RQ4 後方分布の漸近的挙動は、この対応関係の妥当性をどのように裏付けるか？

主な発見

• 対数線形モデルのパラメータにg-ハイパーパラメータを割り当てると、対応するロジスティック回帰モデルのパラメータに対してもg-ハイパーパラメータが誘導される。
• g-ハイパーパラメータ指定の下で、対数線形モデルとロジスティック回帰モデルのパラメータの後方分布は漸近的に同等である。
• 主効果および交互作用項の両方において対応関係が成立し、両フレームワーク間での推論移行を支援する。
• 数値的例示により理論的結果が確認され、有限標本における後方分布の間で良好な一致が示された。