[论文解读] A g-prior extension for p>n

Yuzo Maruyama, Edward I. George|arXiv (Cornell University)|Jan 29, 2008

Statistical Methods and Inference参考文献 13被引用 5

一句话总结

本文将Zellner的g-prior推广至高维线性模型（p > n）的情形，提出一种完全贝叶斯框架，其边际密度和贝叶斯因子均可计算。该广义先验支持闭式计算，并在高维设置下揭示了新型模型评估特性。

ABSTRACT

For the normal linear model variable selection problem, we propose selection criteria based on a fully Bayes formulation with a generalization of Zellner's $g$-prior which allows for $p>n$. A special case of the prior formulation is seen to yield tractable closed forms for marginal densities and Bayes factors which reveal new model evaluation characteristics of potential interest.

研究动机与目标

• 解决预测变量数量p超过样本量n的高维线性模型中的贝叶斯变量选择挑战。
• 提出Zellner的g-prior的推广形式，使其在p > n时仍保持有效且计算可行。
• 在扩展的先验下实现边际密度和贝叶斯因子的闭式计算。
• 通过推导出的贝叶斯因子揭示高维设置下模型评估的新特性。

提出的方法

• 提出一种广义g-prior公式，将Zellner原始先验推广至可处理p > n的情形。
• 推导广义先验下边际似然的闭式表达式。
• 利用可计算的边际密度构建用于模型比较的贝叶斯因子。
• 分析贝叶斯因子的数学结构，以揭示新的模型评估特性。
• 采用完全贝叶斯框架，确保在扩展先验下的推断一致性。

实验结果

研究问题

• RQ1 Zellner的g-prior应如何推广，以在p > n时保持有效性和可计算性？
• RQ2 在扩展的g-prior下，边际似然的解析性质是什么？
• RQ3 能否在广义先验下推导出用于模型比较的闭式贝叶斯因子？
• RQ4 贝叶斯因子的结构在高维设置下揭示了关于模型评估的哪些新见解？

主要发现

• 广义g-prior即使在p > n时也能实现边际密度的闭式计算。
• 推导出的贝叶斯因子具有解析可计算性，并揭示了新颖的模型评估特性。
• 该先验公式支持高维线性模型中变量选择的完全贝叶斯方法。
• 该方法为模型比较提供了连贯的框架，并具有明确的解析表达式。