[論文レビュー] Skewed probit regression -- Identifiability, contraction and reformulation

Janet van Niekerk, Håvard Rue|arXiv (Cornell University)|Sep 20, 2020

Statistical Distribution Estimation and Applications参考文献 27被引用数 7

ひとこと要約

この論文は、切片の再定義とスケーリングリンク関数の標準化により、歪んだプロビット回帰における根本的な問題を解決し、同定可能性と解釈可能性を保証する。歪度パラメータに対する罰則的複雑性（PC）事前分布を導入し、再パラメータ化に対して不変であり、データが歪度の証拠を示さない場合には標準プロビットモデルに収束する。これにより、頻度的およびベイジアンフレームワークの両方における推論の信頼性が向上する。

ABSTRACT

Skewed probit regression is but one example of a statistical model that generalizes a simpler model, like probit regression. All skew-symmetric distributions and link functions arise from symmetric distributions by incorporating a skewness parameter through some skewing mechanism. In this work we address some fundamental issues in skewed probit regression, and more genreally skew-symmetric distributions or skew-symmetric link functions. We address the issue of identifiability of the skewed probit model parameters by reformulating the intercept from first principles. A new standardization of the skew link function is given to provide and anchored interpretation of the inference. Possible skewness parameters are investigated and the penalizing complexity priors of these are derived. This prior is invariant under reparameterization of the skewness parameter and quantifies the contraction of the skewed probit model to the probit model. The proposed results are available in the R-INLA package and we illustrate the use and effects of this work using simulated data, and well-known datasets using the link as well as the likelihood.

研究の動機と目的

• 歪んだプロビット回帰のパラメータにおける同定可能性の問題、特に切片と歪度パラメータの混同を解決すること。
• 線形予測子における切片を再定式化し、それが真の切片として機能し、歪度と混同されないようにすること。
• 解釈可能性を保ちつつ、古典的なパラメータベースの標準化による歪みを回避する、新たなアンカーベースの歪度リンク関数の標準化を提供すること。
• 再パラメータ化に対して不変であり、歪んだモデルが対称プロビットモデルに収束する度合いを定量化する、歪度パラメータの罰則的複雑性（PC）事前分布を導出すること。
• 研究者が実用的に使用できるように、R-INLAパッケージに提案されたフレームワークを実装すること。

提案手法

• 切片を、歪度とは無関係にゼロの予測変数における平均応答を表すように、分位数に基づくアプローチで再定式化する。
• 歪度リンク関数のアンカーベースの標準化を導入し、対称モデルのパラメータに依存せず、意味のある分位数（例：メジアンまたは75百分位数）に切片を固定する。
• 歪度パラメータの罰則的複雑性（PC）事前分布を、対称モデルからの全変動距離に基づいて導出する。これにより、再パラメータ化に対して不変性が保証される。
• PC事前分布を用いて、データが歪度の証拠を示さない場合に歪んだモデルが標準プロビットモデルにどの程度収束するかを定量化する。
• R-INLAパッケージに完全なモデルを実装し、研究者が適切な事前分布と解釈可能な推論が可能な歪んだプロビットモデルをフィットできるようにする。

実験結果

リサーチクエスチョン

• RQ1 歪んだプロビット回帰における切片をどのように再定義すれば、同定可能性を確保し、歪度パラメータとの混同を回避できるか？
• RQ2 古典的なパラメータベースの歪度リンク関数の標準化はなぜ問題なのか？解釈可能性を保つためにどのような代替標準化が有効か？
• RQ3 再パラメータ化に対して不変であり、歪んだモデルが対称プロビットモデルにどの程度収束するかを定量化する歪度パラメータの事前分布は何か？
• RQ4 データがスパースまたは歪度の証拠が乏しい場合、罰則的複雑性事前分布は推論をどのように改善するか？
• RQ5 提案されたフレームワークは、シミュレーションおよび実世界のデータを通じて実用的かつ効果的に実装・利用可能か？

主な発見

• 切片の提案された再定式化により、ゼロの予測変数における平均応答を正確に表現でき、歪度パラメータとの混同が解消され、モデルの同定可能性が向上した。
• アンカーベースの歪度リンク関数の標準化により、線形予測子から確率へのマッピングが保たれ、古典的なパラメータベースの標準化による歪みが回避された。
• 導出された歪度パラメータの罰則的複雑性事前分布は、再パラメータ化に対して不変であり、データが歪度の証拠を示さない場合には自然に標準プロビットモデルに収束する。
• ワインデータセットでは、スケーリング正規分布モデルの対数尤度は -722.21 であり、ガウスモデルの -724.59 よりも著しく優れていた。後験的平均の歪度は 0.439（95％信用区間：0.128–0.702）であった。
• PC事前分布により、低試行回数のバイナリデータにおいて頑健性が確保され、歪度の不確実な推定を防ぎ、適切な場合には単純なプロビットモデルを優先する。