[論文レビュー] A New Family of Error Distributions for Bayesian Quantile Regression

Yifei Yan, Athanasios Kottas|arXiv (Cornell University)|Jan 20, 2017

Statistical Methods and Inference参考文献 30被引用数 11

ひとこと要約

本稿は、構造的混合正規分布に基づく、モード、歪度、尾部挙動を独立して制御可能な、ベイジアン分位数回帰のための新しい柔軟な誤差分布族を提案する。これは、非対称ラプラス（AL）分布の硬直性を克服する。モデルは効率的なMCMC推論を可能とし、正則化およびトビット分位数回帰において優れた性能を示し、特に極端な分位数において顕著である。

ABSTRACT

We propose a new family of error distributions for model-based quantile regression, which is constructed through a structured mixture of normal distributions. The construction enables fixing specific percentiles of the distribution while, at the same time, allowing for varying mode, skewness and tail behavior. It thus overcomes the severe limitation of the asymmetric Laplace distribution -- the most commonly used error model for parametric quantile regression -- for which the skewness of the error density is fully specified when a particular percentile is fixed. We develop a Bayesian formulation for the proposed quantile regression model, including conditional lasso regularized quantile regression based on a hierarchical Laplace prior for the regression coefficients, and a Tobit quantile regression model. Posterior inference is implemented via Markov Chain Monte Carlo methods. The flexibility of the new model relative to the asymmetric Laplace distribution is studied through relevant model properties, and through a simulation experiment to compare the two error distributions in regularized quantile regression. Moreover, model performance in linear quantile regression, regularized quantile regression, and Tobit quantile regression is illustrated with data examples that have been previously considered in the literature.

研究の動機と目的

• 分位数が指定された際に歪度とモードが固定される分位数回帰における非対称ラプラス（AL）分布の限界を是正すること。
• 分位数によってパrameter化されつつ、歪度、モード、尾部挙動を柔軟にモデリング可能なパラメトリック誤差分布を構築すること。
• 階層的混合表現を用いて、分位数回帰における実用的なベイジアン推論（MCMC）を可能とすること。
• 正則化分位数回帰およびトビット分位数回帰におけるモデル性能を向上させること、特に極端な分位数において。
• ALの柔軟性に劣らない、複雑なデータ構造においてより豊かなモデリングを可能とする、柔軟なパラメトリック代替案を提供すること。

提案手法

• 形状パラメータを用いて歪度および尾部挙動を制御可能な、正規分布の階層的混合による新しい誤差分布を構築する。
• 分位数回帰におけるベイジアン枠組みに新たな分布を統合し、MCMCを用いた完全な後方分布推論を可能にする。
• 回帰係数に階層的ラプラス事前分布を導入することで、条件付きlasso正則化を組み込む。
• 右打ち切り応答データを扱うトビット分位数回帰にモデルを適応する。
• 混合表現を用いることでAL分布を一般化し、形状パラメータを固定した場合にALに還元される。
• 階層的構造から導かれる完全条件付き分布を用いて、MCMCサンプリングによる後方分布計算を実施する。

実験結果

リサーチクエスチョン

• RQ1 分位数回帰において、指定された分位数を固定したまま、モード、歪度、尾部挙動を独立して制御可能なパラメトリック誤差分布を開発できるか？
• RQ2 正則化分位数回帰において、新しい分布は非対称ラプラス分布に比べて柔軟性とモデル適合度に優れているか？
• RQ3 打ち切りデータを伴うトビット分位数回帰において、新しいモデルは推論の正確性と頑健性を向上させるか？
• RQ4 新しい分布は、AL分布に比べて極端な分位数（例：5番目および95番目の百分位数）をよりよく捉えることができるか？
• RQ5 応用的状況（例：労働供給モデリング）において、誤差分布の選択が実務的結論に与える影響は何か？

主な発見

• 提案された一般化非対称ラプラス（GAL）分布は、AL分布とは異なり、指定された分位数を固定したまま歪度および尾部挙動を柔軟に制御可能である。
• 労働供給データにおいて、GALモデル下での形状パラメータγの95％信用区間は、すべてのケースで0を含まず、ALをはるかに上回る柔軟性を示している。
• p₀ = 0.05, 0.50, 0.95の全範囲で、GALモデルのBIC値はALモデルより一貫して低く、特に極端な分位数で改善が顕著であった。
• GALモデル下では、3人の年少児を有する女性の労働供給の95番目の分位数が正である確率の後方確率は0.19にとどまったが、ALモデル下では0.97であった。
• GALモデル下での後方密度は、特に年少児の数が増加するにつれて、高水準労働供給をより慎重に推定しており、より現実的な尾部挙動を反映している。
• シミュレーションおよび実データ例から、誤差分布の選択が、特に極端な分位数において推論に顕著な影響を与えることが確認され、AL分布の柔軟性に劣る代替案の必要性が裏付けられた。