[論文レビュー] Case-Deletion Diagnostics for Quantile Regression Using the Asymmetric Laplace Distribution

Luis Benites, Víctor H. Lachos+1 more|arXiv (Cornell University)|Sep 17, 2015

Statistical Methods and Inference参考文献 25被引用数 5

ひとこと要約

本稿では、非対称ラプラス分布（ALD）とEMアルゴリズムを用いた尤度に基づく分位数回帰手法を提案し、完全データの対数尤度の条件付き期待値を用いたケース削除診断を可能にしている。この手法は、従来の推定法に比べてロバスト性と効率性が向上しており、シミュレーションおよび実データ解析において優れた性能を示している。

ABSTRACT

To make inferences about the shape of a population distribution, the widely popular mean regression model, for example, is inadequate if the distribution is not approximately Gaussian (or symmetric). Compared to conventional mean regression (MR), quantile regression (QR) can characterize the entire conditional distribution of the outcome variable, and is more robust to outliers and misspecification of the error distribution. We present a likelihood-based approach to the estimation of the regression quantiles based on the asymmetric Laplace distribution (ALD), which has a hierarchical representation that facilitates the implementation of the EM algorithm for the maximum-likelihood estimation. We develop a case-deletion diagnostic analysis for QR models based on the conditional expectation of the complete-data log-likelihood function related to the EM algorithm. The techniques are illustrated with both simulated and real data sets, showing that our approach out-performed other common classic estimators. The proposed algorithm and methods are implemented in the R package ALDqr().

研究の動機と目的

• 非対称ラプラス分布（ALD）を用いた尤度に基づく分位数回帰フレームワークを構築し、最尤推定を可能にする。
• 標準的な分位数回帰におけるチェック関数の微分不能性を、ALDの階層的表現を活用することで克服する。
• Q-デバイアス関数とEMアルゴリズムの枠組みを用いて、分位数回帰モデルのケース削除診断を実装する。
• 非正規誤差分布および外れ値が存在する状況下でも、パラメータ推定のロバスト性と効率性を向上させる。
• 研究コミュニティによる採用を促進するため、ALDqr()パッケージを通じて自由に利用可能なR実装を提供する。

提案手法

• 分位数回帰のチェック関数と非対称ラプラス分布（ALD）の尤度関数の関係を活用する。
• ALDの階層的混合表現を用いて、潜在変数を導入した正規回帰モデルとして分位数回帰モデルを再定式化する。
• EMアルゴリズムを用いて、回帰係数およびスケールパラメータの最尤推定値を反復的に計算する。
• 標準誤差推定のための観測情報行列をEMアルゴリズムの副産物として導出する。
• Zhuら（2001）の不完全データモデルに基づき、完全データ対数尤度の条件付き期待値を用いたケース削除診断を開発する。
• RパッケージALDqr()を用いて実装し、分位数回帰モデルの再現可能でアクセスしやすい解析を可能にする。

実験結果

リサーチクエスチョン

• RQ1 非対称ラプラス分布（ALD）を用いて、分位数回帰を尤度に基づく推定問題として定式化できるか？
• RQ2 ALD混合表現に基づくEMアルゴリズムは、Barrodale-Roberts法やLasso-Penalized QRに比べ、推定精度および標準誤差性能で優れているか？
• RQ3 Q-デバイアス関数に基づくケース削除診断は、ALDフレームワークを用いた分位数回帰モデルに効果的に適応可能か？
• RQ4 さまざまな誤差分布、特に重たい尾を持つ分布や歪度のある分布下でも、提案手法はどのように性能を示すか？
• RQ5 外れ値や非正規誤差が存在する状況下で、EMベースのALDアプローチはロバスト性と効率性をどの程度向上させるか？

主な発見

• 複数のシミュレーション設定において、ALDに基づくEMアルゴリズムは、Barrodale-Roberts（BR）法およびLasso-Penalized Quantile Regression（LPQR）法に比べ、バイアスおよび平均二乗誤差（MSE）の両面で優れた性能を示した。
• メジアン回帰（p=0.5）において、t3分布や混合分布などの非正規誤差分布下でも、提案手法はBR法およびLPQR法よりも低いバイアスとMSEを達成した。
• シミュレーションスタディの結果、サンプルサイズがn=50からn=800に増加するに従い、バイアスおよびMSEが0に収束した。これは推定器の良好な漸近的性質を示している。
• ケース削除診断は、シミュレーションデータおよび実データの両方で影響力のある観測値を的確に同定できた。これは、外れ値の検出における手法の有効性を示している。
• 実データ解析の結果、ALDに基づくEMアプローチは、従来の分位数回帰手法に比べ、よりロバストなパラメータ推定と良好なモデルフィットを実現した。
• RパッケージALDqr()は正常に実装され、公開された。これにより、統計的実務における手法の広範な採用が促進された。