[論文レビュー] D-vine quantile regression with discrete variables

Niklas Schallhorn, Daniel Kraus+2 more|arXiv (Cornell University)|May 23, 2017

Statistical Methods and Inference参考文献 18被引用数 17

ひとこと要約

本稿では、混合離散連続データを対象とした2つの新しいD-ビーン量規回帰手法を提案する。1つは離散性を扱うために修正されたパラメトリックD-ビーン式を用いるもので、もう1つは非パラメトリック核推定を用いた連続畳み込みを採用する。非パラメトリック手法は、非線形的かつ非単調な関係のモデリングにおいて、特に気象状況や時間的要因が変化する状況下での自転車貸し出し需要の予測において、他の手法を上回る性能を示した。

ABSTRACT

Quantile regression, the prediction of conditional quantiles, finds applications in various fields. Often, some or all of the variables are discrete. The authors propose two new quantile regression approaches to handle such mixed discrete-continuous data. Both of them generalize the continuous D-vine quantile regression, where the dependence between the response and the covariates is modeled by a parametric D-vine. D-vine quantile regression provides very flexible models, that enable accurate and fast predictions. Moreover, it automatically takes care of major issues of classical quantile regression, such as quantile crossing and interactions between the covariates. The first approach keeps the parametric estimation of the D-vines, but modifies the formulas to account for the discreteness. The second approach estimates the D-vine using continuous convolution to make the discrete variables continuous and then estimates the D-vine nonparametrically. A simulation study is presented examining for which scenarios the discrete-continuous D-vine quantile regression can provide superior prediction abilities. Lastly, the functionality of the two introduced methods is demonstrated by a real-world example predicting the number of bike rentals.

研究の動機と目的

• 従来のD-ビーン量規回帰が連続的周辺分布を仮定しているという制限を克服し、混合離散連続データを適切にモデリングすること。
• 離散変数を含むコプールベースのモデルが直面する課題、例えば非一意なコプールや周辺分布による依存性の汚染を解消すること。
• 量規回帰モデルとしての柔軟性、高速性、正確性を備え、量規交叉を防ぎ、同時に共変数の相互作用を自動的に捉えるモデルの開発。
• シミュレーションと実世界の自転車貸し出し需要の予測事例研究を通じて、提案手法の予測優位性を実証すること。
• 離散的連続的状況下におけるD-ビーンコプールのパラメトリックおよび非パラメトリック推定戦略を比較し、最適なパフォーマンストレードオフを同定すること。

提案手法

• 離散的周辺分布を考慮するために、パラメトリックD-ビーン量規回帰の式を修正し、累積分布関数の数値的逆変換により条件付き量規を推定可能にする。
• 離散変数に微小なノイズを加えることで連続化する連続畳み込みを適用し、核密度推定器を用いてD-ビーンコプールの非パラメトリック推定を可能にする。
• 簡略化されたD-ビーンコプール構造を用いて、逐次的な2変量ペアコプールにより高次元の依存構造をモデル化し、効率的かつ柔軟なモデリングを実現する。
• 応答変数の量規を、応答変数の周辺分布の逆関数として、条件付きコプール分布関数を介して変換することで推定する。
• 条件付き依存度を最大化する変数を選択することで、最適なD-ビーン構造を決定する逐次的選択アルゴリズムを実装する。
• 各共変数が異なる量規水準における予測量規に与える影響を可視化するため、ロッシングスムージングを適用する。

実験結果

リサーチクエスチョン

• RQ1 パラメトリックD-ビーン量規回帰は、混合離散連続データを扱えるように適合可能であり、その柔軟性を保ちつつ量規交叉を回避できるか？
• RQ2 連続畳み込みを用いた非パラメトリックD-ビーン量規回帰は、混合データにおける非線形的・非単調的関係の予測において、パラメトリック手法や古典的量規回帰手法を上回る性能を示せるか？
• RQ3 離散的共変数は、完全に連続的なモデルと比較して、条件付き量規予測の精度と安定性にどのような影響を及えるか？
• RQ4 提案手法は、気温や湿度のような複雑な非単調的効果を、自転車貸し出し需要に与える影響をどれほど正確に捉えられるか？
• RQ5 非パラメトリックD-ビーンアプローチは、気象状況や時間的要因を含む混合データタイプを有する実世界の状況において、条件付き量規を信頼性高く推定できるか？

主な発見

• 非パラメトリックD-ビーン量規回帰（NPDVQR）は、パラメトリックD-ビーン（PDVQR）、線形量規回帰（LQR）、加法的量規回帰（BAQR）、およびカーネル量規回帰（NPQR）を上回る高い予測精度を達成した。特に非線形的かつ非単調的効果の捉え方において顕著な優位性を示した。
• 気温に関しては、NPDVQRは32°Cを超えると自転車貸出数が減少するというパターンを正しくモデル化した。一方、PDVQRやLQRは単調な関係を仮定しており、この傾向を捉えられなかった。
• パラメトリックD-ビーンアプローチは、標準的なパラメトリックペアコプール族の制限により、非単調的効果を適切に表現できず、複雑な依存パターンを十分に再現できなかった。
• 実世界の自転車貸し出し事例研究において、NPDVQRは暖かい8月の土曜日に中央値8,872件、第10百分位数7,431件、第90百分位数10,485件の予測を実施し、実用的な予測の有効性を示した。
• 非パラメトリック手法は、天候状況、季節的要因、週の曜日効果の影響を効果的に捉えており、週末に需要が低下し、平日で増加するという実世界の需要パターンを反映していた。
• 逐次的選択アルゴリズムでは、気温が最も影響力の高い変数と評価され、次いで湿度、風速、月、天候状況、平日・休日、および季節が続く順にランク付けされた。これは、実世界の需要パターンと整合的であった。