[論文レビュー] Trimmed Conformal Prediction for High-Dimensional Models

Wenyu Chen, Zhaokai Wang+2 more|arXiv (Cornell University)|Nov 29, 2016

Statistical Methods and Inference参考文献 7被引用数 8

ひとこと要約

本稿では、予測値のうちありえないものを事前に除外することで、高次元回帰における確率的予測の計算を高速化する二段階フレームワーク「トリムドコンフォーマル予測（TCP）」を提案する。この手法は、カバレッジ精度の最小限の損失を伴いながらも、標準的およびスプリットコンフォーマル手法に比べて計算効率を著しく向上させつつ、有限標本の妥当性を維持する。

ABSTRACT

In regression, conformal prediction is a general methodology to construct prediction intervals in a distribution-free manner. Although conformal prediction guarantees strong statistical property for predictive inference, its inherent computational challenge has attracted the attention of researchers in the community. In this paper, we propose a new framework, called Trimmed Conformal Prediction (TCP), based on two stage procedure, a trimming step and a prediction step. The idea is to use a preliminary trimming step to substantially reduce the range of possible values for the prediction interval, and then applying conformal prediction becomes far more efficient. As is the case of conformal prediction, TCP can be applied to any regression method, and further offers both statistical accuracy and computational gains. For a specific example, we also show how TCP can be implemented in the sparse regression setting. The experiments on both synthetic and real data validate the empirical performance of TCP.

研究の動機と目的

• 高次元回帰設定におけるコンフォーマル予測の高い計算コストに対処すること。
• 計算時間の著しい削減を実現しつつ、有限標本のカバレッジ保証を維持する手法の開発。
• 統計的妥当性を損なわず、スプリットコンフォーマル予測に比べて予測区間の鋭さを向上させること。
• lassoのようなスパース回帰モデルへのコンフォーマル予測の効率的適用を可能にすること。
• スパースモデルに限らず、任意の回帰手法に適用可能な汎用的フレームワークの提供。

提案手法

• 本手法は二段階の手順を採用する：まず、予備的分析に基づいてありえない応答値を除外するトリムング段階を実施し、その後に削減された候補セットに対してコンフォーマル予測を適用する。
• トリムング段階では、テスト点の応答に対して極めて不確実な値を高速かつデータ駆動的に同定・除外する。
• その後、トリムされた候補y値の集合に対してのみコンフォーマル予測を実行するため、モデル再適合の回数が著しく削減される。
• スパース回帰の文脈では、予測モデルにlassoを用い、トリムング段階ではlassoのスパarsityと小さな摂動に対する安定性を活用する。
• 交換可能性の下で有限標本のカバレッジを保証し、トリミングによるカバレッジ損失に対して理論的上限を導出する。
• 最大3種類のトリムングバリエーションを検討：MaxTrim、RidgeTrim、SplitTrim。それぞれ、攻撃性と計算戦略が異なる。

実験結果

リサーチクエスチョン

• RQ1 有限標本のカバレッジを損なわず、高次元設定においてコンフォーマル予測を計算的に効率化できるか？
• RQ2 高速なトリムング段階によって、予測区間の範囲をどの程度縮小できるか、かつ統計的妥当性を保てるか？
• RQ3 標準的およびスプリットコンフォーマル予測に比べ、TCP手法が計算速度および区間の鋭さの両面で優れているか？
• RQ4 トリミングがカバレッジ率に与える影響はどの程度で、その損失は理論的に定量化可能か？
• RQ5 TCPはlassoのようなスパース回帰モデルに効果的に適用可能であり、精度と効率の両方を維持できるか？

主な発見

• TCPは顕著な計算コストの削減を達成し、全範囲のコンフォーマル予測に比べて試行セット（すなわち候補y値）のサイズを最大80％まで縮小した。
• 合成実験では、あらゆる設定で90％に近いカバレッジを維持し、標準的コンフォーマル予測と比較してわずかな低下にとどまった。
• Capital Bikeshareデータでは、ランダムな日付設定では平均カバレッジ率が92.1％、最後の日設定では86.0％を記録し、望ましい90％水準に近い結果を得た。
• SplitTrimバージョンは最も攻撃的なトリミングを示し、試行セットのサイズを平均18.03まで削減したが、高いカバレッジを維持した。
• スプリットコンフォーマル予測に比べ、TCPは同程度またはより良いカバレッジを維持しながら、特に高次元設定において鋭い予測区間を生成した。
• 交換可能性仮定がわずかに破られた状況（例：最後の日予測）でも、TCPは頑健な性能を示したが、カバレッジはわずかに低下した。