[論文レビュー] CD-split and HPD-split: efficient conformal regions in high dimensions

Rafael Izbicki, Gilson Shimizu+1 more|arXiv (Cornell University)|Jul 24, 2020

Machine Learning and Data Classification参考文献 35被引用数 12

ひとこと要約

本稿では、データ駆動型の分割と条件付き密度推定を活用することで、高次元設定において効率的で任意形状の予測領域を構築する、CD-splitおよびHPD-splitという2つの順応的予測手法を提案する。これらの手法は漸近的条件付き妥当性を達成し、最高予測密度集合に収束する。これにより、区間ベースの代替手法と比較して、特に光度赤方偏移のような多峰性を持つターゲットに対して、より小さく正確な予測領域が得られる。

ABSTRACT

Conformal methods create prediction bands that control average coverage assuming solely i.i.d. data. Although the literature has mostly focused on prediction intervals, more general regions can often better represent uncertainty. For instance, a bimodal target is better represented by the union of two intervals. Such prediction regions are obtained by CD-split , which combines the split method and a data-driven partition of the feature space which scales to high dimensions. CD-split however contains many tuning parameters, and their role is not clear. In this paper, we provide new insights on CD-split by exploring its theoretical properties. In particular, we show that CD-split converges asymptotically to the oracle highest predictive density set and satisfies local and asymptotic conditional validity. We also present simulations that show how to tune CD-split. Finally, we introduce HPD-split, a variation of CD-split that requires less tuning, and show that it shares the same theoretical guarantees as CD-split. In a wide variety of our simulations, CD-split and HPD-split have better conditional coverage and yield smaller prediction regions than other methods.

研究の動機と目的

• 従来の区間ベースの手法と比較して、特に多峰性を持つターゲット分布に対して、より小さく情報量の多い予測領域を生成する順応的予測手法の開発。
• 高次元特徴空間における既存の局所的および条件付き妥当性手法のスケーラビリティと性能の限界の解決。
• 最小限の仮定の下で、具体的には漸近的条件付き妥当性および最高予測密度集合への収束という理論的保証の提供。
• HPD-splitというCD-splitの変種により、より少ないハイパーパrameterを用いることでチューニングの複雑さを低減しつつ理論的性質を維持。
• 特にターゲット分布が多峰性であることが多い光度赤方偏移予測のような実世界の設定において、実験的優位性の示唆。

提案手法

• CD-splitは、特徴空間のデータ駆動型分割を用いた分割順応的予測フレームワークを組み合わせ、局所的な条件付き密度構造に適合した予測領域を生成する。
• 条件付き密度推定器を用いて高予測密度領域を特定することで、非区間の予測集合（例えば、離散的な区間の和集合）を可能にする。
• HPD-splitは、より安定したデータ駆動型メトリクスを用いて近隣領域を定義することで、ハイパーパrameterの数を減らしたCD-splitの簡素化版である。
• 一貫性のある条件付き密度推定器に依存することで、漸近的条件付き妥当性およびオラクルの最高予測密度集合への収束を保証する。
• 高次元空間における局所的近隣領域を定義するための新しいデータ駆動型メトリクスを導入し、安定性と性能を向上させる。
• 理論的分析により、交換可能性と密度推定器の一貫性の下で、周辺的妥当性、局所的妥当性、および漸近的条件付き妥当性を確立する。

実験結果

リサーチクエスチョン

• RQ1 順応的予測手法は、高次元特徴空間における多峰性を持つ条件付き分布に適応する効率的で非区間の予測領域を構築できるか？
• RQ2 CD-splitは、強い仮定を必要としない最小限の仮定の下で、漸近的条件付き妥当性を達成し、最高予測密度集合に収束するか？
• RQ3 HPD-splitは、CD-splitの理論的性質を維持しつつ、チューニングパrameterの数を減らし、安定性を向上させることができるか？
• RQ4 多様なシミュレーション設定および実データにおいて、CD-splitとHPD-splitは条件付き被覆率と予測領域サイズの観点でどのように比較されるか？
• RQ5 光度赤方偏移推定のように、ターゲットが本質的に多峰性を持つ応用分野において、これらの手法は既存の区間ベースの順応的予測手法を上回る性能を示せるか？

主な発見

• CD-splitおよびHPD-splitは、交換可能性と条件付き密度推定器の一貫性の下で、特徴量とターゲットの依存関係に関する強い仮定を必要とせず、漸近的条件付き妥当性を達成する。
• CD-splitは、やや厳しい正則性条件のもとで、最高予測密度集合（$1-\alpha$被覆率を満たす最小の領域）に収束する。
• シミュレーションでは、Dist-split、Quantile-split、Reg-splitといった区間ベースの手法と比較して、CD-splitおよびHPD-splitはより小さな予測領域と優れた条件付き被覆率を達成する。
• 光度赤方偏移予測において、HPD-splitおよびCD-split + は他の手法と比較してより狭いバンドを生成するが、特に二峰性を持つ暗い銀河において顕著である。
• 実験的結果から、CD-split + は、高次元空間における近隣領域定義に新しいデータ駆動型メトリクスを用いることで、安定化されたバージョンとして性能が向上することが示された。
• これらの手法は、順応的回帰および分類の両方で有効であり、HPD-splitはチューニングの複雑さが低減されたCD-splitの実用的代替手段を提供する。