[論文レビュー] Scalable Uncertainty Quantification for Black-Box Density-Based Clustering

Nicola Bariletto, Stephen G. Walker|arXiv (Cornell University)|Mar 3, 2026

Stochastic Gradient Optimization Techniques被引用数 0

ひとこと要約

この論文は、マルチンゲール事後分布を用いて密度推定から密度ベースのクラスタリングへの不確実性を伝搬させ、高次元データのためのスケーラブルでGPU対応の不確実性定量化を実現するフレームワークを提示します。理論的保証を提供し、合成データと実データでのスケーラビリティを示します。

ABSTRACT

We introduce a novel framework for uncertainty quantification in clustering. By combining the martingale posterior paradigm with density-based clustering, uncertainty in the estimated density is naturally propagated to the clustering structure. The approach scales effectively to high-dimensional and irregularly shaped data by leveraging modern neural density estimators and GPU-friendly parallel computation. We establish frequentist consistency guarantees and validate the methodology on synthetic and real data.

研究の動機と目的

• クラスタリングにおける不確実性定量化の動機付けと、柔軟な密度推定量でのスケーラビリティの課題。
• 密度推定の不確実性を密度ベースのクラスタリング（DBC）を介して伝搬。
• 不確実性を定量化するためにスコアベースのマルチンゲール事後分布を活用。
• 密度とクラスタリング結果に対する頻度主義的一貫性保証の確立。
• GPU加速を用いた合成データおよび実データ（例：MNIST）でのスケーラビリティと適用性の実証。

提案手法

• マルチンゲール事後分布（MPD）と密度ベースのクラスタリング（DBC）を組み合わせてクラスタリング不確実性を定量化。
• データ上で微分可能な密度推定量（例：ノーマライジングフロー）を訓練し、スコアベースのマルチンゲール更新方式を用いて予測再サンプリングを生成。
• 各再サンプリング密度についてDBC（例：上限値集合クラスタリング）を実行しクラスタリングサンプルを得る。
• 再サンプリングされたクラスタリングを集約して、クラスタ割り当ての不確実性指標（共クラスタリング行列や点ごとの確実性など）を得る。
• 従来のMCMC手法よりスケールしやすく、並列化・GPU対応の再サンプリングを提供。
• 理論的結果を提供：密度のMPD収束性と、穏やかな正則性仮定の下でのクラスタリングの一貫性。

Figure 1: Illustration of DBC. The plotted density has two clusters, labeled $C_{1}$ and $C_{2}$ , corresponding to the two connected components of the upper-level set at level $t$ .

実験結果

リサーチクエスチョン

• RQ1 密度推定の不確実性を principled なベイズ風フレームワークでクラスタリング構造へ伝搬できるか。
• RQ2 マルチンゲール事後分布は高次元・不規則な形状データを含む密度ベースのクラスタリングに対して一貫した、スケーラブルな不確実性定量化を提供するか。
• RQ3 現代の密度推定器（例：ノーマライジングフロー）を予測再サンプリングと統合して、クラスタリングの実用的な不確実性定量化を得られるか。
• RQ4 このフレームワークにおける密度とクラスタリングの一貫性の頻度論的保証は何か。

主な発見

• 訓練済み密度推定量の予測再サンプリングによって、密度上のマルチンゲール後方分布（MPD）が得られる。
• 密度の不確実性は密度ベースのクラスタリングを介してクラスタ割り当ての不確実性へと伝播し、クラスタ割り当ての不確実性定量化を可能にする。
• 本手法はスケーラブルでGPUに適しており、高次元または不規則形状のクラスタリングシナリオで従来のMCMCを上回る。
• 理論的結果は、密度のMPDの収束性と、適切な条件下でのクラスタリングの一貫性を確立する。
• ノイズのある同心円や MNIST（数字 3 と 8）での数値実験は、有意義な不確実性の可視化を示し、高信頼領域と識別可能な曖昧境界を示す。
• MNIST に対して、MPDベースのクラスタリングと統合した適合的ベイズ推論を用いた真のラベリングの 90% コンフォーマルCredible Setを得た。

(a) Trained and resampled densities.