[论文解读] Scalable Uncertainty Quantification for Black-Box Density-Based Clustering

Nicola Bariletto, Stephen G. Walker|arXiv (Cornell University)|Mar 3, 2026

Stochastic Gradient Optimization Techniques被引用 0

一句话总结

本论文提出一种框架，通过马氏后验分布将不确定性从密度估计传播到基于密度的聚类，实现对高维数据的可扩展、GPU友好的不确定性量化。它提供理论保证并在合成数据和真实数据上展示了可扩展性。

ABSTRACT

We introduce a novel framework for uncertainty quantification in clustering. By combining the martingale posterior paradigm with density-based clustering, uncertainty in the estimated density is naturally propagated to the clustering structure. The approach scales effectively to high-dimensional and irregularly shaped data by leveraging modern neural density estimators and GPU-friendly parallel computation. We establish frequentist consistency guarantees and validate the methodology on synthetic and real data.

研究动机与目标

• 在聚类中激发生不确定性量化的动机，并通过灵活的密度估计器解决可扩展性问题。
• 通过基于密度的聚类（DBC）将密度估计的不确定性传播到聚类上。
• 利用基于分数的马氏后验分布来量化不确定性。
• 在密度和聚类结果上建立频率学一致性保证。
• 在合成数据和真实数据（如 MNIST）上展示可扩展性和适用性，利用 GPU 加速。

提出的方法

• 将马氏后验分布（MPD）与基于密度的聚类（DBC）相结合，以量化聚类不确定性。
• 在数据上训练一个可微的密度估计器（如正则化流）；通过基于分数的马氏更新方案生成预测重采样。
• 对于每个重采样的密度，执行 DBC（例如上界集聚类）以获得聚类样本。
• 聚合重采样的聚类结果以获得对聚类分配的不确定性度量（如共聚类矩阵和逐点不确定性）。
• 提供并行化、GPU 友好的重采样方法，扩展性优于传统的 MCMC。
• 给出理论结果：在温和的正则性假设下，密度的 MPD 收敛以及聚类的一致性。

Figure 1: Illustration of DBC. The plotted density has two clusters, labeled $C_{1}$ and $C_{2}$ , corresponding to the two connected components of the upper-level set at level $t$ .

实验结果

研究问题

• RQ1 一个密度估计的不确定性是否可以通过一个原理性的贝叶斯式框架传播到聚类结构？
• RQ2 马氏后验是否能为基于密度的聚类提供一致、可扩展的不确定性量化，适用于高维和不规则形状的数据？
• RQ3 如何将现代密度估计器（如正则化流）与预测重采样结合，实现在聚类上的实用不确定性量化？
• RQ4 在该框架中，密度和聚类一致性有哪些频率学保证？

主要发现

• 该框架通过对训练好的密度估计器进行预测重采样，得到对密度的马氏后验分布（MPD）。
• 密度的不确定性会转化为通过基于密度的聚类得到的聚类不确定性，从而实现对聚类分配的不确定性量化。
• 该方法具备可扩展性和 GPU 友好性，在高维或不规则形状聚类场景中优于传统的 MCMC。
• 理论结果在温和条件下确立了密度的 MPD 收敛性以及聚类的一致性。
• 在嘈杂同心圆和 MNIST（数字 3 和 8）的数值实验中展示了有意义的不确定性可视化，具有高置信区域和可识别的模糊边界。
• 通过将符合性贝叶推断与基于 MPD 的聚类结合，在 MNIST 上获得了对真实标签的 90% 可信区间。

(a) Trained and resampled densities.