[论文解读] Permutation-based uncertainty quantification about a mixing distribution

Vaidehi Dixit, Ryan Martin|arXiv (Cornell University)|Jun 12, 2019

Bayesian Methods and Mixture Models参考文献 18被引用 6

一句话总结

本文提出一种基于排列的方祛，用于通过预测递归算法量化非参数混合分布估计中的不确定性。该方法利用算法对数据顺序的固有依赖性，通过重排数据生成置信区间，在模拟中实现了近似有效的频率学覆盖概率。

ABSTRACT

Nonparametric estimation of a mixing distribution based on data coming from a mixture model is a challenging problem. Beyond estimation, there is interest in uncertainty quantification, e.g., confidence intervals for features of the mixing distribution. This paper focuses on estimation via the predictive recursion algorithm, and here we take advantage of this estimator's seemingly undesirable dependence on the data ordering to obtain a permutation-based approximation of the sampling distribution which can be used to quantify uncertainty. Theoretical and numerical results confirm that the proposed method leads to valid confidence intervals, at least approximately.

研究动机与目标

• 解决在有限样本设置下，非参数混合分布估计中缺乏不确定性量化方法的问题。
• 将预测递归估计量的顺序依赖性视为统计推断的工具而非限制。
• 开发一种计算上可行的方法，用于构建混合密度特征的置信区间。
• 通过在不同混合密度和核函数下进行的模拟实验，验证该方法的频率学覆盖特性。

提出的方法

• 通过重排数据序列生成多个预测递归估计，构建基于排列的估计量抽样分布。
• 利用基于排列的估计的样本方差来近似预测递归估计量的真实抽样方差。
• 采用基于排列分布的中间 100(1−α)% 分位数作为混合密度特征的近似置信区间。
• 理论依据基于总方差分解，表明在正则条件下，排列方差可近似真实抽样方差。
• 该方法应用于估计特定点的混合密度并构建点态置信区间。
• 通过不同样本大小和混合密度形状的广泛模拟实验验证该方法。

实验结果

研究问题

• RQ1 预测递归估计量的顺序依赖性是否可被重新用于有效的不确定性量化？
• RQ2 基于排列的分布是否能为混合密度的置信区间提供近似正确的频率学覆盖？
• RQ3 该方法在不同混合密度形状和核类型下的表现如何？
• RQ4 基于排列的方差是否可靠地近似预测递归估计量的真实抽样方差？

主要发现

• 基于排列的方法生成的置信区间覆盖概率近似等于名义水平，尤其在样本量从 n=500 增加到 n=1000 时表现更优。
• 在混合密度平滑区域覆盖最准确；在高曲率区域附近存在偏差，但整体性能仍具鲁棒性。
• 在 9 个不同示例（涵盖多种混合密度和核函数）中，估计的覆盖概率范围为 0.88 至 1.00，当 n=1000 时均值接近 0.95。
• 可视化比较显示，排列分布的离散程度与真实抽样分布高度一致，体现在密度估计和置信区间的匹配上。
• 该方法可推广至任意在可交换性假设下的顺序依赖密度估计器，表明其在预测递归之外也具有更广泛的应用潜力。