[论文解读] Finite Mixture of Birnbaum-Saunders distributions using the $k$ bumps algorithm

Luis Benites, Rocío Maehara+2 more|arXiv (Cornell University)|Aug 1, 2017

Bayesian Methods and Mixture Models被引用 5

一句话总结

本文提出了一种具有 G 个分量的有限混合 Birnbaum-Saunders 分布模型，将先前的两分量模型扩展至更优地捕捉多峰与偏态数据。通过在 EM 算法中使用 k-bumps 算法进行初始化，该方法实现了稳健的最大似然估计，模拟数据与真实数据（BMI 和疲劳寿命）分析表明，当 G=3 时拟合效果更优，经假设检验与信息准则验证。

ABSTRACT

Mixture models have received a great deal of attention in statistics due to the wide range of applications found in recent years. This paper discusses a finite mixture model of Birnbaum- Saunders distributions with G components, as an important supplement of the work developed by Balakrishnan et al. (2011), who only considered two components. Our proposal enables the modeling of proper multimodal scenarios with greater flexibility, where the identifiability of the model with G components is proven and an EM-algorithm for the maximum likelihood (ML) estimation of the mixture parameters is developed, in which the k-bumps algorithm is used as an initialization strategy in the EM algorithm. The performance of the k-bumps algorithm as an initialization tool is evaluated through simulation experiments. Moreover, the empirical information matrix is derived analytically to account for standard error, and bootstrap procedures for testing hypotheses about the number of components in the mixture are implemented. Finally, we perform simulation studies and analyze two real datasets to illustrate the usefulness of the proposed method.

研究动机与目标

• 将两分量有限混合 Birnbaum-Saunders 分布模型推广至一般 G 分量模型，以更优地建模多峰与偏态数据。
• 确保 G 分量有限混合 Birnbaum-Saunders 分布模型的可识别性。
• 开发一种高效的 EM 算法，结合 k-bumps 算法进行初始化，以提升最大似然估计的收敛性与稳定性。
• 提供推断工具，包括经验信息矩阵用于标准误估计，以及参数自展法用于检验分量数量。
• 在模拟数据与两个真实数据集（BMI 与疲劳寿命数据）上展示模型性能，表明其拟合效果优于竞争模型。

提出的方法

• 形式化定义了具有 G 个分量的有限混合 Birnbaum-Saunders (FM-BS) 分布，每个分量具有参数 (α_g, β_g) 及混合比例 p_g。
• 应用 EM 算法进行混合参数的最大似然估计，其中 k-bumps 算法用于生成稳定且有效的初始值。
• 通过解析推导经验信息矩阵，以估计最大似然估计的标准误。
• 采用参数自展似然比检验评估增加分量的显著性（例如，G=2 与 G=3 的比较）。
• 通过 AIC 与 BIC 实现模型选择，并与有限混合对数正态分布及偏态正态分布模型进行性能比较。
• 使用 R 语言实现该算法，以确保实际应用与可复现性。

实验结果

研究问题

• RQ1 G > 2 个分量的有限混合 Birnbaum-Saunders 分布模型是否能比现有两分量模型更优地建模多峰与偏态数据？
• RQ2 与 k-means 或 k-medoids 相比，k-bumps 算法是否能为有限混合 Birnbaum-Saunders 模型中的 EM 算法提供更稳定且更有效的初始化？
• RQ3 G 分量有限混合 Birnbaum-Saunders 模型是否具有可识别性？在何种条件下可实现唯一参数恢复？
• RQ4 基于信息准则与假设检验，BMI 与疲劳寿命等真实数据集中最优分量数（G）是多少？
• RQ5 与有限混合对数正态分布及偏态正态分布模型相比，FM-BS 模型在拟合优度与灵活性方面表现如何？

主要发现

• BMI 数据集分析显示，G=3 分量的 FM-BS 模型拟合效果最佳，G=2 与 G=3 的假设检验 p 值 <0.000，表明存在强有力证据支持三个分量的存在。
• 对于 BMI 数据，FM-BS 模型在所有测试模型中（包括 FM-logN 与 FM-SN）具有最低的 AIC 与 BIC 值。
• BMI 数据的参数估计显示，分量 1（p1=0.4932）代表较低 BMI 群体，其 α1=0.1113，β1=21.7281；分量 2（p2=0.2357）具有更高的尺度（β2=35.5421）与形状参数（α2=0.1829）。
• 疲劳寿命数据集分析证实，G=3 分量的 FM-BS 模型优于简单模型，且 k-bumps 初始化在多次运行中均产生一致且稳定的估计结果。
• 经验信息矩阵提供了准确的标准误估计，自展法获得的参数置信区间如 α1（95% 置信区间：0.1016–0.1210）与 β1（95% 置信区间：21.3332–22.1230）具有良好的覆盖性。
• k-bumps 算法始终生成优于 k-means 或 k-medoids 的初始值，因为多次运行的最终估计值变化极小，显著提升了算法的可靠性。