[论文解读] An introduction and tutorial to model-based clustering in education via Gaussian mixture modelling

Luca Scrucca, Mohammed Saqr+2 more|arXiv (Cornell University)|Jun 9, 2023

Mental Health Research TopicsPsychology被引用 3

一句话总结

本教程介绍了使用高斯有限混合模型（GMM）进行基于模型的聚类，应用于教育数据，展示了如何利用 mclust R 包识别学生参与度、学业成就和自我调节能力中的潜在子群体。教程提供了一步一步的指导，包含真实数据、代码实现和评估标准，突出显示了GMM相较于传统变量中心方法在通过概率聚类捕捉异质性方面的优势。

ABSTRACT

Heterogeneity has been a hot topic in recent educational literature. Several calls have been voiced to adopt methods that capture different patterns or subgroups within students behavior or functioning. Assuming that there is an average pattern that represents the entirety of student populations requires the measured construct to have the same causal mechanism, same development pattern, and affect students in exactly the same way. Using a person-centered method (Finite Gaussian mixture model or latent profile analysis), the present tutorial shows how to uncover the heterogeneity within engagement data by identifying three latent or unobserved clusters. This chapter offers an introduction to the model-based clustering that includes the principles of the methods, a guide to choice of number of clusters, evaluation of clustering results and a detailed guide with code and a real-life dataset. The discussion elaborates on the interpretation of the results, the advantages of model-based clustering as well as how it compares with other methods.

研究动机与目标

• 为解决变量中心方法假设所有学生具有单一平均模式的局限性。
• 介绍基于模型的聚类（特别是有限高斯混合模型和潜在剖面分析）作为捕捉教育数据异质性的解决方案。
• 提供一个基于代码的实用教程，使用 mclust R 包分析真实教育数据集。
• 指导研究人员如何选择最优聚类数量、评估模型拟合度并解释聚类特征。
• 将基于模型的聚类与其他聚类方法进行比较，突出其在处理多维、非线性学生特质方面的优势。

提出的方法

• 使用有限高斯混合模型（GMM）将多维学生数据的潜在概率密度建模为多个多元正态分布的混合。
• 应用 mclust R 包，该包实现了14种参数简化的GMM配置，以在模型复杂度与拟合度之间取得平衡。
• 采用信息准则（如BIC、AIC）和基于熵的准则来选择最优聚类数量。
• 引入噪声成分（均匀分布）以处理不归属于任何主要聚类的异常值，提升模型的稳健性。
• 使用似然估计方法来估计各聚类特有的参数（均值、协方差矩阵），并分配成员归属的后验概率。
• 通过 MoEClust 包将协变量纳入框架，使聚类成员归属可依赖于观测变量（如性别或年龄）。

实验结果

研究问题

• RQ1 如何通过高斯混合模型的基于模型聚类有效揭示多维教育数据中的隐藏子群体？
• RQ2 应使用哪些准则和程序来确定教育数据中最优聚类数量？
• RQ3 基于模型的聚类与传统变量中心方法相比，在捕捉学生行为个体差异方面表现如何？
• RQ4 识别出参与度、学业成就和自我调节能力方面不同的学生特征 profile 具有哪些实际意义？
• RQ5 如何将性别或年龄等协变量整合到聚类模型中，以提升可解释性和预测能力？

主要发现

• 通过GMM的基于模型聚类成功识别出学生参与度数据中的三个独特潜在聚类，每个聚类具有独特的特征配置。
• 使用信息准则（如BIC）和基于熵的模型选择方法，显著提高了聚类数量判定的可靠性，优于启发式方法。
• 在混合模型中引入噪声成分可显著降低异常值的影响，防止产生虚假的小型聚类。
• GMM在捕捉学生特质的非线性、多维模式方面优于传统的k-means和层次聚类方法。
• MoEClust等扩展方法支持协变量驱动的聚类，使能够建模人口统计因素如何影响聚类成员归属。
• 尽管在高维设置下存在局限性，但参数简化的模型（如对角协方差、因子分析结构）仍保持良好性能，并支持可扩展分析。