[논문 리뷰] An introduction and tutorial to model-based clustering in education via Gaussian mixture modelling

Luca Scrucca, Mohammed Saqr외 2명|arXiv (Cornell University)|2023. 06. 09.

Mental Health Research TopicsPsychology인용 수 3

한 줄 요약

이 튜토리얼은 교육 데이터를 위한 모형 기반 클러스터링을 소개하며, 가우시안 믹스처 모델(GMM)을 사용하여 학생의 참여도, 성취도, 자기조절 능력 등의 잠재적 하위군을 식별하는 방법을 설명한다. mclust R 패키지를 활용한 실제 데이터, 코드, 평가 기준을 포함한 단계별 가이드를 제공하며, GMM이 전통적인 변수 중심 방법에 비해 확률적 클러스터링을 통해 이질성을 더 잘 포착할 수 있는 점을 강조한다.

ABSTRACT

Heterogeneity has been a hot topic in recent educational literature. Several calls have been voiced to adopt methods that capture different patterns or subgroups within students behavior or functioning. Assuming that there is an average pattern that represents the entirety of student populations requires the measured construct to have the same causal mechanism, same development pattern, and affect students in exactly the same way. Using a person-centered method (Finite Gaussian mixture model or latent profile analysis), the present tutorial shows how to uncover the heterogeneity within engagement data by identifying three latent or unobserved clusters. This chapter offers an introduction to the model-based clustering that includes the principles of the methods, a guide to choice of number of clusters, evaluation of clustering results and a detailed guide with code and a real-life dataset. The discussion elaborates on the interpretation of the results, the advantages of model-based clustering as well as how it compares with other methods.

연구 동기 및 목표

• 모든 학생에게 동일한 평균 패턴을 가정하는 변수 중심 방법의 한계를 해결하기 위해.
• 교육 데이터의 이질성을 포착하기 위한 해결책으로 모형 기반 클러스터링(특히 유한한 가우시안 믹스처 모델과 잠재 프로파일 분석)을 소개하기 위해.
• 실제 교육 데이터셋을 분석하기 위한 실용적이고 코드 기반의 튜토리얼을 제공하기 위해.
• 최적의 클러스터 수 선택, 모형 적합도 평가, 클러스터 프로파일 해석을 위한 지침을 제공하기 위해.
• 다양한 클러스터링 방법과 비교하여 다차원적이고 비선형적인 학생 성향을 다룰 수 있는 모형 기반 클러스터링의 장점을 부각하기 위해.

제안 방법

• 다변량 학생 데이터의 잠재 확률 밀도를 다변량 정규분포의 혼합으로 모델링하기 위해 유한한 가우시안 믹스처 모델(GMM)을 사용한다.
• 모형의 복잡성과 적합도의 균형을 이루기 위해 14종의 단순화된 GMM 파arameterization을 구현한 mclust R 패키지를 적용한다.
• 정보 기준(예: BIC, AIC)과 엔트로피 기반 기준을 사용하여 최적의 클러스터 수를 선정한다.
• 이상치가 주요 클러스터에 속하지 않는 경우를 다루기 위해 노이즈 성분(균일분포)을 도입하여 모형의 강건성을 향상시킨다.
• 우도 기반 추론을 사용하여 클러스터별로 특화된 파라미터(평균, 공분산 행렬)를 추정하고, 클러스터 소속의 후행 확률을 할당한다.
• MoEClust 패키지를 통해 공변량을 통합함으로써 클러스터 소속이 성별, 연령 등 관측 변수에 따라 달라질 수 있도록 확장한다.

실험 결과

연구 질문

• RQ1 모형 기반 클러스터링을 통한 가우시안 믹스처 모델은 다차원 교육 데이터에서 숨겨진 하위군을 효과적으로 드러내는가?
• RQ2 교육 데이터에서 최적의 클러스터 수를 결정하기 위해 어떤 기준과 절차를 사용해야 하는가?
• RQ3 모형 기반 클러스터링은 전통적인 변수 중심 방법에 비해 학생 행동의 개인적 차이를 어떻게 더 잘 포착하는가?
• RQ4 참여도, 성취도, 자기조절 능력 분야에서 별개의 학생 프로파일을 식별하는 데 실용적인 의미는 무엇인가?
• RQ5 성별이나 연령과 같은 공변량을 클러스터링 모형에 통합하여 해석 가능성과 예측 능력을 향상시킬 수 있는가?

주요 결과

• GMM을 통한 모형 기반 클러스터링은 학생 참여도 데이터에서 고유한 프로파일 특성을 지닌 세 개의 명확한 잠재 클러스터를 성공적으로 식별하였다.
• 정보 기준(BIC 등)과 엔트로피 기반 모형 선택 기법을 사용함으로써 히وري스틱 방법에 비해 클러스터 수 결정의 신뢰도가 향상되었다.
• 혼합 모형에 노이즈 성분을 포함시킴으로써 이상치의 영향을 크게 감소시켜 임의의 작은 클러스터가 생성되는 것을 방지하였다.
• GMM은 기존의 k-means 및 계층적 클러스터링보다 학생 성향의 비선형적이고 다차원적인 패턴을 더 잘 포착하였다.
• MoEClust와 같은 확장 기능을 통해 공변량 기반 클러스터링이 가능해져, 인구통계적 요소가 클러스터 소속에 미치는 영향을 모델링할 수 있었다.
• 고차원 설정에서는 제한이 있지만, 단순화된 모형(예: 대각 공분산, 요인 분석 구조)은 성능을 유지하며 확장 가능한 분석을 가능하게 하였다.