[논문 리뷰] Statistical Inference for Fuzzy Clustering

Qiuyi Wu, Zihan Zhu외 1명|arXiv (Cornell University)|2026. 01. 06.

Bayesian Methods and Mixture Models인용 수 0

한 줄 요약

가중치가 있는 퍼지 C-평균 프레임워크(WFCM)와 통계적 추론, ML 추정, 가설 검정, 부트스트랩 신뢰구간, 그리고 클러스터 수 선택을 위한 가중된 Xie-Beni 지수를 도입.

ABSTRACT

Clustering is a central tool in biomedical research for discovering heterogeneous patient subpopulations, where group boundaries are often diffuse rather than sharply separated. Traditional methods produce hard partitions, whereas soft clustering methods such as fuzzy $c$-means (FCM) allow mixed memberships and better capture uncertainty and gradual transitions. Despite the widespread use of FCM, principled statistical inference for fuzzy clustering remains limited. We develop a new framework for weighted fuzzy $c$-means (WFCM) for settings with potential cluster size imbalance. Cluster-specific weights rebalance the classical FCM criterion so that smaller clusters are not overwhelmed by dominant groups, and the weighted objective induces a normalized density model with scale parameter $σ$ and fuzziness parameter $m$. Estimation is performed via a blockwise majorize--minimize (MM) procedure that alternates closed-form membership and centroid updates with likelihood-based updates of $(σ,\bw)$. The intractable normalizing constant is approximated by importance sampling using a data-adaptive Gaussian mixture proposal. We further provide likelihood ratio tests for comparing cluster centers and bootstrap-based confidence intervals. We establish consistency and asymptotic normality of the maximum likelihood estimator, validate the method through simulations, and illustrate it using single-cell RNA-seq and Alzheimer disease Neuroimaging Initiative (ADNI) data. These applications demonstrate stable uncertainty quantification and biologically meaningful soft memberships, ranging from well-separated cell populations under imbalance to a graded AD versus non-AD continuum consistent with disease progression.

연구 동기 및 목표

• 생물의학 데이터의 불균형한 하위집단에서 퍼지 클러스터링의 불확실성 정량화 필요성 제기.
• 클러스터 기여를 재균형하고 확률적 해석을 가능하게 하는 가중 퍼지 C-평균 목적 함수를 제안.
• 가능도 기반 프레임워크를 개발하여 해석 가능한 멤버십 업데이트 및 파라미터 추정.
• 클러스터 중심과 멤버십에 대한 가설 검정 및 부트스트랩 기반 신뢰구간 가능.
• MLE의 일관성과 큰샘 이고 정상성에 대한 이론적 보장과 함께 모델 선택 도구를 제공.

제안 방법

• 클러스터 크기 불균형 문제를 다루기 위해 클러스터별 가중치를 갖는 가중 퍼지 C-평균(WFCM) 손실을 정의한다.
• WFCM 손실로부터 스케일 매개변수 시그마와 퍼지 정도 매개변수 m을 갖는 정규화된 밀도 모델을 유도한다.
• 멤버십 업데이트와 (시그마, 가중치)의 가능도 기반 업데이트를 교대로 수행하는 블록별 MM 절차를 통해 파라미터를 추정한다.
• 데이터 적응적 가우시안 혼합 제안을 사용하는 중요샘플링으로 계산 어려운 정규화 상수를 근사한다.
• 클러스터 중심을 비교하는 가능도 비 검정과 불확실성 정량화를 위한 부트스트랩 기반 신뢰 구간을 제공한다.
• 클러스터 수의 일관된 선택을 위한 가중 Xie-Beni 지수를 도입한다.

실험 결과

연구 질문

• RQ1 클러스터 크기 불균형 하에서 원칙적인 통계적 추론을 제공하도록 퍼지 클러스터링을 어떻게 확장할 수 있는가?
• RQ2 클러스터별 가중치가 확률적 모델을 이끌어내고 퍼지 멤버십과 중심에 대한 가능도 기반 추정을 가능하게 할 수 있는가?
• RQ3 제안된 추정치의 완화 조건하에서의 점근적 성질(일관성 및 정규성)은 무엇인가?
• RQ4 멤버십과 중심의 불확실성을 검정과 부트스트랩 방법으로 어떻게 정량화할 수 있는가?
• RQ5 가중 퍼지 클러스터링 프레임워크에서 클러스터 수를 어떻게 선택해야 하는가?

주요 결과

• 클러스터 가중치를 갖는 가중 FCM 목적 함수는 매개변수 시그마와 m를 갖는 정규화된 밀도 모델을 산출한다.
• 블록별 MM 알고리즘은 해의 닫힌 형식의 멤버십 업데이트와 중심 업데이트를 제공하고, 파라미터 업데이트는 가능도 최적화를 통해 수행된다.
• 데이터 적응적 가우시안 혼합 제안을 이용한 중요샘플링으로 정규화 상수의 실용적 추정이 가능하다.
• 이 프레임워크는 중심에 대한 가능도 비 검정과 파라미터 및 멤버십에 대한 부트스트랩 기반 신뢰구간을 제공한다.
• 이론적 결과는 라벨 치환에 대한 강한 일관성과 완만한 정규성 조건하에서의 MLE의 점근적 정상성을 보장한다.
• scRNA-seq 및 ADNI 데이터에 대한 적용은 안정적인 불확실성 정량화와 생물학적으로 의미 있는 소프트 멤버십을 보여준다.