[논문 리뷰] A Bayesian Approach to Restricted Latent Class Models for Scientifically-Structured Clustering of Multivariate Binary Outcomes

Zhenke Wu, Livia Casciola‐Rosen외 2명|arXiv (Cornell University)|2018. 08. 24.

Bayesian Methods and Mixture Models참고 문헌 36인용 수 6

한 줄 요약

이 논문은 과학적 제약 조건을 고려하여 다변량 이진 데이터를 군집화하기 위해 베이지안 제한된 잠재클래스모델(RLCM)을 제안한다. 설계 행렬 Γ를 통해 어떤 특징이 잠재클래스를 정의하는지에 대한 사전 지식을 코딩한다. 이 방법은 동시에 군집 수, 잠재클래스 패턴, 측정 오차율을 추정하여, 자가항체 검출 및 질병 발생 원인 연구와 같은 분야에서 정확성과 해석 가능성 향상을 이룬다. 이는 정보성 사전분포를 통해 희박성과 과학적 타당성을 강제함으로써 달성된다.

ABSTRACT

In this paper, we propose a general framework for combining evidence of varying quality to estimate underlying binary latent variables in the presence of restrictions imposed to respect the scientific context. The resulting algorithms cluster the multivariate binary data in a manner partly guided by prior knowledge. The primary model assumptions are that 1) subjects belong to classes defined by unobserved binary states, such as the true presence or absence of pathogens in epidemiology, or of antibodies in medicine, or the "ability" to correctly answer test questions in psychology, 2) a binary design matrix $Γ$ specifies relevant features in each class, and 3) measurements are independent given the latent class but can have different error rates. Conditions ensuring parameter identifiability from the likelihood function are discussed and inform the design of a novel posterior inference algorithm that simultaneously estimates the number of clusters, design matrix $Γ$, and model parameters. In finite samples and dimensions, we propose prior assumptions so that the posterior distribution of the number of clusters and the patterns of latent states tend to concentrate on smaller values and sparser patterns, respectively. The model readily extends to studies where some subjects' latent classes are known or important prior knowledge about differential measurement accuracy is available from external sources. The methods are illustrated with an analysis of protein data to detect clusters representing auto-antibody classes among scleroderma patients.

연구 동기 및 목표

• 다양한 특징과 잠재 상태 사이의 알려진 생물학적 또는 진단적 관계와 같은 과학적 제약 조건을 고려한 다변량 이진 데이터의 군집화 프레임워크를 개발하는 것.
• 군집 수와 관련 특징의 구조가 알려지지 않은 상황에서 잠재클래스 소속 관계와 측정 오차율을 추정하는 것.
• 각 잠재클래스에서 관련 특징이 무엇인지 정의하는 제한된 설계 행렬 Γ를 통해 사전 지식을 통합함으로써 군집 정확성과 해석 가능성을 향상시키는 것.
• 완전한 베이지안 사후 추론 접근법을 사용하여 군집 추정 및 개인의 잠재 상태 예측에 대한 불확실성 정량화를 가능하게 하는 것.

제안 방법

• 모델은 M개의 특징 중 일부가 정의하는 이진 잠재클래스에 속하는 주어진 주제를 가정하며, 각 클러스터당 관련 특징을 지정하는 이진 설계 행렬 Γ를 사용한다.
• 유한 혼합모형에 딜리클리드 prior를 적용하여 군집 비율을 추정하고, 잠재클래스 구조에서 희박한 패턴을 선호하는 사전분포를 사용한다.
• 제약 조건을 통해 식별 가능성을 확보하면서도, 군집 할당, Γ, 모델 파라미터를 반복적으로 업데이트하는 새로운 MCMC 알고리즘을 통해 사후 추론을 수행한다.
• 각 특징에 대해 차별화된 측정 오차율을 포함하며, 일부 주제의 잠재클래스 소속 관계가 사전에 알려진 경우에도 적용 가능하다.
• 더 작은 군집 수와 더 희박한 특징 패턴을 선호하는 사전분포를 설계하여 간결성과 해석 가능성 향상을 도모한다.
• 외부 자료에서의 측정 정확도나 부분적으로 관측된 잠재상태가 존재하는 설정으로도 확장 가능하다.

실험 결과

연구 질문

• RQ1 어떻게 특정 특징이 잠재클래스를 정의하는 데 관여하는 과학적 지식을 통합함으로써 다변량 이진 데이터의 군집 정확성을 향상시킬 수 있는가?
• RQ2 설계 행렬 Γ를 통해 특징-클래스 관계를 제한할 경우 군집 추정 및 불확실성 정량화에 어떤 영향을 미치는가?
• RQ3 베이지안 프레임워크 내에서 알려지지 않은 군집 수, 각 군집의 관련 특징 구조, 측정 오차율을 동시에 추정하는 방법은 무엇인가?
• RQ4 제안된 방법은 표준 잠재클래스 모델에 비해 군집 복원 및 해석 가능성 측면에서 어떤 방식으로 우월한가?
• RQ5 측정 오차에 대한 사전 지식이나 일부 주제의 알려진 잠재클래스 소속 관계를 군집화 과정에 어떻게 통합할 수 있는가?

주요 결과

• 베이지안 RLCM은 알려지지 않은 군집 수를 고려하면서도 설계 행렬 Γ를 통해 과학적 타당성을 강제함으로써 다변량 이진 데이터를 성공적으로 군집화한다.
• 특히 각 잠재클래스를 정의하는 데 관련 특징의 일부만 기여하는 경우, 표준 잠재클래스 모델과 계층적 군집화보다 군집 정확성이 향상된다.
• 사후 추론 과정에서 더 작은 군집 수와 더 희박한 설계 행렬 패턴을 선호하며, 이는 생물학적으로 의미 있는 특징 집합의 제한된 수를 고려한 과학적 기대와 일치한다.
• 시뮬레이션과 경화병 자가항체 연구의 실제 데이터에서 특징 간 차별화된 측정 오차율을 효과적으로 처리함을 입증하였다.
• 개별 주제의 잠재상태, 예를 들어 자가항체 복합체 존재 여부 또는 병원체 감염 여부를 정확하게 예측할 수 있다.
• R 패키지 'rewind'는 이 방법을 구현하여 생물의학 및 심리측정 분야의 응용을 위해 공개적으로 이용 가능하다.