[논문 리뷰] Prediction-Constrained Topic Models for Antidepressant Recommendation

Michael C. Hughes, Gabriel Hope외 5명|arXiv (Cornell University)|2017. 12. 01.

Topic Modeling참고 문헌 16인용 수 5

한 줄 요약

이 논문은 전자 건강 기록(EHR) 데이터의 생성 모델링과 치료 결과 예측의 균형을 맞추어 항우울제 추천을 향상시키는 예측 제약(Prediction-Constrained, PC) 주제 모델을 제안한다. 기존의 감독 주제 모델이 데이터와 레이블의 가능도를 혼동하는 데 반해, PC-sLDA는 주제-단어 분포의 해석 가능성을 유지하면서도 레이블 예측을 전적으로 최적화하여, 예측 AUC와 생성 가능도 양 측면에서 기준 모델보다 뛰어난 성능을 달성한다.

ABSTRACT

Supervisory signals can help topic models discover low-dimensional data representations that are more interpretable for clinical tasks. We propose a framework for training supervised latent Dirichlet allocation that balances two goals: faithful generative explanations of high-dimensional data and accurate prediction of associated class labels. Existing approaches fail to balance these goals by not properly handling a fundamental asymmetry: the intended task is always predicting labels from data, not data from labels. Our new prediction-constrained objective trains models that predict labels from heldout data well while also producing good generative likelihoods and interpretable topic-word parameters. In a case study on predicting depression medications from electronic health records, we demonstrate improved recommendations compared to previous supervised topic models and high- dimensional logistic regression from words alone.

연구 동기 및 목표

• 고차원적인 EHR 데이터로 인해 생성 가능도가 레이블 예측을 지배하는 감독 주제 모델의 불균형 문제를 해결하기 위해.
• 예측 과제의 근본적인 비대칭성, 즉 데이터로부터 레이블을 예측하는 것이지 레이블로부터 데이터를 예측하는 것이 아니라는 점을 수정하기 위해.
• 고품질의 주제-단어 분포를 유지하면서 동시에 하류 레이블 예측 정확도를 향상시키는 학습 목표를 개발하기 위해.
• PC-sLDA가 기존의 감독 주제 모델과 고차원 로지스틱 회귀보다 EHR에서 항우울제 성공 여부를 예측하는 데서 뛰어난 성능을 보임을 입증하기 위해.

제안 방법

• 관찰된 단어의 가능도와 예측 성능을 동시에 최적화하면서도 생성 모델링을 유지하는 예측 제약(Prediction-Constrained, PC) 목적함수를 도입한다.
• 관측된 단어의 가능도와 레이블 예측 정확도를 균형 있게 조절하는 하이브리드 목적함수를 사용하여 주제 모델을 학습하며, 제약 최적화 프레임워크를 적용한다.
• 문서-주제 분포에 대한 사후분포를 근사하기 위해 변분 추론 방법을 사용하며, 주제가 예측 유용성과 일치하도록 정규화를 적용한다.
• Gibbs-LDA에서 초기화하여 수렴성과 해석 가능성을 향상시키고, 주제의 진화를 직접 비교할 수 있도록 한다.
• 5,126개의 코드어와 11종의 항우울제를 포함한 익명화된 EHR 데이터를 사용하여 다중 레이블 항우울제 추천 과제에 PC 목적함수를 적용한다.
• 보류된 데이터에 대한 음의 로그 가능도(생성 모델링)와 AUC(분류 성능)를 사용하여 성능을 평가하며, sLDA, Gibbs-LDA, 로지스틱 회귀와 비교한다.

실험 결과

연구 질문

• RQ1 모델의 잘못된 특정화가 있음에도 불구하고, EHR 데이터를 잘 설명하고 항우울제 결과를 정확히 예측할 수 있도록 감독 주제 모델을 동시에 학습시킬 수 있는가?
• RQ2 레이블 예측 성능을 명시적으로 제약함으로써, sLDA의 공동 가능도 최적화보다 레이블 예측 성능이 향상되는가?
• RQ3 PC-sLDA가 학습한 주제-단어 분포는 비감독 LDA의 것과 비교해 임상적 해석 가능성과 예측 능력 측면에서 어떻게 다를까?
• RQ4 단지 EHR의 단어 수를 사용할 때, PC-sLDA는 고차원 로지스틱 회귀보다 항우울제 추천에서 뛰어난 성능을 보일 수 있는가?
• RQ5 주제 수를 늘일수록 PC 목적함수는 BP-sLDA와 같은 다른 감독 모델보다 과적합을 방지하는가?

주요 결과

• 충분한 주제 수를 사용할 경우, PC-sLDA는 11종의 항우울제에 대해 보류된 AUC(분류 성능)에서 Gibbs-LDA와 로지스틱 회귀보다 높은 성능을 기록한다.
• PC-sLDA는 BP-sLDA보다 더 낮은 보류된 음의 로그 가능도를 유지하여 EHR 단어 수의 생성 모델링 능력이 뛰어나다는 것을 시사한다.
• PC-sLDA가 학습한 주제-단어 분포는 더 해석 가능하고 임상적으로 관련성이 있으며, 일반적인 예방 관리에서 치료 상담과 관련된 용어로 진화한다.
• Gibbs-LDA에서 초기화된 PC-sLDA는 주제 구조에 뚜렷한 진화를 보이며, 한 주제가 정기적인 예방접종에서 행동 변화 중심의 장기적 주치의 방문으로 이동한다.
• BP-sLDA는 주제 수 증가에 따라 심각한 과적합을 보이며, PC-sLDA보다 더 열 劣한 가능도와 성능을 보인다.
• PC-sLDA는 두 목표를 성공적으로 균형 잡는다: EHR 데이터를 잘 설명하며, 이전의 감독 주제 모델보다 항우울제 성공 예측을 더 정확히 한다.