[논문 리뷰] Synthesizing Mixed-type Electronic Health Records using Diffusion Models

Taha Ceritli, Ghadeer O. Ghosheh외 4명|arXiv (Cornell University)|2023. 02. 28.

Machine Learning in Healthcare인용 수 5

한 줄 요약

이 논문은 연속형 및 범주형 특성을 모두 갖는 혼합형 전자건강기록(EHR)을 생성하기 위해 특화된 확산 모델인 TabDDPM을 제안한다. 가우시안 및 다항 확산 과정을 조합함으로써 TabDDPM은 네 개의 EHR 데이터셋에서 데이터 품질, 유틸리티, 데이터 증강 측면에서 최신 기술을 초월하지만, 더 높은 샘플 실현도로 인해 개인정보 보호 수준이 낮아진다는 점에서 합성 EHR 생성의 핵심적 상충관계를 드러낸다.

ABSTRACT

Electronic Health Records (EHRs) contain sensitive patient information, which presents privacy concerns when sharing such data. Synthetic data generation is a promising solution to mitigate these risks, often relying on deep generative models such as Generative Adversarial Networks (GANs). However, recent studies have shown that diffusion models offer several advantages over GANs, such as generation of more realistic synthetic data and stable training in generating data modalities, including image, text, and sound. In this work, we investigate the potential of diffusion models for generating realistic mixed-type tabular EHRs, comparing TabDDPM model with existing methods on four datasets in terms of data quality, utility, privacy, and augmentation. Our experiments demonstrate that TabDDPM outperforms the state-of-the-art models across all evaluation metrics, except for privacy, which confirms the trade-off between privacy and utility.

연구 동기 및 목표

• 연속형 및 범주형 특성을 모두 유지하면서도 데이터 유틸리티를 보장하는 현실적인 합성 EHR 생성에 도전하는 것.
• 데이터 품질, 개인정보 보호, 유틸리티, 데이터 증강 측면에서 기존 생성 모델과의 비교를 통해 확산 모델—특히 TabDDPM—의 성능 평가.
• 기존 연구에서 간과되었던, 확산 모델이 생성하는 고실현도 합성 EHR의 개인정보 위험을 조사하는 것.
• TabDDPM이 소규모 또는 불균형적인 EHR 데이터셋에서도 효과적인 데이터 증강을 가능하게 함을 보여주는 것.
• 다양한 의료 머신러닝 응용 프로그램을 지원하는 확산 기반 합성 EHR 생성을 위한 벤치마크 수립

제안 방법

• TabDDPM는 연속형 특성에 대해 가우시안 확산, 범주형 특성에 대해 다항 확산을 별도로 모델링하는 노이즈 제거 확산 과정을 사용한다.
• 모델은 표준 가우시안 노이즈로 점차 손상되는 전방 과정을 역으로 거꾸로 진행함으로써 임의의 노이즈에서 데이터를 생성하도록 학습한다.
• 혼합형 데이터의 경우, 연속형(가우시안) 및 범주형(다항) 특성에 맞게 각각 다른 노이즈 스케줄링과 노이즈 제거 헤드를 적용한다.
• 학습 목표는 진짜 데이터 분포와 모델이 학습한 분포 사이의 역 KL 발산을 최소화하는 것으로, 노이즈 제거 스코어 매칭 방법을 사용한다.
• 하류 작업(이진 분류 및 데이터 증강 포함)을 통해 평가하며, F1 점수, AUC, 정확도 등의 지표를 사용한다.
• 개인정보 보호는 실제 샘플과 합성 샘플 간의 거리 기반 지표(DRC, MIR)를 비교하여 평가하여 실현도와 개인정보 보호 간의 상충관계를 드러낸다.

실험 결과

연구 질문

• RQ1 확산 모델은 연속형 및 범주형 특성을 모두 갖는 현실적인 혼합형 테이블형 EHR를 효과적으로 생성할 수 있는가?
• RQ2 TabDDPM은 최신 기술의 GAN 기반 및 VAE 기반 모델과 비교해 데이터 품질, 유틸리티, 개인정보 보호 측면에서 어떻게 성능을 내는가?
• RQ3 TabDDPM가 생성한 합성 데이터는 데이터 증강 작업에서 하류 머신러닝 모델의 성능을 향상시키는가?
• RQ4 확산 모델을 사용한 합성 EHR 생성에서 데이터 유틸리티와 개인정보 보호 간의 상충관계는 어떠한가?
• RQ5 TabDDPM은 소규모 또는 불균형적인 EHR 데이터셋에서도 클래스별로 균형 잡힌 합성 샘플을 생성할 수 있는가?

주요 결과

• TabDDPM는 네 개의 EHR 데이터셋에서 모든 베이스라인 모델보다 데이터 품질과 유틸리티 측면에서 뛰어난 성능을 보였으며, 분류 성능는 항상 실제 데이터 수준을 유지하거나 초월했다.
• Pima 및 ILPD 데이터셋에서 TabDDPM는 데이터 증강 성능 향상이 가장 크게 나타났으며, 특히 불균형적인 ILPD 데이터셋에서 두드러졌다.
• VAE, medGAN, corGAN에 비해 TabDDPM는 클래스 불균형 문제를 더 잘 다루었고, 광범위한 샘플링 및 다운샘플링이 필요로 하지 않았다.
• 높은 유틸리티에도 불구하고, DRC 및 MIR 지표로 측정된 바에 따르면 TabDDPM는 경쟁 모델보다 개인정보 보호 수준이 낮았다. 이는 실현도와 개인정보 보호 간의 상충관계를 확인한 것이다.
• 기존 모델들이 한쪽 클래스를 선호하는 데 반해, TabDDPM는 목표 변수 분포를 모델링함으로써 클래스별 균형 잡힌 합성 샘플을 성공적으로 생성했다.
• 본 연구는 기존 문헌에서 간과되었던, 확산 모델이 생성하는 고품질 합성 EHR의 개인정보 위험을 처음으로 명시적으로 드러낸다.