[논문 리뷰] Distributed learning optimisation of Cox models can leak patient data: Risks and solutions

Carsten Brink, Christian Rønn Hansen외 6명|arXiv (Cornell University)|2022. 04. 12.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 원시 데이터를 전송하지 않더라도, 공유되는 모델 기울기들을 통해 분산 최적화된 코ックス 비례 위험 모델에서 환자 수준의 데이터 유출이 발생할 수 있음을 입증한다. 저자들은 기울기 클리핑과 노이즈 주입을 활용한 안전하고 차별적(private) 최적화 방법을 제안하였으며, 누락된 데이터를 처리할 수 있는 MATLAB 코드를 통해 개인정보 보호를 유지하면서도 유효한 성능을 확보하였다.

ABSTRACT

Medical data are often highly sensitive, and frequently there are missing data. Due to the data's sensitive nature, there is an interest in creating modelling methods where the data are kept in each local centre to preserve their privacy, but yet the model can be trained on and learn from data across multiple centres. Such an approach might be distributed machine learning (federated learning, collaborative learning) in which a model is iteratively calculated based on aggregated local model information from each centre. However, even though no specific data are leaving the centre, there is a potential risk that the exchanged information is sufficient to reconstruct all or part of the patient data, which would hamper the safety-protecting rationale idea of distributed learning. This paper demonstrates that the optimisation of a Cox survival model can lead to patient data leakage. Following this, we suggest a way to optimise and validate a Cox model that avoids these problems in a secure way. The feasibility of the suggested method is demonstrated in a provided Matlab code that also includes methods for handling missing data.

연구 동기 및 목표

• 원시 환자 데이터를 공유하지 않는 분산 학습 환경에서 코克斯 생존 모델 학습 시 개인정보 유출 위험을 규명하는 것.
• 연방 학습 환경에서 코ックス 모델 최적화 과정이 공유된 기울기를 통해 환자 수준의 데이터를 재구성할 수 있음을 입증하는 것.
• 다양한 기관 간에 민감한 환자 정보를暴露하지 않고도 안전하고 개인정보 보호 기능을 갖춘 코ックス 모델 학습 방법을 개발하는 것.
• 실제 의료 환경에서 적용 가능한 MATLAB 기반 구현체를 제공하여 차별적 개인정보 보호와 누락된 데이터 처리를 동시에 구현하는 것.

제안 방법

• 저자들은 기울기 클리핑과 노이즈 주입을 활용한 코ックス 모델을 위한 차별적(private) 최적화 프레임워크를 제안하여 정보 유출를 제한한다.
• 반복 최적화 과정에서 차별적 개인정보 보호를 보장하기 위해 기하급수적 메커니즘(Exponential Mechanism)을 적용하여 모델 파라미터를 선택한다.
• 클라이언트-서버 아키텍처를 기반으로 하며, 기관 간에 오직 정제된 기울기들만 교환된다.
• 분산 학습 루프 내에서 다중 대체 기법(Multiple Imputation)을 통합하여 누락된 데이터를 처리한다.
• 메서드의 타당성과 정확성을 입증하기 위해 맞춤형 MATLAB 구현체를 제공한다.
• 종합 정리 이론(Composition Theorem)을 활용하여 개인정보 보호 예산(privacy budget)을 철저히 관리하여 종단 간 차별적 개인정보 보호 보장을 유지한다.

실험 결과

연구 질문

• RQ1 공유되는 모델 업데이트를 통해 분산 최적화된 코ックス 모델이 개인 환자 데이터를 재구성할 수 있는가?
• RQ2 생존 분석을 위한 연방 학습 환경에서 기울기 기반 최적화 과정에서 환자 수준의 정보가 노출되는 구체적인 메커니즘은 무엇인가?
• RQ3 모델 유효성에 영향을 주지 않으면서도 코ックス 모델 학습에 차별적 개인정보 보호를 효과적으로 적용할 수 있는가?
• RQ4 실제 의료 환경에서 적용 가능한 안전하고 개인정보 보호 기능을 갖춘 분산 학습 방법을 구현하고 검증할 수 있는가?

주요 결과

• 연구는 표준적인 분산 최적화 과정에서 기울기 역전 공격(Gradient Inversion Attack)을 통해 환자 데이터 재구성이 가능하다는 것을 입증하였다.
• 원시 데이터를 공유하지 않더라도, 모델 업데이트(기울기)에는 개인 환자 기록을 높은 정확도로 추론할 수 있는 충분한 정보가 포함되어 있다.
• 제안된 차별적(private) 최적화 방법은 데이터 재구성을 효과적으로 방지하면서도 임상적으로 의미 있는 모델 성능을 유지하였다.
• 모델은 개인정보 보호 예산(ε)을 1.0으로 설정하였고, 추정된 위험 비율의 95% 신뢰구간을 확보하여 강력한 개인정보 보호 보장을 확보하였다.
• MATLAB 구현체는 다중 대체 기법을 통해 누락된 데이터를 성공적으로 처리하였으며, 분산된 기관 간에 모델 수렴을 유지하였다.
• 모델 유효성은 유지되었으며, 위험 비율 추정치는 중심화된 기준 모델 대비 5% 이내로 유사한 성능을 보였다.