[논문 리뷰] Privacy-preserving medical image analysis

Alexander Ziller, Jonathan Passerat‐Palmbach외 9명|arXiv (Cornell University)|2020. 12. 10.

Privacy-Preserving Technologies in Data참고 문헌 17인용 수 7

한 줄 요약

이 논문은 보안 피어드 학습과 엔드 투 엔드 암호화된 추론을 활용한 프라이버시 보장 의료 영상 분석을 위한 무료이고 오픈소스 프레임워크인 PriMIA를 제안한다. 이 프레임워크는 환자 데이터와 모델 무결성을 보호하기 위해 보안 다자간 계산과 기울기 기반 역공학 공격에 저항함과 동시에, 소아 흉부 X선 영상 분류에서 인간 전문가를 능가하는 우수한 분류 성능을 보여준다.

ABSTRACT

The utilisation of artificial intelligence in medicine and healthcare has led to successful clinical applications in several domains. The conflict between data usage and privacy protection requirements in such systems must be resolved for optimal results as well as ethical and legal compliance. This calls for innovative solutions such as privacy-preserving machine learning (PPML). We present PriMIA (Privacy-preserving Medical Image Analysis), a software framework designed for PPML in medical imaging. In a real-life case study we demonstrate significantly better classification performance of a securely aggregated federated learning model compared to human experts on unseen datasets. Furthermore, we show an inference-as-a-service scenario for end-to-end encrypted diagnosis, where neither the data nor the model are revealed. Lastly, we empirically evaluate the framework's security against a gradient-based model inversion attack and demonstrate that no usable information can be recovered from the model.

연구 동기 및 목표

• 인공지능 기반 진단에서 대규모 의료 데이터 활용과 환자 프라이버시 간의 갈등을 해결하기 위해.
• 의료 영상에서 프라이버시 보장 기계학습을 위한 안전하고 확장 가능하며 임상적으로 관련성이 있는 프레임워크를 개발하기 위해.
• 원시 환자 데이터를 공유하지 않고 기관 간에 연합 학습을 가능하게 하여 윤리적 및 법적 기준을 준수하기 위해.
• 엔드 투 엔드 암호화된 추론 서비스를 제공하여 데이터와 모델 기밀성을 모두 보호하기 위해.
• 기울기 기반 모델 역공학 공격에 대한 프레임워크의 보안성을 경험적으로 검증하기 위해.

제안 방법

• 분산 학습 및 추론을 위한 명령줄 인터페이스를 제공하는 방식으로, PySyft/PyGrid를 의료 영상 워크로드를 지원하도록 확장하였다.
• 연합 노드 간의 모델 업데이트를 안전하게 집계하기 위해 보안 다자간 계산(SMPC)을 구현하였다.
• 로컬 데이터셋 크기 기반 가중치를 적용한 연합 평균화를 구현하고, 과적합을 방지하기 위해 로컬 조기 정지 기능을 제공하였다.
• 함수 비밀 공유를 활용하여 엔드 투 엔드 암호화된 추론을 실현하였으며, 이는 데이터나 모델이 평문으로 노출되지 않도록 하였다.
• 모델 일반화를 향상시키기 위해 사이트 간 데이터셋 통계(평균 및 표준편차)의 보안 집계를 도입하였다.
• 데이터 복원 공격, 특히 기울기 기반 역공학 공격에 대비하기 위해 고급 암호 프로토콜을 적용하였다.

실험 결과

연구 질문

• RQ1 프라이버시 보장 연합 학습 프레임워크가 미리 보지 않은 소아 흉부 X선 영상에서 인간 전문가보다 더 뛰어난 진단 성능을 달성할 수 있는가?
• RQ2 모델 기울기에서 입력 데이터를 복원하려는 시도를 하는 기울기 기반 모델 역공학 공격에 대해 프레임워크는 얼마나 효과적으로 저항하는가?
• RQ3 보안 집계가 의료 영상의 연합 학습 환경에서 모델 업데이트의 보안성을 얼마나 향상시키는가?
• RQ4 성능에 영향을 주지 않으면서 임상 진단을 위한 엔드 투 엔드 암호화된 추론을 효율적으로 구현할 수 있는가?
• RQ5 다양한 네트워크 조건에서 상태 기반 보안 추론 프로토콜 대비 프레임워크의 추론 지연 시간은 어떻게 비교되는가?

주요 결과

• 보안 집계된 연합 학습 모델은 두 개의 독립 테스트 세트에서 인간 전문가를 능가하였으며, 테스트 세트 1에서 Matthews 상관계수(MCC)는 0.62, 테스트 세트 2에서는 0.58를 기록하였다.
• 테스트 세트 1에서 모델은 ROC-AUC가 0.85(클래스 가중 평균)를 기록하였으며, 맥너머 테스트에서 인간 독자보다 유의미하게 뛰어났다(p < 0.05).
• 프레임워크는 기울기 기반 모델 역공학 공격에 강력한 저항성을 보였으며, 보안 모델의 평균 제곱 오차(MSE)는 3.22 ± 1.41, FID는 2651 ± 1293이었고, 비보안 모델 및 국지적 학습 모델보다 유의미하게 높았다(p < 0.001, ANOVA 및 t-검정 모두).
• 10ms 네트워크 지연에서 SecureNN 대비 평균 35%의 지연 감소를 기록하였고, 100ms 지연에서는 47% 감소하였으며, 통계적으로 유의미했다(p < 0.001).
• 보안 집계 메커니즘이 모델 기울기에서 유의미한 환자 데이터 복원을 방지하여, 프레임워크의 데이터 泄露에 대한 저항력이 확인되었다.
• 프레임워크는 원시 데이터나 모델 가중치를 노출하지 않고도 모델 학습과 추론을 성공적으로 수행하여, 실제 임상 환경에서 엔드 투 엔드 프라이버시 보장을 이행하였다.