[논문 리뷰] Privacy-Preserving and Trustworthy Deep Learning for Medical Imaging

Kiarash Sedghighadikolaei, Attila A. Yavuz|arXiv (Cornell University)|2024. 06. 29.

Artificial Intelligence in Healthcare and EducationMedicine인용 수 3

한 줄 요약

이 논문은 의료 영상에서의 개인정보 보호성과 신뢰성 확보를 위해 개인정보 보호 기술(PETs)을 딥 레디오믹스에 체계적으로 통합하는 프레임워크를 제안한다. PETs를 분류하고 하이브리드 PET 구성 방식을 제안하며, 딥 레디오믹스 파이프라인 전반에 걸친 통합을 위한 분류 체계를 제공하며, 도전 과제와 향후 연구 방향에 대한 기술적 통찰을 포함한다.

ABSTRACT

The shift towards efficient and automated data analysis through Machine Learning (ML) has notably impacted healthcare systems, particularly Radiomics. Radiomics leverages ML to analyze medical images accurately and efficiently for precision medicine. Current methods rely on Deep Learning (DL) to improve performance and accuracy (Deep Radiomics). Given the sensitivity of medical images, ensuring privacy throughout the Deep Radiomics pipeline-from data generation and collection to model training and inference-is essential, especially when outsourced. Thus, Privacy-Enhancing Technologies (PETs) are crucial tools for Deep Radiomics. Previous studies and systematization efforts have either broadly overviewed PETs and their applications or mainly focused on subsets of PETs for ML algorithms. In Deep Radiomics, where efficiency, accuracy, and privacy are crucial, many PETs, while theoretically applicable, may not be practical without specialized optimizations or hybrid designs. Additionally, not all DL models are suitable for Radiomics. Consequently, there is a need for specialized studies that investigate and systematize the effective and practical integration of PETs into the Deep Radiomics pipeline. This work addresses this research gap by (1) classifying existing PETs, presenting practical hybrid PETS constructions, and a taxonomy illustrating their potential integration with the Deep Radiomics pipeline, with comparative analyses detailing assumptions, architectural suitability, and security, (2) Offering technical insights, describing potential challenges and means of combining PETs into the Deep Radiomics pipeline, including integration strategies, subtilities, and potential challenges, (3) Proposing potential research directions, identifying challenges, and suggesting solutions to enhance the PETs in Deep Radiomics.

연구 동기 및 목표

• 딥 레디오믹스에 대한 개인정보 보호 기술(PETs)의 실용적 통합에 관한 전문 연구 부족을 보완한다.
• 기존 PETs를 체계화하고 딥 레디오믹스 파이프라인에 맞춘 하이브리드 구성 방식을 제안한다.
• 가정 조건, 아키텍처 적합성, 보안 성질을 기반으로 PETs의 비교 분석을 제공한다.
• PETs를 의료 영상 워크플로우에 통합할 때의 도전 과제와 통합 전략에 대한 기술적 통찰을 제공한다.
• 딥 레디오믹스에서 PETs의 실용성을 향상시키기 위한 열린 과제와 향후 연구 방향을 규명한다.

제안 방법

• 딥 레디오믹스에 관련된 기존 PETs를 분류하고 분류하며, 동형 암호화, 보안 다자간 계산, 차별적 개인정보 보호 등을 포함한다.
• 다양한 개인정보 기술을 조합하여 효율성과 보안성을 향상시킨 실용적 하이브리드 PET 구성 방식을 제안한다.
• 딥 레디오믹스 파이프라인 단계(데이터 수집, 모델 훈련, 추론, 배포)에 PETs를 매핑하는 분류 체계를 개발한다.
• 각 PET 유형이 파이프라인의 다양한 단계에서 아키텍처 적합성, 위협 모델 가정 조건, 보안 보장을 분석한다.
• 효율적이고 개인정보 보호 기능을 갖춘 훈련을 위해 PETs를 컨volutional 신경망(CNNs)과 확률적 경사 하강법(SGD)에 통합한다.
• 차별적 개인정보 보호(DP)를 기울기, 입력, 레이블 수준에 적용할 수 있는 가능성을 평가하며, 특히 연합 학습 및 중앙집중형 환경에서의 적용을 중심으로 분석한다.

Figure 1 : Taxonomy, Pros, and Cons of Essential PETs with their Prominent Hybrid Compositions for Deep Radiomics

실험 결과

연구 질문

• RQ1 딥 레디오믹스 파이프라인의 각 단계에 가장 적합한 PETs는 무엇이며, 어떻게 효과적으로 조합할 수 있는가?
• RQ2 하이브리드 PET 아키텍처는 딥 레디오믹스에서 개인정보 보호, 정확도, 계산 효율성 간의 균형을 어떻게 향상시킬 수 있는가?
• RQ3 비볼록 딥 러닝 모델(예: CNNs)을 대상으로 PETs, 특히 차별적 개인정보 보호를 적용할 때의 주요 과제는 무엇인가?
• RQ4 어떻게 PETs를 연합 학습과 중앙집중형 훈련에 통합하여 구성원 추론 공격 및 모델 추출 공격으로부터 보호할 수 있는가?
• RQ5 신뢰성 있고 개인정보 보호 기능을 갖춘 딥 러닝을 레디오믹스에 구현하기 위한 핵심 열린 과제와 향후 연구 방향은 무엇인가?

주요 결과

• SGD에서 기울기에 차별적 개인정보 보호(DP)를 적용하면 구성원 추론 공격(MIAs)과 모델 추출 공격(MEAs)의 성공률이 크게 감소한다.
• 중앙집중형 DP(CDP)와 로컬 DP(LDP)는 각각 다른 개인정보 보호성과 정확도의 상충 관계를 보이며, 중앙 집중형 수신기가 신뢰할 수 있을 경우 CDP가 더 효과적이다.
• MPC와 DP를 조합한 하이브리드 PET 구성 방식은 소음 누적 문제를 완화하면서도 보안성을 향상시킬 수 있다.
• 입력 데이터나 모델 출력에 DP를 적용하는 것은 비볼록 모델에서 기울기 수준의 DP에 비해 효과가 떨어지며, 이는 닫힌 형태의 감도 분석 부재 때문이다.
• 목적 함수 페르터베이션은 PPML에서는 유망한 기법으로 여겨지지만, CNN 손실 함수의 비볼록 성질로 인해 레디오믹스에서는 여전히 도전 과제로 남아 있다.
• 딥 레디오믹스 파이프라인에 PETs를 통합하기 위해서는 개인정보 보호성, 모델 정확도, 계산 오버헤드 간의 균형을 고려한 철저한 아키텍처 설계가 필요하다.

Figure 2 : Integration of PETs with Deep Radiomics Pipeline.