[논문 리뷰] Privacy-preserving machine learning for healthcare: open challenges and future perspectives

Alejandro Guerra-Manzanares, L. Julián Lechuga López외 2명|arXiv (Cornell University)|2023. 03. 27.

Privacy-Preserving Technologies in Data참고 문헌 74인용 수 5

한 줄 요약

이 논문은 의료 영상 및 전자 건강 기록(EHR)을 사용한 훈련 및 추론에서 피벗러닝 학습, 암호화, 차별적 프라이버시를 포함한 프라이버시 보존 기계학습(PPML)을 검토한다. 확장성, 설명 가능성, 다중 모odal 통합과 같은 주요 과제를 규명하고, 표준화된 벤치마크와 최신의 딥 러닝 아키텍처의 광범위한 도입을 통해 프라이버시 보존 임상 AI 시스템을 향상시키기 위한 필요성을 제기한다.

ABSTRACT

Machine Learning (ML) has recently shown tremendous success in modeling various healthcare prediction tasks, ranging from disease diagnosis and prognosis to patient treatment. Due to the sensitive nature of medical data, privacy must be considered along the entire ML pipeline, from model training to inference. In this paper, we conduct a review of recent literature concerning Privacy-Preserving Machine Learning (PPML) for healthcare. We primarily focus on privacy-preserving training and inference-as-a-service, and perform a comprehensive review of existing trends, identify challenges, and discuss opportunities for future research directions. The aim of this review is to guide the development of private and efficient ML models in healthcare, with the prospects of translating research efforts into real-world settings.

연구 동기 및 목표

• 2020–2023년 동안 의료 영상 및 EHR를 기반으로 한 훈련 및 추론에 초점을 맞춘 최근 PPML 기법(2020–2023)에 대한 종합적인 리뷰를 제공한다.
• 임상 적용 분야에서 프라이버시, 확장성, 모델 설명 가능성과 관련된 열린 과제를 규명한다.
• MLaaS, 다중 모달 학습, 최신 딥 러닝 모델의 통합과 같은 아직 탐색되지 않은 연구 방향을 부각시킨다.
• 실제 의료 현장에 적용 가능한 프라이버시 보존 기계학습의 지원을 위해 표준화된 벤치마크와 일반화 능력 향상을 촉구한다.
• 기계학습 연구와 임상 사이버보안 간 격차를 해소하기 위해 분야 간 협업의 중요성을 강조한다.

제안 방법

• 2020년 이후 출간된 동료 심사 논문을 대상으로 한 체계적 리뷰로, 피벗러닝 학습, 암호화, 차별적 프라이버시, 안전한 다자간 계산을 포함한 PPML 방법을 중심으로 한다.
• 진단 및 예후 과제에서 흔히 사용되는 의료 영상 및 EHR 데이터의 입력 모odal에 따라 연구를 분류한다.
• 피벗러닝 평균과 같은 방법을 활용한 모델 훈련과 인프라스러운 서비스(MLaaS)를 위한 추론에 대한 별도 분석을 수행하며, 각각의 프라이버시 및 성능 트레이드오프를 강조한다.
• 최신 딥 러닝 아키텍처(예: 트랜스포머)의 PPML 파이프라인 내 도입이 제한된 경향을 포함한 방법론적 추세 평가.
• 암호화 또는 노이즈 주입 기법 하에서의 설명 가능성 및 공정성 부족 문제를 규명한다.
• 다중 모달 학습, 자원 제약, 배포 확장성과 관련된 과제를 주제별 분석을 통해 향후 연구 방향을 제안한다.

실험 결과

연구 질문

• RQ1 2020년에서 2023년 사이에 의료 영상 및 EHR 기반 의료 응용 분야의 훈련 및 추론에 사용된 주요 PPML 기법은 무엇인가?
• RQ2 피벗러닝 학습 및 차별적 프라이버시와 같은 프라이버시 보존 방법은 임상 환경에서 모델 성능, 확장성, 설명 가능성에 어떤 영향을 미치는가?
• RQ3 실제 의료 환경에 PPML 시스템을 구현할 때의 주요 과제는 무엇인가? 특히 데이터 이질성, 모델 일반화 능력, 공정성 측면에서 설명한다.
• RQ4 최신의 딥 러닝 아키텍처(예: 트랜스포머)는 의료 분야의 PPML 파이프라인에 얼마나 통합되어 있으며, 그 도입에 있어 장애 요소는 무엇인가?
• RQ5 자원이 제한된 의료 기관을 위해 MLaaS 모델을 어떻게 설계하여 프라이버시, 효율성, 신뢰성을 확보할 수 있는가?

주요 결과

• 피벗러닝 학습은 훈련을 위한 가장 널리 채택된 PPML 접근법으로, 원시 데이터를 공유하지 않고도 협업 기반의 모델 훈련을 가능하게 하지만, 재구성 공격에 취약하다.
• 최근 PPML 연구의 소수에 불과한 연구에서 트랜스포머와 같은 고급 아키텍처가 통합되었으며, 이는 시각 및 자연어 처리 과제에서 최고의 성능을 보임에도 불구하고 그렇다.
• 암호화 및 노이즈 추가로 인해 PPML의 설명 가능성은 심각하게 저해되며, 프라이버시와 해석 가능성의 융합을 다룬 연구는 몽테네그로 등(2021)의 연구 한 편 뿐이다.
• MLaaS는 자원이 제한된 기관을 위해 프라이버시 보장된 고성능 모델에 접근 가능하게 하는 잠재력 있는 길이지만, 아직 연구가 부족한 분야이다.
• 의료 영상과 EHR 데이터를 모두 활용한 다중 모달 학습은 PPML에서 다소 간과되어 왔지만, 진단 정확도 향상과 임상 이해 강화 잠재력은 크다.
• MNIST나 CIFAR-10와 유사한 표준화된 벤치마크의 부재로 인해 의료 분야의 PPML 기법에 대한 재현성과 공정한 비교가 어렵다. 이에 따라 평가를 위한 공개 의료 데이터셋 구축이 필요하다.