[논문 리뷰] Survey on Adversarial Attack and Defense for Medical Image Analysis: Methods and Challenges

Junhao Dong, Junxi Chen외 3명|arXiv (Cornell University)|2023. 03. 24.

Adversarial Robustness in Machine Learning인용 수 14

한 줄 요약

본 논문은 의료 영상 분석에서의 적대적 공격과 방어에 대한 포괄적 조사를 제공하고, 응용 시나리오별 분류 체계, 통일된 이론적 프레임워크, 그리고 적대적으로 강건한 의료 진단 모델을 위한 벤치마크를 제시한다.

ABSTRACT

Deep learning techniques have achieved superior performance in computer-aided medical image analysis, yet they are still vulnerable to imperceptible adversarial attacks, resulting in potential misdiagnosis in clinical practice. Oppositely, recent years have also witnessed remarkable progress in defense against these tailored adversarial examples in deep medical diagnosis systems. In this exposition, we present a comprehensive survey on recent advances in adversarial attacks and defenses for medical image analysis with a systematic taxonomy in terms of the application scenario. We also provide a unified framework for different types of adversarial attack and defense methods in the context of medical image analysis. For a fair comparison, we establish a new benchmark for adversarially robust medical diagnosis models obtained by adversarial training under various scenarios. To the best of our knowledge, this is the first survey paper that provides a thorough evaluation of adversarially robust medical diagnosis models. By analyzing qualitative and quantitative results, we conclude this survey with a detailed discussion of current challenges for adversarial attack and defense in medical image analysis systems to shed light on future research directions. Code is available on \href{https://github.com/tomvii/Adv_MIA}{\color{red}{GitHub}}.

연구 동기 및 목표

• 의료 영상 분석에서의 다양한 과제(분류, 분할, 탐지)에 걸친 적대적 공격과 방어의 최근 발전을 검토한다.
• 공정한 비교를 가능하게 하기 위해 응용 시나리오를 기반으로 한 공격/방어 방법의 분류 체계를 제안한다.
• 의료용 적대적 공격과 방어를 위한 통합된 이론적 프레임워크를 확립한다.
• 다양한 시나리오에서 적대적으로 강건한 의료 진단 모델에 대한 벤치마크 평가를 제공한다.
• 현재의 도전과제를 논의하고 이 분야의 향후 연구 방향을 제시한다.

제안 방법

• 정의와 위협 모델을 포함한 의료용 적대적 공격과 방어에 대한 공식적 프레임워크를 제시한다.
• 공격 시나리오의 분류 체계를 구성한다(화이트박스, 세미-화이트박스/그레이박스, 블랙박스, 제한적 블랙박스/노박스).
• 의료 과제(분류, 분할, 탐지, 재구성) 및 모달리티 전반에 걸친 기존 공격 방법을 검토하고 분류한다.
• 적대적 학습, 전처리, 적대적 탐지 등을 포함한 방어 전략을 이론적 형식과 함께 검토한다.
• 다양한 시나리오에서 적대적으로 강건한 진단 모델을 평가하기 위한 벤치마크를 확립한다.
• 한정적/정성적 및 정량적 결과를 분석하여 한계와 도전과제를 논의한다.

실험 결과

연구 질문

• RQ1 다양한 의료 영상 과제와 모달리티에 대해 효과적인 적대적 공격 방법과 방어 전략은 무엇인가?
• RQ2 의료 영상 분석에서 서로 다른 공격/방어 접근 방식을 체계적으로 분류하고 통합할 수 있는 방법은?
• RQ3 시나리오 간에 의료 진단 모델의 적대적 강건성을 비교하기 위한 공정하고 통일된 벤치마크를 확립할 수 있는가?
• RQ4 의료 영상 분석 시스템을 적대적 위협으로부터 보호하는 데 있어 주요 도전과제와 향후 방향은 무엇인가?

주요 결과

• 본 논문은 응용 시나리오를 기반으로 한 의료용 적대적 공격과 방어의 새로운 분류 체계를 제시한다.
• 의료 영상에서 다양한 공격 및 방어 접근 방식에 대한 통합 이론적 프레임워크를 제공한다.
• 다양한 시나리오에서 적대적으로 강건한 의료 진단 모델의 벤치마크를 확립한다.
• 본 조사는 공격과 방어에 대한 체계적 분석을 수행하며 현 분야의 도전과제를 확인한다.
• 의료 영상 분석 시스템의 강건성과 신뢰성을 향상시키기 위한 향후 연구 방향을 논의한다.