[论文解读] Survey on Adversarial Attack and Defense for Medical Image Analysis: Methods and Challenges

Junhao Dong, Junxi Chen+3 more|arXiv (Cornell University)|Mar 24, 2023

Adversarial Robustness in Machine Learning被引用 14

一句话总结

本论文提供了对医疗影像分析中对抗攻击与防御的全面综述，提出按应用场景的分类法、统一的理论框架，以及对对抗鲁棒的医疗诊断模型的基准测试。

ABSTRACT

Deep learning techniques have achieved superior performance in computer-aided medical image analysis, yet they are still vulnerable to imperceptible adversarial attacks, resulting in potential misdiagnosis in clinical practice. Oppositely, recent years have also witnessed remarkable progress in defense against these tailored adversarial examples in deep medical diagnosis systems. In this exposition, we present a comprehensive survey on recent advances in adversarial attacks and defenses for medical image analysis with a systematic taxonomy in terms of the application scenario. We also provide a unified framework for different types of adversarial attack and defense methods in the context of medical image analysis. For a fair comparison, we establish a new benchmark for adversarially robust medical diagnosis models obtained by adversarial training under various scenarios. To the best of our knowledge, this is the first survey paper that provides a thorough evaluation of adversarially robust medical diagnosis models. By analyzing qualitative and quantitative results, we conclude this survey with a detailed discussion of current challenges for adversarial attack and defense in medical image analysis systems to shed light on future research directions. Code is available on \href{https://github.com/tomvii/Adv_MIA}{\color{red}{GitHub}}.

研究动机与目标

• 在分类、分割、检测等任务中综述医疗影像分析领域对抗攻击与防御的最新进展。
• 基于应用场景提出攻击/防御方法的分类法，以实现公平比较。
• 建立医疗对抗攻击与防御的统一理论框架。
• 在不同场景下提供对抗鲁棒医疗诊断模型的基准评估。
• 讨论当前挑战并概述本领域的未来研究方向。

提出的方法

• 给出医疗对抗攻击与防御的形式化框架，包括定义和威胁模型。
• 构建攻击场景的分类法（白盒、半白盒/灰盒、黑盒、受限黑盒/无盒）。
• 评述并对现有攻击方法在医疗任务（分类、分割、检测、重建）与模态上的应用进行分类。
• 评审包括对抗性训练、预处理和对抗检测在内的防御策略，并给出理论公式。
• 建立在不同场景下评估对抗鲁棒诊断模型的基准。
• 分析定性与定量结果，以讨论局限性和挑战。

实验结果

研究问题

• RQ1 在各种医学影像任务与模态下，哪些对抗攻击方法与防御策略是有效的？
• RQ2 我们如何系统地对医疗图像分析中的不同攻击/防御方法进行分类并统一？
• RQ3 是否可以建立一个公平、统一的基准，在不同场景下比较医学诊断模型的对抗鲁棒性？
• RQ4 在为医疗影像分析系统对抗对抗性威胁方面，主要挑战和未来方向是什么。

主要发现

• 本文基于应用场景提供了关于医疗对抗攻击与防御的新颖分类法。
• 它为医疗影像中不同攻击与防御方法提供了统一的理论框架。
• 在各种情景下建立了对抗鲁棒的医疗诊断模型基准。
• 综述对攻击与防御进行了系统分析，指出了该领域的当前挑战。
• 它讨论了为提高医疗影像分析系统的鲁棒性和可靠性而需要的未来研究方向。