[論文レビュー] Survey on Adversarial Attack and Defense for Medical Image Analysis: Methods and Challenges

Junhao Dong, Junxi Chen+3 more|arXiv (Cornell University)|Mar 24, 2023

Adversarial Robustness in Machine Learning被引用数 14

ひとこと要約

この論文は医用画像分析における敵対的攻撃と防御の包括的な調査を提供し、適用シナリオによる分類法を導入し、統一理論的枠組みを提示し、敵対的に堅牢な医療診断モデルのベンチマークを提案する。

ABSTRACT

Deep learning techniques have achieved superior performance in computer-aided medical image analysis, yet they are still vulnerable to imperceptible adversarial attacks, resulting in potential misdiagnosis in clinical practice. Oppositely, recent years have also witnessed remarkable progress in defense against these tailored adversarial examples in deep medical diagnosis systems. In this exposition, we present a comprehensive survey on recent advances in adversarial attacks and defenses for medical image analysis with a systematic taxonomy in terms of the application scenario. We also provide a unified framework for different types of adversarial attack and defense methods in the context of medical image analysis. For a fair comparison, we establish a new benchmark for adversarially robust medical diagnosis models obtained by adversarial training under various scenarios. To the best of our knowledge, this is the first survey paper that provides a thorough evaluation of adversarially robust medical diagnosis models. By analyzing qualitative and quantitative results, we conclude this survey with a detailed discussion of current challenges for adversarial attack and defense in medical image analysis systems to shed light on future research directions. Code is available on \href{https://github.com/tomvii/Adv_MIA}{\color{red}{GitHub}}.

研究の動機と目的

• 医用画像分析における分類、セグメンテーション、検出などのタスクにおける敵対的攻撃と防御の最近の進展をレビューする。
• 適用シナリオに基づく攻撃/防御手法の分類法を提案し、公平な比較を可能にする。
• 医療向け敵対的攻撃と防御の統一的理論フレームワークを確立する。
• さまざまなシナリオ下で敵対的に堅牢な医療診断モデルのベンチマーク評価を提供する。
• この分野の現状の課題を議論し、今後の研究方向を概説する。

提案手法

• 定義と脅威モデルを含む医療向け敵対的攻撃と防御の形式的フレームワークを提示する。
• ホワイトボックス、セミホワイトボックス/グレイボックス、ブラックボックス、制限付きブラックボックス/ノーBOXなどの攻撃シナリオの分類法を構築する。
• 医用タスク（分類、セグメンテーション、検出、再構成）とモダリティにわたる既存の攻撃手法をレビューし、分類する。
• 敵対的訓練、前処理、敵対的検出を含む防御戦略を理論的な定式化とともにレビューする。
• さまざまなシナリオ下で敵対的に堅牢な診断モデルを評価するベンチマークを確立する。
• 定性的・定量的な結果を分析し、限界と課題を議論する。

実験結果

リサーチクエスチョン

• RQ1 さまざまな医用画像タスクとモダリティに対して効果的な敵対的攻撃手法と防御戦略は何か？
• RQ2 医用画像分析における異なる攻撃/防御アプローチを体系的に分類し統一できるか？
• RQ3 公正で統一されたベンチマークを確立して、シナリオ間で医療診断モデルの敵対的堅牢性を比較できるか？
• RQ4 医用画像分析システムを敵対的脅威から守る上での主な課題と今後の方向性は何か？

主な発見

• 本論文は適用シナリオに基づく医療向け敵対的攻撃と防御の新規分類法を提供する。
• 医用画像におけるさまざまな攻撃と防御アプローチの統一理論フレームワークを提供する。
• さまざまなシナリオ下で敵対的に堅牢な医療診断モデルのベンチマークを確立する。
• 本調査は攻撃と防御の体系的分析を行い、現在の課題を特定する。
• 堅牢性と信頼性を向上させるための今後の研究方向について議論する。