[論文レビュー] Non-Local Context Encoder: Robust Biomedical Image Segmentation against Adversarial Attacks

Xiang He, Sibei Yang+4 more|arXiv (Cornell University)|Apr 27, 2019

Adversarial Robustness in Machine Learning参考文献 28被引用数 4

ひとこと要約

本稿では、チャネルワイドなアテンションを用いてグローバルな空間的依存関係とグローバルな文脈情報を符号化することで、生体医療画像セグメンテーションにおけるロバスト性を向上させる、非局所的文脈符号化モジュール（NLCE）を提案する。NLCEを統合した非局所的文脈符号化ネットワーク（NLCEN）は、肺および皮膚腫瘍画像データセットにおいて、高いセグメンテーション精度を維持しながら、敵対的攻撃に対する防御性能を顕著に向上させる。

ABSTRACT

Recent progress in biomedical image segmentation based on deep convolutional neural networks (CNNs) has drawn much attention. However, its vulnerability towards adversarial samples cannot be overlooked. This paper is the first one that discovers that all the CNN-based state-of-the-art biomedical image segmentation models are sensitive to adversarial perturbations. This limits the deployment of these methods in safety-critical biomedical fields. In this paper, we discover that global spatial dependencies and global contextual information in a biomedical image can be exploited to defend against adversarial attacks. To this end, non-local context encoder (NLCE) is proposed to model short- and long range spatial dependencies and encode global contexts for strengthening feature activations by channel-wise attention. The NLCE modules enhance the robustness and accuracy of the non-local context encoding network (NLCEN), which learns robust enhanced pyramid feature representations with NLCE modules, and then integrates the information across different levels. Experiments on both lung and skin lesion segmentation datasets have demonstrated that NLCEN outperforms any other state-of-the-art biomedical image segmentation methods against adversarial attacks. In addition, NLCE modules can be applied to improve the robustness of other CNN-based biomedical image segmentation methods.

研究の動機と目的

• 最先端のCNNベースの生体医療画像セグメンテーションモデルが敵対的攻撃に対して脆弱であるという問題に取り組む。
• グローバルな空間的依存関係とグローバルな文脈情報がモデルのロバスト性を向上させうるかどうかを調査する。
• モデルを再訓練から始めずに、汎用的かつ統合可能なモジュールとしてのロバスト性向上を図る。
• 提案されたモジュールが多様な生体医療画像セグメンテーションアーキテクチャおよびデータセットにおいて有効であることを検証する。

提案手法

• すべての空間的位置をカバーする重み付き応答を計算することで、長距離の空間的依存関係をモデル化する非局所的文脈符号化モジュール（NLCE）を提案する。
• チャネルワイドな特徴マップアテンションを統合し、符号化されたグローバルな文脈を用いて特徴活性化を強化する。
• ピラミッド特徴学習フレームワーク内にNLCEモジュールをスタックすることで、非局所的文脈符号化ネットワーク（NLCEN）を構築する。
• 異なる摂動強度（ε = 16, 32）を持つ反復的FGSMベースの敵対的攻撃を用いて、ロバスト性を評価する。
• 生成された敵対的サンプルを用いた敵対的訓練により一般化性能を向上させるとともに、NLCEのモデル間での転送性をテストする。
• NLCE、グローバル依存関係、グローバル文脈符号化の各コンponentを削除することで、アブレーションスタディを実施し、それらの個別および相乗的寄与を検証する。

実験結果

リサーチクエスチョン

• RQ1 グローバルな空間的依存関係とグローバルな文脈情報は、生体医療画像セグメンテーションにおける敵対的攻撃に対するロバスト性を向上させうるか？
• RQ2 NLCEモジュールは、既存のCNNベースのセグメンテーションモデルにおけるロバスト性向上のための汎用的かつプラグイン型のコンponentとして有効であるか？
• RQ3 異なる摂動強度を持つ強い敵対的攻撃下で、NLCEモジュールは最先端のモデルと比較してどのように性能を発揮するか？
• RQ4 グローバルな空間的依存関係とグローバルな文脈符号化の両者が、敵対的ロバスト性に果たす相対的寄与は何か？
• RQ5 NLCEは、生体医療画像セグメンテーションベンチマークにおけるクリーンな精度を損なうことなく、ロバスト性を向上させうるか？

主な発見

• テストされたすべての最先端のCNNベースの生体医療画像セグメンテーションモデルが、FGSM攻撃に対して脆弱であり、顕著な性能低下を示した。
• 提案されたNLCENモデルは、JSRT（肺）およびISBI 2016（皮膚腫瘍）データセットの両方で、敵対的攻撃下でも最高のロバスト性を達成し、すべてのベースラインを上回った。
• JSRTデータセットでは、ε = 32のFGSM攻撃下でもNLCENが高い性能を維持し、精度の低下が最小限に抑えられ、強力な防御能力を示した。
• アブレーションスタディの結果、グローバルな空間的依存関係とグローバルな文脈符号化の両方が必要不可欠であり、相補的であることが確認され、完全なNLCEモジュールが最良のロバスト性をもたらした。
• NLCEモジュールを追加することで、SLSDeep、NWCN、UNet、InvertNet、CDNNなどの他のモデルのロバスト性が顕著に向上し、JSRTデータセットにおけるDice（DIC）およびJaccard Similarity（JSC）スコアの上昇が確認された。
• レイヤーのフリーズなしで完全なNLCENモデルを微調整することで、精度およびロバスト性がさらに向上した。これは最適化の余地があることを示唆している。