[논문 리뷰] Non-Local Context Encoder: Robust Biomedical Image Segmentation against Adversarial Attacks

Xiang He, Sibei Yang외 4명|arXiv (Cornell University)|2019. 04. 27.

Adversarial Robustness in Machine Learning참고 문헌 28인용 수 4

한 줄 요약

이 논문은 전역적인 공간적 종속성과 채널별 주의를 통해 전역적 맥락 정보를 인코딩함으로써 생물의학 영상 분할에서 강건성을 향상시키는 새로운 모듈인 비국소 맥락 인코더(NLCE)를 제안한다. 비국소 맥락 인코딩 네트워크(NLCEN)에 통합된 NLCE는 적대적 공격에 대한 방어 능력을 크게 향상시키며, 폐 및 피부 병변 데이터셋에서 높은 분할 정확도를 유지한다.

ABSTRACT

Recent progress in biomedical image segmentation based on deep convolutional neural networks (CNNs) has drawn much attention. However, its vulnerability towards adversarial samples cannot be overlooked. This paper is the first one that discovers that all the CNN-based state-of-the-art biomedical image segmentation models are sensitive to adversarial perturbations. This limits the deployment of these methods in safety-critical biomedical fields. In this paper, we discover that global spatial dependencies and global contextual information in a biomedical image can be exploited to defend against adversarial attacks. To this end, non-local context encoder (NLCE) is proposed to model short- and long range spatial dependencies and encode global contexts for strengthening feature activations by channel-wise attention. The NLCE modules enhance the robustness and accuracy of the non-local context encoding network (NLCEN), which learns robust enhanced pyramid feature representations with NLCE modules, and then integrates the information across different levels. Experiments on both lung and skin lesion segmentation datasets have demonstrated that NLCEN outperforms any other state-of-the-art biomedical image segmentation methods against adversarial attacks. In addition, NLCE modules can be applied to improve the robustness of other CNN-based biomedical image segmentation methods.

연구 동기 및 목표

• 최신의 CNN 기반 생물의학 영상 분할 모델이 적대적 공격에 취약함을 해결하기 위해.
• 전역적인 공간적 종속성과 전역적 맥락 정보가 모델의 강건성 향상에 기여할 수 있는지 조사하기 위해.
• 모델을 다시 처음부터 재학습할 필요 없이 통합 가능한 일반적인 모듈을 설계하기 위해.
• 다양한 생물의학 영상 분할 아키텍처와 데이터셋에서 제안된 모듈의 효과를 검증하기 위해.

제안 방법

• 모든 공간 위치에서 가중치가 부여된 반응을 계산하여 장거리 공간적 종속성을 모델링하기 위해 비국소 맥락 인코더(NLCE) 모듈을 제안한다.
• 채널별 특징 맵 주의를 통합하여 인코딩된 전역 맥락을 사용해 특징 활성화를 강화한다.
• 피라미드 특징 학습 프레임워크 내에 NLCE 모듈을 스택하여 비국소 맥락 인코딩 네트워크(NLCEN)를 구축한다.
• 다양한 편향 강도(ε = 16, 32)를 가진 반복적 FGSM 기반 적대적 공격을 사용하여 강건성 평가를 수행한다.
• 생성된 적대적 샘플을 사용한 적대적 훈련을 통해 일반화 능력을 향상시키며, 동시에 NLCE의 모델 간 이식성도 테스트한다.
• NLCE, 전역 종속성, 전역 맥락 구성 요소를 제거함으로써 개별 및 병합 기여도를 검증하기 위해 분석 연구를 수행한다.

실험 결과

연구 질문

• RQ1 전역적인 공간적 종속성과 전역적 맥락 정보는 생물의학 영상 분할에서 적대적 공격에 대한 강건성을 향상시킬 수 있는가?
• RQ2 NLCE 모듈은 기존의 CNN 기반 분할 모델에 강건성을 향상시키기 위한 일반적이고 플러그인 방식의 구성 요소로 효과적인가?
• RQ3 다양한 편향 강도를 가진 강력한 적대적 공격 하에서 NLCE 모듈은 최신 기술 모델과 비교해 어떻게 성능을 내는가?
• RQ4 전역적인 공간적 종속성과 전역 맥락 인코딩 중 어느 것이 적대적 강건성에 더 큰 기여를 하는가?
• RQ5 NLCE는 생물의학 영상 분할 벤치마크에서 정상 정확도를 손상시키지 않고 강건성을 향상시킬 수 있는가?

주요 결과

• 테스트된 최신 기술의 CNN 기반 생물의학 영상 분할 모델은 모두 FGSM 공격에 취약하며, 성능 저하가 심각하게 발생한다.
• 제안된 NLCEN 모델은 JSRT(폐) 및 ISBI 2016(피부 병변) 데이터셋에서 모든 기준 모델보다 높은 강건성을 확보하며, 적대적 공격 하에서도 뛰어난 성능을 보였다.
• JSRT 데이터셋에서 NLCEN은 ε = 32 FGSM 공격 조건에서도 높은 성능을 유지하며 정확도 저하가 최소화되어 강력한 방어 능력을 입증했다.
• 분석 연구 결과, 전역적인 공간적 종속성과 전역 맥락 인코딩이 모두 필요하며 상호 보완적인 관계에 있으며, 전체 NLCE 모듈이 가장 뛰어난 강건성을 제공함을 확인했다.
• NLCE 모듈을 추가함으로써 SLSDeep, NWCN, UNet, InvertNet, CDNN 등의 다른 모델들에서도 강건성이 크게 향상되었으며, JSRT에서 더 높은 Dice(DIC) 및 Jaccard 유사도(JSC) 점수로 확인되었다.
• 레이어 동결 없이 전체 NLCEN 모델을 미세조정함으로써 정확도와 강건성이 더욱 향상되었으며, 최적화 가능성이 여전히 남아 있음을 시사했다.