[논문 리뷰] Out of Distribution Detection and Adversarial Attacks on Deep Neural Networks for Robust Medical Image Analysis

Anisie Uwimana, Ransalu Senanayake|arXiv (Cornell University)|2021. 07. 10.

COVID-19 diagnosis using AI인용 수 9

한 줄 요약

이 논문은 마alaria 세포 분류를 위한 의료 영상 분석에서의 강건성 향상을 위해 마할라노비스 거리 기반 신뢰도 점수를 제안한다. 중간 네트워크 레이어의 특징 활성화를 활용하고, 각 클래스의 평균과의 마할라노비스 거리를 계산함으로써, ResNet-18 및 VGG-19 모델에서 이상치(Out-of-Distribution, OOD) 및 적대적 샘플을 탐지하는 데 있어 최신 기술(SOTA) 수준의 성능을 달성한다. 다양한 지표에서 ODIN 및 LID 기반 모델을 모두 능가한다.

ABSTRACT

Deep learning models have become a popular choice for medical image analysis. However, the poor generalization performance of deep learning models limits them from being deployed in the real world as robustness is critical for medical applications. For instance, the state-of-the-art Convolutional Neural Networks (CNNs) fail to detect adversarial samples or samples drawn statistically far away from the training distribution. In this work, we experimentally evaluate the robustness of a Mahalanobis distance-based confidence score, a simple yet effective method for detecting abnormal input samples, in classifying malaria parasitized cells and uninfected cells. Results indicated that the Mahalanobis confidence score detector exhibits improved performance and robustness of deep learning models, and achieves stateof-the-art performance on both out-of-distribution (OOD) and adversarial samples.

연구 동기 및 목표

• 외부 분포(Out-of-Distribution, OOD) 및 적대적 샘플과 같은 비정상 입력을 탐지함으로써 의료 영상 분석에서 딥 네트워크의 강건성을 향상시키는 것.
• 실제 의료 응용 분야에서 분포 이탈 및 적대적 공격으로 인해 예측이 신뢰할 수 없어지는 딥 러닝 모델의 핵심 한계를 해결하는 것.
• 제안된 마할라노비스 신뢰도 점수가 마alaria 세포 데이터셋에서 OOD 및 적대적 샘플을 탐지하는 데 있어 최신 기술(ODIN 및 LID)과의 성능을 평가하고 비교하는 것.
• 임상 환경에서의 배포 안전성을 향상시키기 위해 모델의 취약점을 식별하고 신뢰할 수 있는 진단 프레임워크를 제공하는 것.

제안 방법

• 이 방법은 사전 훈련된 CNN의 특정 중간 레이어에서 테스트 샘플의 특징 활성화와 각 클래스의 평균 활성화 사이의 마할라노비스 거리를 계산한다.
• 각 레이어에서 마할라노비스 점수는 $ M_l( ilde{ extbf{x}}_*) = - (f( ilde{ extbf{x}}_*) - m{ ilde{oldsymbol{ u}}}_c)^T m{ ilde{oldsymbol{ u}}}_c^{-1} (f( ilde{ extbf{x}}_*) - m{ ilde{oldsymbol{ u}}}_c) $ 로 계산되며, 여기서 $ f( ilde{ extbf{x}}_*) $ 는 특징 벡터이고 $ m{ ilde{oldsymbol{ u}}}_c $ 는 클래스 평균이다.
• 최종 신뢰도 점수는 레이어 간 가중치 합으로 계산되며, $ M^*( extbf{x}_*) = igsum_{l=1}^{L} m{ ilde{oldsymbol{ u}}}_l M_l( extbf{x}_*) $ 이다. 레이어 가중치 $ m{ ilde{oldsymbol{ u}}}_l $ 는 검증 세트에서 학습된다.
• 임계값 $ ho $ 가 사용되어 $ M^*( extbf{x}_*) /geq \rho $ 인 경우 입력을 내재 분포(In-Distribution)로 분류함으로써 OOD 및 적대적 샘플 탐지가 가능하다.
• 적대적 샘플은 FGSM, BIM, DeepFool 및 CW 공격을 사용하여 다양한 노이즈 수준 $ m{ ilde{oldsymbol{ u}}}_* $ 을 가진 채로 생성된다.
• 이 방법은 마alaria 세포 데이터셋(기생충 감염된 세포 13,779개 및 비감염 세포 13,779개)에 대해 미세조정된 ResNet-18 및 VGG-19 모델에서 평가된다.

실험 결과

연구 질문

• RQ1 마할라노비스 거리 기반 신뢰도 점수가 의료 영상 분류에서 이상치(Out-of-Distribution, OOD) 샘플을 효과적으로 탐지할 수 있는가?
• RQ2 다양한 공격 유형에 의해 생성된 적대적 샘플을 탐지하는 데 있어 제안된 방법이 ODIN 및 LID와 같은 최신 기술과 비교해 어떻게 성능을 내는가?
• RQ3 마할라노비스 기반 탐지 프레임워크는 실제 의료 영상 응용 시나리오에서 사전 훈련된 CNN(ResNet-18 및 VGG-19)의 강건성을 향상시키는가?
• RQ4 이 방법은 FGSM, BIM, DeepFool, CW와 같은 다양한 적대적 공격 전략에 대해 얼마나 높은 탐지 성능을 유지하는가?

주요 결과

• VGG-19에서 FGSM 공격에 대해 마할라노비스 점수는 TPR 95%에서 TNR 100.00%를 달성했으며, LID의 99.96% TNR를 능가했다.
• VGG-19에서 CW 공격에 대해 마할라노비스 방법은 TPR 95%에서 TNR 98.11%를 기록했고, LID의 75.93%에 비해 뛰어났다.
• VGG-19에서 FGSM에 대해 마할라노비스 방법은 AUROC 99.98을 기록했으며, LID의 97.30 및 ODIN의 97.30보다 유의미하게 높았다.
• DeepFool에 의해 생성된 적대적 샘플에 대해 VGG-19에서 마할라노비스 방법은 TPR 95%에서 TNR 75.96%를 기록했고, LID의 74.48%에 비해 뛰어났다.
• VGG-19에서 FGSM에 대해 마할라노비스 방법의 탐지 정확도는 99.98%에 달했으며, LID의 99.41% 및 ODIN의 99.41%를 초월했다.
• 마할라노비스 기반 탐지 프레임워크는 FGSM, BIM, DeepFool, CW의 네 가지 공격 전략 모두에서 뛰어난 강건성을 보였으며, AUROC, TNR 및 탐지 정확도 측면에서 LID 및 ODIN을 일관되게 능가했다.