[논문 리뷰] Fuzzy Unique Image Transformation: Defense Against Adversarial Attacks On Deep COVID-19 Models

Achyut Mani Tripathi, Ashish Mishra|arXiv (Cornell University)|2020. 09. 08.

COVID-19 diagnosis using AI참고 문헌 50인용 수 9

한 줄 요약

이 논문은 Fuzzy Unique Image Transformation (FUIT)를 제안하며, 이는 이미지 픽셀을 퍼지 구간으로 매핑하여 고유 픽셀 값의 분산을 줄이고, 적대적 공격에 대한 강건성을 향상시키는 전처리 기법이다. 코로나19 흉부 X-ray 및 CT 스캔 이미지에 대해 FUIT를 적용한 후 딥러닝 모델을 훈련하면, PGD 및 BIM을 포함한 6종의 적대적 공격에 대해 최대 88.31%의 높은 진단 정확도를 유지하면서도, 강력한 공격 조건에서도 85% 이상의 정확도를 달성한다.

ABSTRACT

Early identification of COVID-19 using a deep model trained on Chest X-Ray and CT images has gained considerable attention from researchers to speed up the process of identification of active COVID-19 cases. These deep models act as an aid to hospitals that suffer from the unavailability of specialists or radiologists, specifically in remote areas. Various deep models have been proposed to detect the COVID-19 cases, but few works have been performed to prevent the deep models against adversarial attacks capable of fooling the deep model by using a small perturbation in image pixels. This paper presents an evaluation of the performance of deep COVID-19 models against adversarial attacks. Also, it proposes an efficient yet effective Fuzzy Unique Image Transformation (FUIT) technique that downsamples the image pixels into an interval. The images obtained after the FUIT transformation are further utilized for training the secure deep model that preserves high accuracy of the diagnosis of COVID-19 cases and provides reliable defense against the adversarial attacks. The experiments and results show the proposed model prevents the deep model against the six adversarial attacks and maintains high accuracy to classify the COVID-19 cases from the Chest X-Ray image and CT image Datasets. The results also recommend that a careful inspection is required before practically applying the deep models to diagnose the COVID-19 cases.

연구 동기 및 목표

• 소수의 픽셀 변형을 악용하는 적대적 공격에 취약한 딥러닝 모델이 코로나19 의료 영상 진단에서 보이는 취약성을 해결하기 위해.
• 진단 정확도를 훼손하지 않으면서 모델의 강건성을 향상시키는 전처리 기법을 개발하기 위해.
• 실제 코로나19 영상 데이터셋에서 다양한 화이트박스 적대적 공격에 대해 제안된 방법의 효과성을 평가하기 위해.
• FUIT가 정상 이미지와 적대적 이미지 간의 고유 픽셀 값의 분산을 줄여, 모델의 변형에 대한 민감도를 감소시킴으로써 효과적인 방어를 가능하게 한다.

제안 방법

• FUIT는 사전 정의된 퍼지 집합을 사용하여 각 픽셀 값을 퍼지 구간으로 매핑하여 픽셀 값 다양성이 감소한 표현으로 이미지를 변환한다.
• 이 변환은 정상 이미지와 적대적 이미지가 동일한 수의 고유 픽셀 값을 가지도록 보장하여 공격자가 감지할 수 있는 통계적 차이를 최소화한다.
• 퍼지 집합은 픽셀 강도 범위를 구간으로 나누어, 이미지 간 일관된 다운샘플링을 가능하게 한다.
• FUIT 변환된 이미지를 사용해 딥러닝 모델을 재학습하고, PGD, BIM, FGSM, CW, DeepFool, PGD-r를 포함한 6종의 적대적 공격 유형에 대한 강건성을 평가한다.
• 이 방법은 흉부 X-ray 및 CT 스캔 이미지 두 데이터셋에서 평가되었으며, FUIT 적용 여부에 따라 훈련된 모델을 비교 분석하였다.
• 강건성은 PGD, BIM, FGSM, CW, DeepFool, PGD-r 등의 다양한 적대적 공격 조건 하에서의 분류 정확도로 측정되었다.

실험 결과

연구 질문

• RQ1 FUIT와 같은 전처리 기법이 의료 영상 분류에서 딥러닝 모델을 적대적 공격으로부터 효과적으로 방어할 수 있는가?
• RQ2 FUIT를 코로나19 X-ray 및 CT 스캔 이미지에 적용했을 때 딥 모델의 진단 정확도에 어떤 영향을 미치는가?
• RQ3 FUIT는 정상 이미지와 적대적 이미지 간의 고유 픽셀 값 분산을 어느 정도 감소시키는가?
• RQ4 여러 종류의 적대적 공격 유형에 대해 FUIT 기반 모델은 기준 모델 대비 얼마나 더 강건한가?

주요 결과

• FUIT 변환된 모델(M13–M18)은 가장 공격력이 강한 BIM 공격 조건에서도 분류 정확도가 85% 이상을 유지했으며, M13는 85.21%의 정확도를 기록했다.
• 반면 기준 모델(M10–M12)은 BIM 공격 조건에서 정확도가 최소 8.12%까지 하락하여 매우 취약한 것으로 나타났다.
• PGD 공격 조건에서는 FUIT 기반 모델이 86.12%의 정확도(M13)를 기록한 반면, 비-FUIT 모델은 48.19%(M10)로 정확도가 급격히 떨어졌다.
• FUIT 기법은 정상 CT 이미지에서 최대 88.31%의 높은 진단 정확도를 유지했으며, 최신 기술 수준의 모델과 유사한 성능을 보였다.
• FUIT는 정상 이미지와 적대적 이미지 간의 고유 픽셀 값 수를 효과적으로 동일하게 맞추어, 공격자가 악용하는 통계적 차이를 줄였다.
• 시각적 점검을 통해 인간 눈으로는 정상 이미지와 적대적 이미지가 구분되지 않았지만, FUIT가 적용되지 않은 모델은 여전히 오도당하는 것으로 확인되어, 방어 기법의 필요성을 입증했다.