[논문 리뷰] Improving Interpretability in Medical Imaging Diagnosis using Adversarial Training

Andrei Margeloiu, Nikola Simidjievski외 2명|arXiv (Cornell University)|2020. 12. 02.

Explainable Artificial Intelligence (XAI)참고 문헌 22인용 수 5

한 줄 요약

이 논문은 의료 피부암 진단에서 합성곱 신경망의 해석 가능성 향상을 위해 적대적 훈련을 사용하는 것을 제안한다. 적대적 흐름에 대해 강건한 모델을 훈련시킴으로써, 저자들은 선명도가 높고 더 시각적으로 일관된 색소지도가 생성됨을 보여주며, 병변 내에서 암 관련 색상 변화를 강조함으로써 암 진단에 유의미한 정보를 제공한다. 주요 기여는 아키텍처 변경 없이도 강건한 모델이 더 신뢰할 수 있고 병변 중심의 설명을 제공함을 입증한 것이다.

ABSTRACT

We investigate the influence of adversarial training on the interpretability of convolutional neural networks (CNNs), specifically applied to diagnosing skin cancer. We show that gradient-based saliency maps of adversarially trained CNNs are significantly sharper and more visually coherent than those of standardly trained CNNs. Furthermore, we show that adversarially trained networks highlight regions with significant color variation within the lesion, a common characteristic of melanoma. We find that fine-tuning a robust network with a small learning rate further improves saliency maps' sharpness. Lastly, we provide preliminary work suggesting that robustifying the first layers to extract robust low-level features leads to visually coherent explanations.

연구 동기 및 목표

• 의료 영상 분류에서 적대적 훈련이 해석 가능성 향상에 기여하는지 조사하기 위해.
• 표준 모델 대비 적대적으로 훈련된 모델이 더 선명하고 더 시각적으로 일관된 색소지도를 생성하는지 평가하기 위해.
• 강건한 모델을 미세조정함으로써 색소지도 품질을 추가로 향상시킬 수 있는지 탐색하기 위해.
• 초기 레이어를 강건하게 만드는 것이 딥 네트워크에서 특징 추출 및 설명 품질 향상에 기여하는지 평가하기 위해.
• 실제 임상 데이터셋을 사용하여 의료 영상에서 해석 가능성에 대한 적대적 훈련에 대한 첫 번째 경험적 연구를 제공하기 위해.

제안 방법

• HAM10000 데이터셋을 사용하여 표준 훈련을 통해 초모수 조정을 수행하며, 세 가지 클래스: 메라노마, 메라노시티크 네비, 양성 키라토시스를 포함한다.
• PGD 적대자와 l₂ 노름 흐름을 사용한 적대적 훈련을 통해 동일한 모델을 다시 훈련하며, 50,000 픽셀 이미지에 대해 ε = 4로 설정한다 (비례적으로 조정됨).
• 7단계의 크기 ε/5로 흐름 증강을 수행하며, 무작위 노이즈에서 시작하여 적대적 이미지를 [0, 1] 범위로 클리핑한다.
• 표준 모델과 강건한 모델 간의 공정한 비교를 위해 표준 훈련에서 사용된 동일한 초모수를 유지한다.
• 균일한 배경을 사용하여 기울기 및 통합 기울기(IG)와 같은 색소지도 방법을 적용하여 모델 예측을 해석한다.
• 작은 학습률(1e-5)을 사용하여 표준 훈련을 통해 강건한 모델의 마지막 레이어를 미세조정하며, 끝에서부터 서서히 레이어를 해동하여 성능을 향상시키면서도 강건성을 유지한다.

실험 결과

연구 질문

• RQ1 적대적 훈련은 의료 영상 분류에서 색소지도의 시각적 일관성과 선명도를 향상시키는가?
• RQ2 적대적으로 훈련된 모델은 피부 병변 내 색상 변화와 같은 메라노마 특이적 특징을 더 잘 강조할 수 있는가?
• RQ3 작은 학습률로 강건한 모델을 미세조정하면 색소지도 품질이 추가로 향상되는가?
• RQ4 강건한 첫 번째 레이어와 후속 레이어의 표준 미세조정을 조합함으로써 예측 정확도와 설명 품질을 동시에 향상시킬 수 있는가?
• RQ5 의료 영상에서 가장 선명한 색소지도를 얻기 위해 최적의 적대자 강도 ε는 얼마인가?

주요 결과

• 적대적으로 훈련된 모델은 표준 모델 대비 눈에 띄게 더 선명하고 더 시각적으로 일관된 색소지도를 생성하며, 배경이나 관련 없는 특징이 아닌 병변 영역에 집중된다.
• 강건한 모델의 색소지도는 병변 내에서 뚜렷한 색상 변화를 강조한다 — 이는 메라노마의 주요 진단 지표이므로 임상적 관련성이 높다.
• 학습률 1e-5로 강건한 모델의 마지막 레이어를 미세조정함으로써 색소지도의 노이즈가 감소하여 더 명확하고 집중도 높은 설명이 된다.
• ResNet-18 아키텍처의 그룹 3~5를 미세조정함으로써, 전체적으로 강건한 모델 대비 모델 정확도가 3% 향상되었으며, 동시에 뛰어난 설명 품질을 유지하였다.
• 적대자 강도 ε의 최적 범위는 경험적으로 3에서 5 사이로 확인되었으며, ε ≥ 8일 경우 노이즈가 많은 색소지도가 되었고, ε = 1일 경우 털과 같은 관련 없는 특징에 주의가 옮겨지는 현상이 발생했다.
• 통합 기울기(IG)를 사용한 강건한 모델의 색소지도는 메라노마 병변 내 색소 변화를 명확히 강조하며, 형태나 질감 기반의 할당이 향상되었음을 시사한다.