[논문 리뷰] Enhancing the Extraction of Interpretable Information for Ischemic Stroke Imaging from Deep Neural Networks

Erico Tjoa, Heng Guo외 2명|arXiv (Cornell University)|2019. 11. 19.

Explainable Artificial Intelligence (XAI)참고 문헌 17인용 수 9

한 줄 요약

이 논문은 3D U-Net에 수정된 계층별 중요도 전파(LRP) 방법을 적용하여 뇌경색 병변 분할에서 해석 가능성성을 향상시킨다. 저자들은 LRP 맵에서 신호 진폭이 정보 내용과 상관이 있음을 보여주며, 수정된 방법이 노이즈를 감소시켜 임상적 의사결정 지원을 위한 더 신뢰할 수 있는 시각적 설명을 제공함을 확인한다.

ABSTRACT

We implement a visual interpretability method Layer-wise Relevance Propagation (LRP) on top of 3D U-Net trained to perform lesion segmentation on the small dataset of multi-modal images provided by ISLES 2017 competition. We demonstrate that LRP modifications could provide more sensible visual explanations to an otherwise highly noise-skewed saliency map. We also link amplitude of modified signals to useful information content. High amplitude localized signals appear to constitute the noise that undermines the interpretability capacity of LRP. Furthermore, mathematical framework for possible analysis of function approximation is developed by analogy.

연구 동기 및 목표

• 심근경색 영상에서 딥 뉴럴 네트워크의 해석 가능성성을 향상시키고, 특히 병변 분할 작업에 초점을 맞춘다.
• 3D 의료 영상 분석에서 표준 LRP가 생성하는 노이즈가 많고 신뢰할 수 없는 색채지도 문제를 해결한다.
• 신호 진폭을 의미 있는 정보 내용과 연결시켜 신뢰도 높은 시각적 설명을 향상시키는 방법을 개발한다.
• 해석 가능성의 맥락에서 기능 근사 분석을 위한 수학적 프레임워크를 개발한다.
• ISLES 2017 데이터셋—작은 다중 모odal 의료 영상 기준 테스트 세트—에서 방법을 검증한다.

제안 방법

• 심근경색 병변 분할을 위해 ISLES 2017 데이터셋에서 훈련된 3D U-Net 모델에 계층별 중요도 전파(LRP)를 적용한다.
• 색채지도의 노이즈를 감소시키고 해석 가능성성을 향상시키기 위해 표준 LRP 알고리즘에 수정을 도입한다.
• 중요도 신호의 진폭을 분석하여 정보 내용이 풍부한 영역와 노이즈를 식별한다.
• 허위 활성화를 억제하는 수정된 LRP 수식을 사용하여 더 국소화되고 타당한 설명을 도출한다.
• 기능 근사 분석을 위한 수학적 유사성 분석을 개발하여, 해석 가능성 방법의 이론적 기반을 마련한다.
• 실제 3D 다중 모달 MRI/CT 영상에서 ISLES 2017 경연 대회 자료를 활용해 방법을 검증한다.

실험 결과

연구 질문

• RQ1 표준 LRP는 3D 심근경색 영상에서 더 신뢰할 수 있고 해석 가능한 색채지도를 어떻게 향상시킬 수 있는가?
• RQ2 중요도 신호의 진폭과 유의미한 진단 정보 존재 여부 사이의 관계는 무엇인가?
• RQ3 임상적으로 관련된 특징을 손상시키지 않고 LRP 맵의 노이즈를 체계적으로 감소시킬 수 있는가?
• RQ4 수정된 LRP 신호는 표준 LRP에 비해 국소화 및 타당성 측면에서 어떻게 다른가?
• RQ5 의료 딥 러닝의 해석 가능성에 기여할 수 있는 기능 근사 분석을 위한 이론적 프레임워크를 개발할 수 있는가?

주요 결과

• 수정된 LRP 방법은 색채지도의 노이즈를 크게 감소시켜 더 통합되고 임상적으로 타당한 시각적 설명을 제공한다.
• 중요도 맵에서 국소화된 고진폭 신호는 유용한 정보 내용을 지닌 영역를 나타내며, 흩어져 있거나 산산이 흩어진 고진폭 영역는 노이즈를 의미한다.
• 수정된 LRP 접근법은 병변 경계를 흐리게 하는 허위 활성화를 억제함으로써 3D U-Net의 해석 가능성성을 향상시킨다.
• 특히 복잡한解부학적 영역에서 다중 모달 심근경색 영상에서 관련 기능의 국소화가 향상됨을 확인하였다.
• 개발된 수학적 프레임워크는 기능 근사 분석을 위한 이론적 분석을 가능하게 하여 향후 의료 AI 분야의 해석 가능성 연구를 뒷받침한다.
• 작은 데이터셋 크기임에도 불구하고 ISLES 2017 데이터셋에서 검증을 통해 시각적 설명 품질 향상이 일관되게 나타남을 입증하였다.