[논문 리뷰] Propagating Uncertainty in Multi-Stage Bayesian Convolutional Neural Networks with Application to Pulmonary Nodule Detection

Onur Özdemir, Benjamin Woodward외 1명|arXiv (Cornell University)|2017. 12. 01.

Lung Cancer Diagnosis and Treatment참고 문헌 14인용 수 30

한 줄 요약

이 논문은 2D 세그멘테이션 네트워크에서 유도된 불확실성을 3D 복합체 결절 탐지 네트워크로 전파하고 융합하는 다단계 베이지안 컨볼루션 신경망을 제안한다. 세그멘테이션 예측 및 그 불확실성(평균과 표준편차)을 추가 채널로 연결함으로써, 탐지 정확도와 모델 신뢰도가 향상되며, 앙상블을 통한 성능 향상이 특히 저양성 클래스 상황에서 두드러진다.

ABSTRACT

Motivated by the problem of computer-aided detection (CAD) of pulmonary nodules, we introduce methods to propagate and fuse uncertainty information in a multi-stage Bayesian convolutional neural network (CNN) architecture. The question we seek to answer is "can we take advantage of the model uncertainty provided by one deep learning model to improve the performance of the subsequent deep learning models and ultimately of the overall performance in a multi-stage Bayesian deep learning architecture?". Our experiments show that propagating uncertainty through the pipeline enables us to improve the overall performance in terms of both final prediction accuracy and model confidence.

연구 동기 및 목표

• 저선량 CT 스캔에서 다단계 딥 러닝 스테이지에 걸쳐 모델의 불확실성을 활용함으로써 폐 결절 탐지 성능을 향상시키는 것.
• 기존 폐 결절 CAD 시스템에서 불확실성 추정이 부족하여 예측에 대한 임상적 신뢰도가 제한되는 문제를 해결하는 것.
• 세그멘테이션 스테이지에서 유도된 불확실성을 결절 탐지 스테이지로 전파함으로써 전체 탐지 성능과 모델 신뢰도를 향상시킬 수 있음을 입증하는 것.
• 1채널 및 3채널 베이지안 탐지 네트워크를 융합하는 전략을 통해 강건성을 향상시키는 불확실성 융합 및 앙상블 전략을 탐색하는 것.
• 자율주행 및 로봇 공학 등 불확실성 인식 의사결정이 핵심이 되는 분야를 넘어 의료 영상 이외의 분야에도 적용 가능한 프레임워크를 제공하는 것.

제안 방법

• 테스트 시기 동안 스토하스틱 드롭아웃을 사용한 10층 베이지안 U-Net을 활용하여 2D 축상 CT 세그멘테이션에서 불확실성 추정을 위한 50개의 몬테카를로 샘플을 생성한다.
• 3D 컨볼루션 신경망에서 몬테카를로 드롭아웃을 통한 근사 베이지안 추론을 적용하여 결절 탐지에 사용하며, 예측 평균과 표준편차를 추정하기 위해 동일하게 50개의 샘플을 사용한다.
• 예측 평균 및 표준편차 지ap을 원본 1채널 이미지와 결합하여 3채널 복합 입력을 형성함으로써 세그멘테이션 출력을 융합한다.
• 원본 이미지에 대해 별도의 1채널 3D 베이지안 컨볼루션 신경망을 훈련시켜 불확실성 융합 네트워크에서 포착하지 못한 특징을 포착한다.
• 검증 AUC에서 최적화된 등가 가중치(0.5)를 사용한 볼록 조합을 통해 불확실성 인식 앙상블을 가능하게 한다.
• 두 탐지 네트워크 간의 약한 의존성을 확인하기 위해 스피어만 순위 상관계수를 사용한다. 이는 앙상블 전략의 다양성 향상 효과를 정당화한다.

실험 결과

연구 질문

• RQ1 다단계 베이지안 딥 러닝 프레임워크에서 세그멘테이션 네트워크에서 유도된 불확실성을 하류의 결절 탐지 네트워크로 전파함으로써 성능 향상이 가능한가?
• RQ2 세그멘테이션에서 유도된 예측 평균과 표준편차 등의 불확실성 정보를 영상 데이터와 융합함으로써 폐 결절 탐지의 정확도와 모델 신뢰도가 향상되는가?
• RQ3 불확실성 융합 입력을 사용하는 네트워크와 원본 이미지를 사용하는 네트워크의 두 베이지안 탐지기 간의 앙상블은 개별 모델 대비 전체 성능에 어떤 영향을 미치는가?
• RQ4 두 베이지안 네트워크의 예측이 통계적으로 독립적인 정도는 어느 정도이며, 이는 앙상블의 타당성을 뒷받침하는가?
• RQ5 불확실성 전파 및 융합 전략은 신뢰도 인식 의사결정이 요구되는 다른 다단계 딥 러닝 응용 분야로 일반화될 수 있는가?

주요 결과

• 불확실성 융합을 적용한 3채널 베이지안 컨볼루션 신경망은 1채널 베이지안 컨볼루션 신경망(0.1214)보다 유의미하게 낮은 브리어 스코어(0.1010)를 기록하여 보다 우수한 캘리브레이션과 성능을 나타낸다.
• 앙상블 모델은 최고의 브리어 스코어 0.0948을 기록하여 개별 모델과 비베이지안 기준 모델(0.1045)을 모두 초월한다.
• 검증 세트에서 AUC가 향상되었으며, 각 모델에 대해 최적의 가중치 0.5가 성능을 최대화하는 데 기여했다.
• 스피어만 순위 상관계수 0.346(p < 10^-5)는 두 탐지 네트워크 간의 약한 의존성을 확인하였으며, 이는 앙상블의 효과성을 뒷받침한다.
• 3D 베이지안 컨볼루션 신경망에서 불확실성 융합을 적용한 경우 정밀도-재현율 곡선에서 뛰어난 성능을 보였으며, 이는 극도로 불균형한 양성 클래스를 더 잘 다루기 때문이다.
• 앙상블 모델은 3채널 모델보다 약간 높은 예측 분산을 보였지만, 1채널 모델보다는 유의미하게 낮아 불확실성 캘리브레이션 측면에서 더 나은 성능을 나타낸다.