[논문 리뷰] Efficient Ensemble Model Generation for Uncertainty Estimation with Bayesian Approximation in Segmentation

Hong Joo Lee, Seong Tae Kim외 3명|arXiv (Cornell University)|2020. 05. 21.

Anomaly Detection Techniques and Applications인용 수 5

한 줄 요약

이 논문은 단일 아키텍처에서 다양성 있는 서브모델를 생성하기 위해 확률적 레이어 선택을 사용하는 효율적인 앙상블 모델 생성 방법을 제안한다. 이는 최소한의 파라미터 증가로 베이지안 근사에 의한 정확한 불확실성 추정을 가능하게 하며, 새로운 픽셀 단위 불확실성 손실을 통해 학습 중 불확실성을 활용함으로써 예측 성능을 향상시킨다. 이로 인해 두 개의 서브모델만으로도 강력한 성능을 달성하며, 의료 및 자율주행 응용 분야에서 불확실성 인식 기반 의사결정을 지원한다.

ABSTRACT

Recent studies have shown that ensemble approaches could not only improve accuracy and but also estimate model uncertainty in deep learning. However, it requires a large number of parameters according to the increase of ensemble models for better prediction and uncertainty estimation. To address this issue, a generic and efficient segmentation framework to construct ensemble segmentation models is devised in this paper. In the proposed method, ensemble models can be efficiently generated by using the stochastic layer selection method. The ensemble models are trained to estimate uncertainty through Bayesian approximation. Moreover, to overcome its limitation from uncertain instances, we devise a new pixel-wise uncertainty loss, which improves the predictive performance. To evaluate our method, comprehensive and comparative experiments have been conducted on two datasets. Experimental results show that the proposed method could provide useful uncertainty information by Bayesian approximation with the efficient ensemble model generation and improve the predictive performance.

연구 동기 및 목표

• 딥 러닝 분할에서 전통적 앙상블 모델의 높은 파라미터 비용 문제를 해결하기 위해.
• 선형적으로 증가하는 모델 파라미터 없이 효과적인 모델 불확실성 추정을 가능하게 하기 위해.
• 새로운 손실 함수를 통해 학습 중 불확실성을 활용하여 예측 성능을 향상시키기 위해.
• 다양한 분할 아키텍처에 적용 가능한 일반적이고 확장 가능한 프레임워크를 개발하기 위해.
• 신뢰할 수 있는 불확실성 맵을 제공함으로써 안전 중심 응용 분야에서 의사결정을 지원하기 위해.

제안 방법

• M개의 서브모델로 구성된 모델 세트를 정의하며, 각 서브모델은 동일한 인코더-디코더 아키텍처를 가지지만 다른 가중치를 가진다.
• 추론 중에 서브모델 간 레이어를 무작위로 샘플링함으로써 확률적 레이어 선택을 사용해 앙상블 모델을 생성한다.
• 예측 값의 분산을 통해 불확실성을 추정하기 위해 몬테카를로 드롭아웃을 활용한 베이지안 근사를 적용한다.
• 학습 중에 불확실한 영역을 재가중하기 위해 픽셀 단위의 불확실성 손실을 도입하여, 모델이 어려운 또는 모호한 샘플에서 성능 향상을 유도하도록 한다.
• 이중 단계 학습 전략을 사용한다: 첫 번째 단계에서는 서브모델을 독립적으로 학습하고, 두 번째 단계에서는 불확실성 인식 손실을 사용해 앙상블을 최적화한다.
• 프레임워크는 일반적이고 확장 가능하며, 단 두 개의 서브모델만으로도 수천 개의 앙상블 모델을 이론적으로 생성할 수 있다 (예: DenseNet의 경우 2048개, U-Net의 경우 262,144개).

실험 결과

연구 질문

• RQ1 앙상블 모델 생성을 불확실성 추정 품질을 희생시키지 않고 효율적으로 수행할 수 있는가?
• RQ2 불확실성은 학습 중에 어떻게 효과적으로 활용되어 성능 향상에 기여할 수 있는가?
• RQ3 작은 수의 서브모델 (예: M=2) 이면 높은 성능 유지하면서도 큰 유효한 앙상블를 생성할 수 있는가?
• RQ4 제안된 픽셀 단위의 불확실성 손실이 모호하거나 불확실한 영역에서 분할 정확도에 측정 가능한 향상을 이끌 수 있는가?
• RQ5 이 방법은 다양한 아키텍처와 데이터셋에 일반화되어 불확실성 신뢰성도 유지할 수 있는가?

주요 결과

• 제안된 방법은 단 두 개의 서브모델만으로도 경쟁적인 mIoU 및 Dice 스코어를 달성하여 높은 효율성과 확장성을 입증한다.
• 앙상블 샘플 수가 증가할수록 성능 향상이 이루어지며, 낮은 샘플 수 (예: 50개) 에서도 뚜렷한 성능 향상이 관찰된다.
• 불확실성 맵은 잘못 분류되거나 모호한 영역 (예: 가림당한 물체 또는 미사용 클래스) 을 효과적으로 강조하여 사용자 수준의 의사결정 지원을 가능하게 한다.
• 픽셀 단위의 불확실성 손실은 어려운 분할 영역에 집중하여 학습을 유도함으로써, 불확실한 영역에서의 오차가 감소하는 것으로 확인되었다.
• 이 방법은 CamVid 및 TVUS를 포함한 다양한 아키텍처와 데이터셋에 대해 잘 일반화되며, 강력한 정량적 및 정성적 결과를 보였다.
• 아웃라이어 분석 결과, 이 프레임워크는 적대적 공격에 대해 강건함을 입증하여 안전 중심 응용 분야에서의 유용성을 시사한다.