[논문 리뷰] SLURP: Side Learning Uncertainty for Regression Problems

Xuanlong Yu, Gianni Franchi외 1명|arXiv (Cornell University)|2021. 10. 21.

Anomaly Detection Techniques and Applications참고 문헌 50인용 수 4

한 줄 요약

SLURP는 사전 훈련된 메인 모델의 특징과 예측 결과를 활용하여 회귀 작업에서 불확실성 추정을 위한 일반적이고 효율적인 사이 학습 프레임워크를 제안한다. 최소한의 계산 부담으로 최신 기술 수준의 불확실성 校정 성능을 달성하며, 단일 레이저 깊이 및 옵티컬 플로우 벤치마크에서 기존 방법들을 능가한다. 메인 모델의 재훈련 없이도 즉시 사용이 가능하다.

ABSTRACT

It has become critical for deep learning algorithms to quantify their output uncertainties to satisfy reliability constraints and provide accurate results. Uncertainty estimation for regression has received less attention than classification due to the more straightforward standardized output of the latter class of tasks and their high importance. However, regression problems are encountered in a wide range of applications in computer vision. We propose SLURP, a generic approach for regression uncertainty estimation via a side learner that exploits the output and the intermediate representations generated by the main task model. We test SLURP on two critical regression tasks in computer vision: monocular depth and optical flow estimation. In addition, we conduct exhaustive benchmarks comprising transfer to different datasets and the addition of aleatoric noise. The results show that our proposal is generic and readily applicable to various regression problems and has a low computational cost with respect to existing solutions.

연구 동기 및 목표

• 딥 러닝 회귀 모델에서 신뢰할 수 있는 불확실성 추정의 부족, 특히 깊이 및 옵티컬 플로우 추정과 같은 시각 작업에서의 문제를 해결하기 위해.
• 메인 예측 모델의 재훈련이나 수정 없이도 일반적이고 침습적이지 않은 방법을 개발하기 위해.
• 사이 학습자(사이러너)를 통해 예측 출력에서 손실된 의미적 맥락을 복구하여 불확실성 추정을 향상시키기 위해.
• 다양한 데이터셋과 노이즈 조건에서 고성능의 불확실성 校정 성능를 유지하면서도 저비용 계산을 확보하기 위해.

제안 방법

• 사이 학습자 네트워크는 원본 입력과 메인 모델의 예측 결과를 입력으로 사용하여 불확실성 맵을 예측하도록 훈련된다.
• 사이 학습자는 메인 모델의 중간 레이어에서 추출한 특징과 예측 출력을 융합하여 예측 오차를 재구성한다.
• 메인 모델의 고정된 특징 추출기(예: ResNet)를 활용하여 의미적 맥락을 유지하고 불확실성 추정을 향상시킨다.
• 메인 모델의 훈련 또는 추론 파이프라인을 수정하지 않아도 되는 플러그인 방식의 전치 구조를 사용한다.
• 사이 학습자는 예측된 불확실성과 진짜 오차(예: 옵티컬 플로우에서의 종단점 오차)의 차이를 최소화하도록 엔드 투 엔드로 훈련된다.
• 두 가지 변종이 제안된다: Ours (전체)와 Ours-light (경량), 모두 실시간 응용에 적합하고 효율성을 고려하여 설계되었다.

실험 결과

연구 질문

• RQ1 메인 모델을 수정하지 않고도 사이 학습 접근법이 픽셀 단위의 회귀 작업에서 효과적으로 불확실성 추정을 수행할 수 있는가?
• RQ2 SLURP는 다양한 데이터셋에서 기존의 불확실성 추정 방법과 비교해 볼 때 校정 성능와 내구성 측면에서 얼마나 우수한가?
• RQ3 SLURP는 메인 모델의 예측에서 손실된 의미적 맥락을 어느 정도 복구하여 불확실성 추정을 향상시키는가?
• RQ4 SLURP는 앙상블 기반 및 공동 훈련 방법 대비 계산 효율성이 얼마나 뛰어나며?

주요 결과

• SLURP는 단일 레이저 깊이 및 옵티컬 플로우 작업에서 최신 기술 수준의 성능를 달성했으며, FlyingChairs에서 AUSE-EPE는 1.20, KITTI에서 4.69를 기록하여 대부분의 기준 모델들을 능가했다.
• Sintel 데이터셋에서 SLURP는 AUROC 0.906을 기록하여 MHP(0.878)와 Confid(0.728)를 크게 앞서며 뛰어난 일반화 능력을 입증했다.
• 경량 버전인 Ours-light는 옵티컬 플로우에서 추론 시간을 65ms로 줄였고, 깊이 작업에서는 88ms를 기록하여 MC(79ms)와 EE(144ms)를 모두 앞서는 빠른 속도를 확보하면서도 경쟁 가능한 정확도를 유지했다.
• SLURP는 전이 설정과 노이즈가 있는 입력에서도 뛰어난 성능를 유지하며, 새로운 데이터셋에 대한 미세조정 없이도 내구성을 보였다.
• 사이 학습자는 메인 모델의 특징에서 의미적 맥락을 효과적으로 복구하여, 특히 에지 및 가림 영역에서 불확실성 추정 오차를 감소시켰다.
• 메서드는 계산적으로 효율적이며, 전체 모델은 87.2M 파라미터, Ours-light는 57.0M 파라미터를 차지하여 앙상블 기반 방법보다 훨씬 낮은 수준이다.