[논문 리뷰] Bayesian Optimization Meets Laplace Approximation for Robotic Introspection

Matthias Humt, Jong‐Seok Lee외 1명|arXiv (Cornell University)|2020. 10. 30.

Machine Learning and Data Classification참고 문헌 34인용 수 5

한 줄 요약

이 논문은 깊이 신경망의 불확실성 캘리브레이션을 향상시키기 위해 확장 가능한 라플라스 근사(LA) 프레임워크를 베이지안 최적화(BO)로 개선한 것을 제안한다. BO를 사용해 정규화 하이퍼파rameter를 최적화함으로써 LA의 사후 근사에서의 과소적합 문제를 줄여, 무작위 탐색보다 더 나은 캘리브레이션과 정확도를 달성하였으며, DenseNet121를 사용한 ImageNet에서 성공적으로 검증되었다.

ABSTRACT

In robotics, deep learning (DL) methods are used more and more widely, but their general inability to provide reliable confidence estimates will ultimately lead to fragile and unreliable systems. This impedes the potential deployments of DL methods for long-term autonomy. Therefore, in this paper we introduce a scalable Laplace Approximation (LA) technique to make Deep Neural Networks (DNNs) more introspective, i.e. to enable them to provide accurate assessments of their failure probability for unseen test data. In particular, we propose a novel Bayesian Optimization (BO) algorithm to mitigate their tendency of under-fitting the true weight posterior, so that both the calibration and the accuracy of the predictions can be simultaneously optimized. We demonstrate empirically that the proposed BO approach requires fewer iterations for this when compared to random search, and we show that the proposed framework can be scaled up to large datasets and architectures.

연구 동기 및 목표

• 장기적인 자율 로봇 시스템에서 신뢰할 수 있는 신뢰도 추정의 부족 문제를 해결하기 위해.
• 깊이 신경망에서 라플라스 근사(LA)의 본질적 과소적합 문제를 극복하기 위해, 정규분포 사후분포가 비대칭인 진정한 가중치 사후분포를 포착하지 못함을 해결하기 위해.
• 드롭아웃 레이어와 같은 아키텍처 변경 없이도 대규모 DNN에서 모델 불확실성을 추정할 수 있는 확장 가능하고 실용적인 방법을 개발하기 위해.
• 베이지안 최적화(BO)를 사용해 LA 정규화 하이퍼파rameter를 최적화함으로써 DNN의 캘리브레이션과 예측 정확도를 향상시키기 위해.

제안 방법

• 최대 사후확률 추정(MAP)을 중심으로 다변량 정규분포를 사용해 DNN 가중치에 대한 사후분포를 라플라스 근사(LA)로 근사한다.
• 손실 표면의 곡률을 나타내는 헤시안 행렬의 역행렬을 사용해 정규분포 사후분포의 공분산 행렬을 정의함으로써 불확실성 추정을 가능하게 한다.
• 큰 DNN에 대해 헤시안 계산을 스케일링하기 위해 크로네커 분해를 활용하여 현대 아키텍처에서 효율적인 계산을 가능하게 한다.
• LA 사후분포를 제어하는 정규화 하이퍼파rameter를 최적화하기 위해 새로운 베이지안 최적화(BO) 프레임워크를 도입한다.
• 비용이 많이 드는 과소적합 영역을 피하고 고가치 영역을 집중적으로 탐색하기 위해 확률적 대체 모델(GP)을 사용해 최적의 하이퍼파rameter를 탐색한다.
• 각 레이어의 곡률을 별도로 처리하기 위해 레이어별 정규화를 도입함으로써 고차원 하이퍼파rameter 공간에서의 표현력 향상을 도모한다.

실험 결과

연구 질문

• RQ1 베이지안 최적화(BO)가 깊이 신경망에서 라플라스 근사(LA)의 하이퍼파ram터 최적화에서 무작위 탐색보다 우수한 성능을 내는가?
• RQ2 제안된 LA-BO 프레임워크는 표준 DNN 및 MC-dropout와 비교해 예측 정확도와 캘리브레이션(기대 캘리브레이션 오차, ECE로 측정)을 모두 향상시키는가?
• RQ3 LA-BO 프레임워크는 ImageNet과 같은 대규모 데이터셋과 DenseNet121와 같은 복잡한 아키텍처로 확장 가능한가?
• RQ4 개별 레이어를 별도로 정규화할 때와 같은 고차원 하이퍼파라미터 공간에서 이 방법은 어떻게 성능을 내는가?
• RQ5 LA-BO 프레임워크는 특히 0.6–0.7 신뢰도 구간에서 과신뢰를 얼마나 줄이는가?

주요 결과

• 제안된 BO 기반 LA 하이퍼파라미터 최적화는 무작위 탐색보다 수렴 속도가 빠르며, 더 나은 캘리브레이션과 정확도를 달성하기 위해 더 적은 평가 수를 요구한다.
• ResNet18를 사용한 CIFAR-10에서 LA + BO는 기준 ECE 4.57과 LA + RS의 0.70보다 훨씬 낮은 기대 캘리브레이션 오차(ECE) 0.17을 달성했다.
• DenseNet121를 사용한 ImageNet에서 BO는 동일한 10회 평가 예산 내에서 무작위 탐색보다 낮은 ECE를 기록했으며, 0.6–0.7 신뢰도 범주에서 더 나은 캘리브레이션을 보였다.
• ImageNet에서 정확도는 약 74.42%에서 ~74.5%로 약간 향상되었고, 잘못된 캘리브레이션은 극적으로 감소하여 가중치에 대한 믹싱(marginalization)이 성능 향상에 기여함을 입증했다.
• 최신 기술 수준에 못 미치는 대각 곡률 근사조차도 LA에 BO를 적용하면 캘리브레이션 향상이著しく 나타나, 강건성과 실용성의 잠재력을 보여주었다.
• 이 프레임워크는 대규모 모델과 데이터셋으로도 성공적으로 확장되었으며, 인식적 AI가 필요한 실세계 로봇 응용 분야에서의 실현 가능성을 입증했다.