[논문 리뷰] Practical Bayesian optimization in the presence of outliers

Rubén Martínez-Cantín, Kevin Tee외 1명|arXiv (Cornell University)|2017. 12. 12.

Advanced Multi-Objective Optimization Algorithms참고 문헌 22인용 수 13

한 줄 요약

이 논문은 외곽값이 존재하는 환경에서 성능을 향상시키기 위해 강건한 가우시안 프로세스 회귀와 스트ู던트-t 분포 기반 가능도, 그리고 동적 외곽값 진단 기법을 융합한 하이브리드 베이지안 최적화 방법을 제안한다. 스케줄러를 통해 외곽값을 분류하고 제거함으로써, 외곽값을 의도적으로 유도하지 않은 통제된 설정에서도 표준 강건 회귀보다 빠른 수렴과 더 나은 최적화 성능을 달성한다.

ABSTRACT

Inference in the presence of outliers is an important field of research as outliers are ubiquitous and may arise across a variety of problems and domains. Bayesian optimization is method that heavily relies on probabilistic inference. This allows outstanding sample efficiency because the probabilistic machinery provides a memory of the whole optimization process. However, that virtue becomes a disadvantage when the memory is populated with outliers, inducing bias in the estimation. In this paper, we present an empirical evaluation of Bayesian optimization methods in the presence of outliers. The empirical evidence shows that Bayesian optimization with robust regression often produces suboptimal results. We then propose a new algorithm which combines robust regression (a Gaussian process with Student-t likelihood) with outlier diagnostics to classify data points as outliers or inliers. By using an scheduler for the classification of outliers, our method is more efficient and has better convergence over the standard robust regression. Furthermore, we show that even in controlled situations with no expected outliers, our method is able to produce better results.

연구 동기 및 목표

• 베이지안 최적화에서 외곽값이 존재할 경우 확률적 대체 모델에 편향을 주고 수렴을 저해할 수 있는 문제를 해결하기 위해.
• 표준 강건 회귀(예: 스트루던트-t 가능도)가 베이지안 최적화 내에서 외곽값을 효과적으로 다루지 못하는 한계를 평가하기 위해.
• 강건 모델링과 능동적 외곽값 분류를 융합한 이단계적 방법을 개발하여 더 높은 샘플 효율성과 수렴 성능을 향상시키기 위해.
• 통제된 실험 설정에서도 외곽값이 존재하여 표준 베이지안 최적화 성능을 떨어뜨리는지를 입증하기 위해.

제안 방법

• 중요도가 높은 관측 오차의 무거운 尾(꼬리) 분포를 고려하기 위해 스트루던트-t 가능도를 사용하는 가우시안 프로세스 대체 모델을 적용한다.
• 통계적 진단 기반으로 외곽값을 식별하고 훈련 데이터에서 제거하는 동적 외곽값 분류 스케줄러를 도입한다.
• 이 방법은 두 단계로 구성된 파이프라인을 따르며, 첫 번째 단계에서는 모든 데이터에 대해 강건한 회귀를 적용하고, 두 번째 단계에서는 진단 통계량을 사용해 점들을 내측값 또는 외곽값으로 분류한다.
• 외곽값 분류를 반복적으로 갱신함으로써 모델이 시간이 지남에 따라 데이터 품질에 대한 이해를 정교화할 수 있도록 한다.
• 업데이트된 내측값 집합을 기반으로 획득 함수(기대 개선도)를 최적화함으로써 검색 효율성을 향상시킨다.
• 다양한 벤치마크를 통해 평가되었으며, 하이퍼파rameter 튜닝, 로봇 밀기, 딥러닝 등 다양한 분야에 적용되었다.

실험 결과

연구 질문

• RQ1 외곽값이 존재할 경우, 스트루던트-t 가능도를 사용하는 표준 강건 베이지안 최적화가 효과적으로 수렴하지 못하는가?
• RQ2 강건 회귀와 능동적 외곽값 진단을 융합하면 베이지안 최적화에서 더 나은 수렴성과 샘플 효율성을 달성할 수 있는가?
• RQ3 외부적으로 유도된 외곽값이 없는 통제된 비공격적 실험 설정에서도 외곽값이 존재하여 표준 베이지안 최적화 성능을 떨어뜨리는가?
• RQ4 의도적으로 외곽값을 유도하지 않은 상황에서 제안된 방법이 표준 베이지안 최적화보다 어떻게 성능을 냈는가?

주요 결과

• 제안된 방법은 하이퍼파rameter 튜닝과 로봇 밀기 실험을 포함한 모든 테스트 벤치마크에서 표준 강건 베이지안 최적화(스트루던트-t 가능도)를 능가한다.
• 외부적으로 유도된 외곽값이 없는 상황에서도 제안된 방법은 표준 베이지안 최적화보다 더 나은 수렴 성능를 보였으며, 이는 통제된 환경에서도 잠재적 외곽값이 존재함을 시사한다.
• VAE 및 피드포워드 신경망 실험에서는 20%의 시뮬레이션 외곽값 조건에서도 제안된 방법이 더 빠른 수렴 속도와 낮은 최종 목표 함수 값을 유지하며 뛰어난 성능을 보였다.
• 동적 외곽값 스케줄러는 오류가 있는 데이터 포인트를 성공적으로 식별하고 제거하여 모델 정확도와 최적화 안정성을 향상시켰다.
• 실험 결과에 따르면, 표준 강건 회귀만으로는 최적의 성능을 달성하지 못하며, 외곽값의 영향을 완전히 제거하지 못함을 확인할 수 있었다.
• 본 연구는 외곽값이 명시적으로 삽입되지 않은 경우에도 베이지안 최적화가 외곽값에 민감함을 입증하였으며, 능동적 외곽값 탐지의 필요성을 강조한다.