[논문 리뷰] Posterior Variance Analysis of Gaussian Processes with Application to Average Learning Curves

Armin Lederer, Jonas Umlauft외 1명|arXiv (Cornell University)|2019. 06. 04.

Gaussian Processes and Bayesian Inference참고 문헌 39인용 수 10

한 줄 요약

이 논문은 립시츠 연속 커널을 갖는 가우시안 프로세스의 사후 분산에 대한 새로운 局소적 경계를 제안하며, 이 경계는 테스트 점 주변의 근접한 훈련 데이터에만 의존한다. 이 경계는 유한 및 무한 훈련 데이터 상황에서 기존 방법보다 더 빠른 감쇠 속도와 높은 정확도를 보이며, 0으로 수렴하는 조건을 확립한다.

ABSTRACT

The posterior variance of Gaussian processes is a valuable measure of the learning error which is exploited in various applications such as safe reinforcement learning and control design. However, suitable analysis of the posterior variance which captures its behavior for finite and infinite number of training data is missing. This paper derives a novel bound for the posterior variance function which requires only local information because it depends only on the number of training samples in the proximity of a considered test point. Furthermore, we prove sufficient conditions which ensure the convergence of the posterior variance to zero. Finally, we demonstrate that the extension of our bound to an average learning bound outperforms existing approaches.

연구 동기 및 목표

• 근접한 훈련 데이터에만 의존하는 이론적으로 타당한 국소적 경계를 개발하여 가우시안 프로세스 사후 분산을 국소적으로 제한하는 것.
• 훈련 데이터가 증가함에 따라 사후 분산이 0으로 수렴하는 데 필요한 충분조건을 도출하는 것.
• 국소적 사후 분산 경계를 특정 커널 유형 간 비교를 위한 안정적인 평균 학습 곡선 경계로 확장하는 것.
• 제안된 평균 학습 곡선 경계가 기존 분석적 경계보다 정확도와 수렴 속도 측면에서 뛰어나다는 것을 입증하는 것.
• 강화 학습 및 제어와 같은 안전 중심 응용 분야에서 사후 분산을 사용하는 데 이론적 근거를 제공하는 것.

제안 방법

• 정보 반경을 통해 정의된 테스트 점 주변의 국소적 훈련 데이터 밀도만을 사용하여 사후 분산에 대한 새로운 상한을 유도하는 것.
• 테스트 점 주변 반경 ρ 내의 훈련 샘플 수에 의존하는 국소적 경계를 도입하여 계산 효율성을 확보하는 것.
• 훈련 데이터 분포와 커널의 부드러움(립시츠 연속성)에 대한 온건한 조건 하에서 경계가 0으로 수렴함을 증명하는 것.
• 특정 커널 클래스(예: 마테른, 제곱 지수)에 대해 그 구조적 특성을 활용하여 감쇠 속도를 향상시키는 특수화된 경계를 제시하는 것.
• 입력 공간에 대해 주어진 분포에 따라 통합함으로써 국소적 사후 분산 경계를 평균 학습 곡선으로 확장하는 것.
• 각 N에 대해 최적의 국소 반경 n을 선택하기 위해 탐욕적 최적화 전략을 활용하여 평균 학습 곡선 경계의 날카움을 향상시키는 것.

실험 결과

연구 질문

• RQ1 테스트 점 주변의 국소적 훈련 데이터 밀도에만 의존하는 사후 분산 경계를 도출할 수 있는가?
• RQ2 훈련 데이터가 증가함에 따라 제안된 사후 분산 경계가 0으로 수렴하는 조건은 무엇인가?
• RQ3 국소적 사후 분산 경계는 어떻게 더 날카운 평균 학습 곡선 경계로 확장될 수 있는가?
• RQ4 제안된 평균 학습 곡선 경계는 감쇠 속도와 정확도 측면에서 기존 분석적 경계를 초월하는가?
• RQ5 어떤 확률 분포가 사후 분산 경계의 수렴 조건을 충족하는가?

주요 결과

• 제안된 사후 분산 경계는 훈련 데이터 분포와 립시츠 연속 커널에 대한 온건한 조건 하에서 0으로 수렴하며, 이는 학습 일致성 보장에 기여한다.
• 경계는 O(N^(-1/2))의 감쇠 속도를 보이며, 마테른 커널의 실제 사후 분산 감쇠 속도와 일치하며, 기존 경계보다 수렴 행동에서 뛰어나다.
• 제곱 지수, 마테른, 유리 함수, 주기적 커널의 경우, 새로운 평균 학습 곡선 경계는 [23]의 경계보다 일관되게 날카롭고 수렴 속도가 뛰어나다.
• 수치적 비교 결과, 새로운 평균 학습 곡선 경계는 실제 평균 학습 곡선 위에 유지되며, 기존 근사치(예: [16], [33])는 자주 이를 가로질러 정확도에 문제가 있음을 시사한다.
• 이 경계는 다양한 커널 유형에 대해 강건하며 연속 입력 공간에서도 유효하여 활성 학습 및 실험 설계 응용에 광범위하게 활용 가능하다.
• 안전 중심 응용 분야에서 신뢰할 수 있는 국소적 불확실성 측정을 제공함으로써 더 날카운 균일 오차 경계를 가능하게 한다.