[논문 리뷰] Safe Active Learning for Multi-Output Gaussian Processes

Cen-You Li, Barbara Rakitsch외 1명|arXiv (Cornell University)|2022. 03. 28.

Gaussian Processes and Bayesian Inference인용 수 4

한 줄 요약

이 논문은 다중 출력 가우시안 프로세스(MOGP)를 위한 안전한 액티브 러닝 프레임워크를 제안한다. 이는 정보성 있는 입력을 선택하면서도 안전 제약을 준수하고 비동기적 출력 측정을 처리한다. 선형 공역화 모델(LMC)을 활용하고 불확실성 인식 기반의 할당 함수를 통합함으로써, 기존 기준 대비 더 빠른 수렴과 뛰어난 데이터 효율성을 달성한다. 시뮬레이션 및 실제 공학 데이터셋에서 안전 기준을 확률적 제약 조건을 통해 강제 적용함으로써 뛰어난 성능을 입증한다.

ABSTRACT

Multi-output regression problems are commonly encountered in science and engineering. In particular, multi-output Gaussian processes have been emerged as a promising tool for modeling these complex systems since they can exploit the inherent correlations and provide reliable uncertainty estimates. In many applications, however, acquiring the data is expensive and safety concerns might arise (e.g. robotics, engineering). We propose a safe active learning approach for multi-output Gaussian process regression. This approach queries the most informative data or output taking the relatedness between the regressors and safety constraints into account. We prove the effectiveness of our approach by providing theoretical analysis and by demonstrating empirical results on simulated datasets and on a real-world engineering dataset. On all datasets, our approach shows improved convergence compared to its competitors.

연구 동기 및 목표

• 측정 비용이 높거나 비동기적인 상황에서 상호 연관된 출력을 가진 다중 출력 회귀 문제에서 데이터 효율적이고 안전한 액티브 러닝의 과제를 해결한다.
• 다중 출력 가우시안 프로세스를 위한 액티브 러닝에 안전 제약 조건을 통합하여 예측값이 사전에 정의된 안전 운영 영역 내에 머무르도록 보장한다.
• 정보성과 안전성의 균형을 이루는 할당 함수를 개발하여 불확실성과 상관관계를 고려한 입력 및 출력의 선택적 쿼리 가능성을 보장한다.
• 실제 공학 데이터에서의 방법에 대한 실험적 검증을 통해 최신 기술 대비 더 빠른 수렴과 뛰어난 강인성을 입증한다.

제안 방법

• 선형 공역화 모델(LMC)을 활용하여 다중 출력 가우시안 프로세스(MOGP)에서 상호 출력 상관관계와 안전 제약 조건을 고려한 새로운 할당 함수를 제안한다.
• 각 출력을 공유 잠재 GP의 가중 합으로 모델링하여 상관관계를 활용하고 불확실성 정량화를 가능하게 한다.
• 확률적 임계값을 통한 안전 제약 조건을 도입: p(h(x) ≤ z_max) > 0.95로, 쿼리된 점이 안전 운영 영역 내에 머무르도록 보장한다.
• 결합 과정 모델로의 이론적 분석을 확장하여 출력 별로 다른 부드러움을 허용하고 모델링의 유연성을 향상시킨다.
• 예상 정보량과 안전성 타당성을 기반으로 반복적으로 입력을 선택하는 풀 기반 액티브 러닝 설정을 구현한다.
• 개별 출력을 독립적으로 쿼리할 수 있도록 하여 비동기적 측정을 지원함으로써 예산 제약 하에서의 유연성을 향상시킨다.

실험 결과

연구 질문

• RQ1 비동기적 출력 측정이 존재하는 다중 출력 가우시안 프로세스 회귀에서 액티브 러닝을 어떻게 안전하고 효율적으로 만들 수 있는가?
• RQ2 MOGP에서 정보량과 안전 제약 조건 이행 간의 최적 균형을 이루는 할당 함수 설계는 무엇인가?
• RQ3 실제 및 시뮬레이션 데이터셋에서 기존의 액티브 러닝 및 안전 러닝 기준 대비 제안된 방법의 수렴 속도와 데이터 효율성은 어떻게 비교되는가?
• RQ4 LMC에서 공유 잠재 함수를 사용할 경우 다중 출력 액티브 러닝에서 데이터 효율성과 불확실성 추정에 어떤 영향을 미치는가?
• RQ5 부분적으로 관측된 출력 상황에서 출력 불확실성과 측정 비용이 다양할 경우, 방법의 성능은 어떻게 되는가?

주요 결과

• 안전 제약 조건 하에서 약 100개의 관측치로 테스트 RMSE 0.85를 달성하였으며, 기준 방법은 훨씬 더 많은 데이터와 수백 개의 유도링 포인트를 사용해도 포화 수준 0.65에 머물렀다.
• 실제 엔진 데이터셋에서, 30개의 독립 실험을 통해 경쟁 방법 대비 더 빠른 수렴과 더 나은 일반화 성능을 보였다. 이는 낮은 RMSE와 높은 테스트 로그우도로 입증되었다.
• 절단 실험에서 MOGP 기반 액티브 러닝을 적용한 부분 관측 출력(POO) 설정이 전체 관측 출력(FOO) 설정보다 더 높은 데이터 효율성을 보였으며, 특히 고정 예산 조건에서 두드러졌다.
• 알고리즘이 안전 제약 조건을 효과적으로 준수하였으며, z_max = 1일 때 학습 데이터의 20.55%가 안전하지 않았지만, 액티브 러닝 기간 동안 p(h(x) ≤ 1) > 0.95를 확보하였다.
• 이론적 분석을 통해 제안된 할당 함수 하에 안전한 액티브 러닝 알고리즘이 수렴함을 확인하였으며, 안전성과 불확실성 감소에 대한 보장을 제공한다.
• 할당 함수는 탐색과 안전성의 균형을 효과적으로 유지하며, 출력 간 불확실성이 균형을 이루었을 때 고불확실성 출력 측면으로의 편향이 감소한다.