[논문 리뷰] Lifelong Bayesian Optimization

Yao Zhang, James Jordon외 2명|arXiv (Cornell University)|2019. 05. 29.

Gaussian Processes and Bayesian Inference참고 문헌 42인용 수 6

한 줄 요약

Lifelong Bayesian Optimization (LBO)는 순차적으로 도착하는 데이터셋 간의 공유 표현을 동적으로 학습하여 초모수 최적화를 가속화하는 다중작업 베이지안 최적화 프레임워크이다. 새로운 함수를 위해 베이지안 비모수적 사전분포(Indian Buffet Process)를 사용하여 신경망을 적응적으로 도입함으로써, LBO는 표준 BO 및 다중작업 기준선 대비 더 빠른 수렴과 뛰어난 강건성을 확보한다. 이는 합성 및 실제 의료 데이터셋 모두에서 입증되었다.

ABSTRACT

Automatic Machine Learning (Auto-ML) systems tackle the problem of automating the design of prediction models or pipelines for data science. In this paper, we present Lifelong Bayesian Optimization (LBO), an online, multitask Bayesian optimization (BO) algorithm designed to solve the problem of model selection for datasets arriving and evolving over time. To be suitable for "lifelong" Bayesian Optimization, an algorithm needs to scale with the ever increasing number of acquisitions and should be able to leverage past optimizations in learning the current best model. We cast the problem of model selection as a black-box function optimization problem. In LBO, we exploit the correlation between functions by using components of previously learned functions to speed up the learning process for newly arriving datasets. Experiments on real and synthetic data show that LBO outperforms standard BO algorithms applied repeatedly on the data.

연구 동기 및 목표

• 지속적으로 수집되는 데이터가 존재하는 실세계 응용 분야(의료 등)에서 시간이 지남에 따라 변화하는 데이터셋에 대한 모델 선택 과제를 해결한다.
• 각 새로운 데이터셋마다 다시 시작하는 표준 베이지안 최적화의 한계를 극복하여 과거 최적화 데이터의 효율적 활용을 도모한다.
• 관련된 데이터셋에 대응하는 블랙박스 함수 간의 상관관계를 활용하여 초모수 최적화의 샘플 효율성과 수렴 속도를 향상시킨다.
• 재학습 없이도 성능을 유지할 수 있는 확장 가능한 온라인 방법을 개발하여, 새로운 데이터셋이 이전 데이터셋과 크게 다를 경우에도 성능이 유지되도록 한다.
• 고정된 잠재 기능 수나 모든 작업 간 공유되는 신경망을 가정하지 않는 유연한 비모수적 접근을 도입하여 데이터셋 간의 공유 구조를 모델링한다.

제안 방법

• 블랙박스 함수를 모델링하기 위해 도입되는 신경망의 수를 결정하기 위해 비모수적 사전분포(Indian Buffet Process)를 사용하여 새로운 데이터셋에 적응적으로 반영한다.
• 변분 추론 프레임워크를 활용해 신경망 파라미터와 잠재 변수를 동시에 최적화함으로써, 작업 간 공유 표현의 종단 간 학습을 가능하게 한다.
• 각 블랙박스 함수를 공유된 딥 네트워크 기반 커널을 가진 가우시안 프로세스로 모델링하여 관련된 데이터셋 간의 상관관계를 포착한다.
• Indian Buffet Process의 후행 확률 기반으로 관련성이 있는지 여부를 판단하여, 필요할 경우에만 작업별 전용 신경망을 도입함으로써 탄력성과 비유사 작업에 대한 과적합 방지를 보장한다.
• 현재 데이터와 이전 데이터셋에서 학습된 공유 표현을 모두 반영한 획득 함수를 사용하는 다중작업 베이지안 최적화 프레임워크를 적용한다.
• 계산 효율성을 유지하기 위해 희소 근사 기법을 사용하며, 데이터셋 수와 함수 평가 횟수가 시간이 지남에 따라 증가함에 따라 유리하다.

실험 결과

연구 질문

• RQ1 과거 관련 데이터셋의 최적화 데이터를 효과적으로 활용하여 새로운 도착하는 데이터셋에서의 학습을 가속화할 수 있는가?
• RQ2 새로 도착한 데이터셋에 대해 기존 표현을 재사용할지, 새로운 표현을 도입할지 동적으로 결정할 수 있는가?
• RQ3 공유 표현에 대한 비모수적 사전분포(Indian Buffet Process를 통한)가 고정되거나 사전에 지정된 다중작업 구조보다 더 뛰어난 성능과 강건성을 제공하는가?
• RQ4 실제 데이터에서 수렴 속도와 최종 성능 측면에서 표준 베이지안 최적화 및 기존의 다중작업 BO 접근법과 비교해 볼 때, 제안된 방법은 어떠한가?
• RQ5 새로운 데이터셋의 분포가 이전 데이터셋과 다를 경우, 이 방법은 얼마나 효과적으로 유지되는가?

주요 결과

• LBO는 UNOS-I, II, III 데이터셋 전부에서 50회 함수 평가 이내에 최대 AUC 측면에서 표준 베이지안 최적화 및 MTGP, ABLR-50, ABLR-100과 같은 다중작업 기준선을 뛰어넘는 성능을 보였다.
• UNOS-I 데이터셋에서 LBO는 무작위 검색 대비 약 1.25–1.30의 정규화된 AUC를 달성하여 첫 50회의 평가 내에서 성능이 25–30% 향상됨을 나타냈다.
• LBO는 4–6년의 다양한 수준의 데이터 겹침에 대해 일관된 성능을 유지하여 분포 이동과 시간에 따른 데이터 감소에 강건함을 입증했다.
• 새로운 신경망이 필요한 경우를 성공적으로 식별했다. 예를 들어 UNOS-III에서는 새로운 네트워크 $ g_3 $ 가 도입되었으며, 이는 비유사 함수를 공유 표현에 강제로 통합하지 않는다는 점을 보여준다.
• 합성 실험에서는 LBO가 함수 간 상관관계 구조를 정확히 모델링하며, 새로운 상관관계가 없는 데이터셋이 도착함에 따라 활성화된 신경망 수가 적절히 증가함을 확인했다.
• 변분 추론 프레임워크 덕분에 확장 가능한 학습이 가능했으며, 데이터셋 수가 증가하더라도 다시 시작하지 않고도 잘 일반화됨을 입증했다.