[논문 리뷰] Incorporating Expert Prior Knowledge into Experimental Design via Posterior Sampling

Cheng Li, Sunil Gupta외 4명|arXiv (Cornell University)|2020. 02. 26.

Advanced Multi-Objective Optimization Algorithms참고 문헌 25인용 수 5

한 줄 요약

이 논문은 최적값의 위치에 대한 전문가 사전 지식을 사전 분포를 통해 최적값에 적용함으로써 베이지안 최적화 프레임워크를 제안한다. 사후 샘플링을 통해 효율적인 실험 설계를 유도하며, 전문가 직관을 최적값에 대한 흐린 사전분포로 모델링하고 관측값으로 업데이트함으로써 고비용의 블랙박스 최적화에서 수렴 속도를 가속화한다. 합성 함수, 하이퍼파rameter 튜닝, 실제 폴리머 섬유 실험에서 뚜렷한 성능 향상을 보였다.

ABSTRACT

Scientific experiments are usually expensive due to complex experimental preparation and processing. Experimental design is therefore involved with the task of finding the optimal experimental input that results in the desirable output by using as few experiments as possible. Experimenters can often acquire the knowledge about the location of the global optimum. However, they do not know how to exploit this knowledge to accelerate experimental design. In this paper, we adopt the technique of Bayesian optimization for experimental design since Bayesian optimization has established itself as an efficient tool for optimizing expensive black-box functions. Again, it is unknown how to incorporate the expert prior knowledge about the global optimum into Bayesian optimization process. To address it, we represent the expert knowledge about the global optimum via placing a prior distribution on it and we then derive its posterior distribution. An efficient Bayesian optimization approach has been proposed via posterior sampling on the posterior distribution of the global optimum. We theoretically analyze the convergence of the proposed algorithm and discuss the robustness of incorporating expert prior. We evaluate the efficiency of our algorithm by optimizing synthetic functions and tuning hyperparameters of classifiers along with a real-world experiment on the synthesis of short polymer fiber. The results clearly demonstrate the advantages of our proposed method.

연구 동기 및 목표

• 고비용의 실험 설계를 위한 베이지안 최적화에 전문가의 최적값 위치에 대한 사전 지식을 통합하는 데 도전하는 것.
• 최적값 위치에 대한 사전 분포를 사용하여 전문가의 믿음을 표현하고 업데이트할 수 있는 실용적인 방법을 개발하는 것.
• 지능적인 샘플링을 통해 고비용 최적화 작업에서의 수렴 속도를 가속화함으로써 실험 설계의 효율성을 향상시키는 것.
• 합성 함수, 머신러닝 하이퍼파rameter 튜닝, 그리고 실제 폴리머 섬유 합성 실험에서 방법을 검증하는 것.

제안 방법

• 최적값 위치 x*에 대한 전문가 지식을 사전 분포 π(x*)로 표현한다.
• 미지의 함수 f(x)를 가우시안 프로세스(GP)로 모델링하며, f에 대해 표준 비정보성 사전분포를 사용한다.
• 최적값에 대한 전문가 사전분포 π(x*)와 GP 사후분포를 결합하여 사후분포 p(x* | D_n, π(x*))를 유도한다.
• 사후분포 p(x* | D_n, π(x*))에서 샘플링하여 다음 평가 지점을 사후 샘플링을 통해 유도한다.
• 최적값의 사후분포에 대해 톰슨 샘플링을 적용하여 순차적 실험에서 탐색과 이용의 균형을 이룬다.
• 새로운 관측값 D_n을 반복적으로 업데이트하여 최적값 위치 추정치를 정밀화한다.

실험 결과

연구 질문

• RQ1 최적값의 위치에 대한 전문가 사전 지식를 베이지안 최적화 프레임워크 내에서 공식적으로 표현할 수 있는가?
• RQ2 그러한 사전 지식을 통합함으로써 실험 설계 알고리즘의 수렴에 이론적으로 어떤 영향을 미치는가?
• RQ3 제안된 방법은 표준 베이지안 최적화에 비해 수렴 속도와 샘플 효율성 측면에서 어떻게 비교되는가?
• RQ4 성능 저하 없이 약한 또는 모호한 전문가 사전 지식을 효과적으로 처리할 수 있는가?
• RQ5 고비용 함수 평가가 수반되는 실제 실험 설계 시나리오에서 이 방법은 어떻게 성능을 발휘하는가?

주요 결과

• 제안된 최적값에 대한 전문가 사전 지식을 통합한 사후 샘플링 방법은 표준 베이지안 최적화에 비해 합성 함수 최적화에서 수렴 속도를 크게 향상시켰다.
• 랜덤 포레스트와 XGBoost의 하이퍼파rameter 튜닝에서, 전문가 사전 지식가 진짜 최적값과 일치할 경우 더 높은 성능을 더 적은 평가 수로 달성하였다.
• 실제 폴리머 섬유 합성 실험에서는 더 적은 시행 수로 최적의 구성 조건을 식별하였으며, 바람직한 섬유 비율(50–150 마이크론)을 기존 방법보다 빨리 최대화하였다.
• 전문가 사전 지식이 약하거나 약간 정확도가 떨어지는 경우에도 알고리즘이 강건하게 유지되어 다수의 런에서 안정적인 성능을 보였다.
• 합성 및 실제 실험 환경에서 랜덤 서치와 표준 BO에 비해 사후 샘플링 접근법이 우수한 성능을 보이며 실용적 유용성을 입증하였다.
• 이 방법은 기저 함수에 대한 강력한 가정 없이도 전문가 직관을 효과적으로 활용할 수 있어 실제 실험 도메인에 적합하다.