[논문 리뷰] A Flexible Framework for Multi-Objective Bayesian Optimization using Random Scalarizations

Biswajit Paria, Kirthevasan Kandasamy외 1명|arXiv (Cornell University)|2018. 05. 30.

Advanced Multi-Objective Optimization Algorithms참고 문헌 46인용 수 34

한 줄 요약

이 논문은 랜덤 스칼라라이제이션을 사용하여 페어레토 프론트의 특정 영역을 목표로 하는 유연하고 계산적으로 효율적인 다목적 베이지안 최적화(MOO) 프레임워크를 제안한다. 이는 선호도 인식 최적화를 가능하게 하며, 하위선형의 리그레트를 달성하고 LSH 튜닝 및 뷰일라-존스 얼굴 검출과 같은 실제 문제들에서 기준보다 뛰어난 유연성, 확장성 및 리그레트 최소화 성능을 보인다.

ABSTRACT

Many real world applications can be framed as multi-objective optimization problems, where we wish to simultaneously optimize for multiple criteria. Bayesian optimization techniques for the multi-objective setting are pertinent when the evaluation of the functions in question are expensive. Traditional methods for multi-objective optimization, both Bayesian and otherwise, are aimed at recovering the Pareto front of these objectives. However, in certain cases a practitioner might desire to identify Pareto optimal points only in a subset of the Pareto front due to external considerations. In this work, we propose a strategy based on random scalarizations of the objectives that addresses this problem. Our approach is able to flexibly sample from desired regions of the Pareto front and, computationally, is considerably cheaper than most approaches for MOO. We also study a notion of regret in the multi-objective setting and show that our strategy achieves sublinear regret. We experiment with both synthetic and real-life problems, and demonstrate superior performance of our proposed algorithm in terms of the flexibility and regret.

연구 동기 및 목표

• 기존 MOO 방법들이 상충되는 목적이 포함된 전체 페어레토 프론트를 복원하려는 데에 한계가 있다는 점을 해결하기 위해.
• 도메인 특화 선호도에 기반해 사용자가 지정한 페어레토 프론트의 특정 영역에 최적화를 집중시킬 수 있도록 하기 위해.
• 목표 수에 따라 선형적으로 확장되며, 다양한 샘플링 전략을 지원하는 계산적으로 효율적인 MOO 방법을 개발하기 위해.
• 사용자 선호도를 통합하고 원하지 않는 영역에서의 샘플링을 처벌하는 다목적 설정에서의 리그레트 개념을 체계화하기 위해.
• 제안된 방법이 기준보다 낮거나 동등한 리그레트를 달성하면서도 목표 영역에 높은 샘플 집중도를 유지함을 실증적으로 검증하기 위해.

제안 방법

• 다목적 값들을 스칼라 유용도 점수로 변환하기 위해 사전 분포에서 샘플링된 가중치로 파arameter화된 랜덤 스칼라라이제이션 함수를 사용한다.
• 스칼라라이제이션된 목적함수에 표준 베이지안 최적화를 적용하며, 가우시안 프로세스 서로서모델을 사용해 획득 함수 최적화를 이끈다.
• 사용자 선호도를 표현하는 사전 분포에서 스칼라라이제이션 가중치를 샘플링함으로써, 알고리즘이 페어레토 프론트의 원하는 영역에 집중할 수 있도록 한다.
• 획득 함수는 스칼라라이제이션된 공간에서 탐색과 이용의 균형을 맞추기 위해 최적화되며, 다목적 설정에서 리그레트를 최소화하는 것이 목표이다.
• 스칼라라이제이션 가중치에 대한 사전 분포를 조정함으로써, 특정 페어레토 프론트 영역에 대한 타겟팅 샘플링과 전체 프론트 탐색을 모두 지원한다.
• 이론적 분석 결과, 정규성 조건 하에서 평가 수가 증가함에 따라 메서드가 제로 리그레트를 달성함을 보였다.

실험 결과

연구 질문

• RQ1 베이지안 최적화 프레임워크는 다목적 최적화에서 사용자가 정의한 페어레토 프론트 영역에서 효율적으로 샘플링할 수 있는가?
• RQ2 고정 또는 적응형 스칼라라이제이션 방법과 비교해 랜덤 스칼라라이제이션은 리그레트와 계산 비용 측면에서 어떻게 다른가?
• RQ3 제안된 방법은 목표 수에 대해 선형적으로 확장되면서도 낮은 리그레트를 유지하는가?
• RQ4 스칼라라이제이션 가중치에 대한 사전 분포를 통해 사용자 선호도를 통합해도 여전히 하위선형 리그레트를 달성할 수 있는가?
• RQ5 전체 페어레토 프론트 근사가 계산적으로 비현실적인 고차원 MOO 문제에서 이 프레임워크는 얼마나 효과적인가?

주요 결과

• 합성 및 실제 문제 실험을 통해, 제안된 방법은 초기 탐색 단계 이후 지정된 페어레토 프론트 영역에 샘플링을 집중시키는 데 성공했다.
• LSH-Glove 및 뷰일라-존스 튜닝 작업에서, 기준보다 낮거나 동등한 단순 리그레트를 달성했으며, 특히 고차원 설정에서 가장 두드러진 향상이 관찰되었다.
• 목표 수에 대해 선형 확장성을 보이며, 많은 상충 목표를 가진 문제에 적합함을 입증했다.
• 리그레트 분석 결과, 정규성 가정 하에서 하위선형 리그레트를 달성함을 보였으며, 평가 수가 증가함에 따라 리그레트는 제로에 수렴한다.
• 실증 결과는 이 방법이 선호도 기반 샘플링과 계산 효율성을 효과적으로 균형 잡고 있으며, 기준보다 타겟팅 탐색에서 뛰어난 성능을 보임을 확인했다.
• 프레임워크는 자연어 처리 및 컴퓨터 비전 파이프라인의 하이퍼파ram터 튜닝과 같은 실제 응용을 성공적으로 처리하여 실용적 유용성을 입증했다.