[논문 리뷰] Multi-Objective Simultaneous Optimistic Optimization

Abdullah Al-Dujaili, Suresh Sundaram|arXiv (Cornell University)|2016. 12. 26.

Advanced Multi-Objective Optimization Algorithms참고 문헌 45인용 수 3

한 줄 요약

이 논문은 다중 목적 동시 낙관적 최적화(MO-SOO)를 제안한다. MO-SOO는 다중 보상 밴드이트를 사용하여 결정 공간을 계층적으로 분할하고, 블랙박스 다중 목적 최적화에 낙관적 순차적 결정 기법을 적용하는 트리 기반 알고리즘이다. MO-SOO는 함수의 부드러움과 갈등 차원에 따라 결정적인 상한선을 갖는 epsilon-지표에 대해 유한 시간 수렴성을 확보하고 점근적 일致성을 보이며, 300개의 벤치마크 문제에서 최신 기술인 SMS-EMOA와 유사한 성능을 보인다.

ABSTRACT

Optimistic methods have been applied with success to single-objective optimization. Here, we attempt to bridge the gap between optimistic methods and multi-objective optimization. In particular, this paper is concerned with solving black-box multi-objective problems given a finite number of function evaluations and proposes an optimistic approach, which we refer to as the Multi-Objective Simultaneous Optimistic Optimization (MO-SOO). Popularized by multi-armed bandits, MO-SOO follows the optimism in the face of uncertainty principle to recognize Pareto optimal solutions, by combining several multi-armed bandits in a hierarchical structure over the feasible decision space of a multi-objective problem. Based on three assumptions about the objective functions smoothness and hierarchical partitioning, the algorithm finite-time and asymptotic convergence behaviors are analyzed. The finite-time analysis establishes an upper bound on the Pareto-compliant unary additive epsilon indicator characterized by the objectives smoothness as well as the structure of the Pareto front with respect to its extrema. On the other hand, the asymptotic analysis indicates the consistency property of MO-SOO. Moreover, we validate the theoretical provable performance of the algorithm on a set of synthetic problems. Finally, three-hundred bi-objective benchmark problems from the literature are used to substantiate the performance of the optimistic approach and compare it with three state-of-the-art stochastic algorithms, namely MOEA/D, MO-CMA-ES, and SMS-EMOA in terms of two Pareto-compliant quality indicators. Besides sound theoretical properties, MO-SOO shows a performance on a par with the top performing stochastic algorithm, viz. SMS-EMOA.

연구 동기 및 목표

• 유한한 평가 예산을 가진 블랙박스 다중 목적 최적화 문제를 해결하기 위해.
• 원래 단일 목적 최적화에서 사용된 낙관적 순차적 결정 기법을 다중 목적 설정으로 확장하기 위해.
• 부드러움과 계층적 분할 가정 하에 연속적인 다중 목적 문제에 대해 이론적 수렴 보장을 제공하기 위해.
• 대규모 벤치마크 세트에서 최신 기술의 확률적 알고리즘과의 실험적 검증을 위해.
• 특히 갈등 차원이 알고리즘 성능에 미치는 영향을 분석하기 위해.

제안 방법

• MO-SOO는 다중 보상 밴드이트의 계층적 트리를 사용하여 결정 공간을 다양한 척도에서 분할한다.
• 상한 신뢰도 기반으로 선택된 노드를 확장하기 위해 '불확실성 속 낙관주의 원칙'을 적용한다.
• 목표 공간에서의 노드 비교를 위해 ND(⋅) 연산자를 사용하여 비열등 집합을 유지한다.
• 함수의 부드러움과 갈등 차원에 따라 의존하는, 단일 추가 epsilon 지표에 대한 상한선을 통해 유한 시간 수렴성을 분석한다.
• 동일한 가정 하에 점근적 일치성을 증명하여 진정한 파레토 경계로의 수렴을 보여준다.
• 반복마다 방문 가능한 최대 깊이를 제어하는 깊이 기반 탐색 전략을 사용한다.

실험 결과

연구 질문

• RQ1 낙관적 순차적 결정 기법을 다중 목적 블랙박스 최적화로 효과적으로 확장할 수 있는가?
• RQ2 연속적인 다중 목적 문제에서의 유한 시간 성능 및 점근적 수렴에 대해 어떤 이론적 보장을 확보할 수 있는가?
• RQ3 파레토 경계의 극점 대비 경계의 구조를 측정하는 갈등 차원은 알고리즘 수렴과 성능에 어떤 영향을 미치는가?
• RQ4 MO-SOO는 MOEA/D, MO-CMA-ES, SMS-EMOA와 같은 최신 기술의 확률적 다중 목적 최적화기와 실험적으로 어떻게 비교되는가?
• RQ5 약한 구조를 가진 다중 최적점 목표 함수를 다룰 때 MO-SOO의 한계는 무엇인가?

주요 결과

• MO-SOO는 목표 함수의 부드러움과 파레토 경계의 갈등 차원에 따라 결정적인 상한선을 갖는 단일 추가 epsilon 지표를 확보한다.
• 알고리즘은 제시된 가정 하에 점근적 일치성을 보이며, 진정한 파레토 경계로 수렴한다.
• 이중 目표 벤치마크 문제 300개에서, MO-SOO는 두 개의 파레토 적합 지표 측면에서 최고 성능을 보인 SMS-EMOA 알고리즘과 유사한 성능을 보였다.
• 약한 구조를 가진 다중 최적점 목표 함수는 MO-SOO의 근접 최적 차원과 순차적 분할에 의존하는 점에서 도전 과제를 야기한다.
• 이론적 상한선은 실험 결과를 잘 따라가며 이론 분석의 타당성을 검증한다.
• 반복 횟수와 깊이 방문 수는 결정 공간의 차원과 갈등 차원에 의해 크게 영향을 받으며, 높은 차원은 계산 비용을 증가시킨다.