[논문 리뷰] Stochastic convergence of random search to fixed size Pareto set approximations

Marco Laumanns|arXiv (Cornell University)|2007. 11. 19.

Advanced Multi-Objective Optimization Algorithms참고 문헌 17인용 수 7

한 줄 요약

이 논문은 최대 크기가 $k$인 고정 크기의 파레토 집합을 보장된 오차 한계 $\epsilon$로 근사하기 위한 랜덤 검색 알고리즘에 대한 확률적 수렴 결과를 제시한다. $\epsilon = 2^{\delta}$이고 $\delta$는 파레토 집합을 최대 $k$개의 점으로 완전히 커버할 수 있는 가장粗い 격자 수준일 때, 거의 확실히 $\epsilon$-파레토 집합으로 수렴하도록 보장하는 다수준 격자 기반 선택 기준을 도입한다.

ABSTRACT

This paper presents the first convergence result for random search algorithms to a subset of the Pareto set of given maximum size k with bounds on the approximation quality. The core of the algorithm is a new selection criterion based on a hypothetical multilevel grid on the objective space. It is shown that, when using this criterion for accepting new search points, the sequence of solution archives converges with probability one to a subset of the Pareto set that epsilon-dominates the entire Pareto set. The obtained approximation quality epsilon is equal to the size of the grid cells on the finest level of resolution that allows an approximation with at most k points within the family of grids considered. While the convergence result is of general theoretical interest, the archiving algorithm might be of high practical value for any type iterative multiobjective optimization method, such as evolutionary algorithms or other metaheuristics, which all rely on the usage of a finite on-line memory to store the best solutions found so far as the current approximation of the Pareto set.

연구 동기 및 목표

• 고정 크기의 파레토 집합 부분집합으로의 거의 확실한 수렴을 랜덤 검색 알고리즘에 대해 확립한다. 이때 근사 오차는 유한하게 제한된다.
• 진화 알고리즘과 같은 반복적 다목적 최적화 방법에서의 유한 메모리 아카이빙에 실용적인 필요성을 충족시킨다.
• 주어진 최대 아카이브 크기 $k$에 대해, 근사의 품질을 $\epsilon$-지배로 정량화한 이론적 보장을 제공한다.
• 계층적 격자 기반의 새로운 선택 메커니즘을 도입하여, 명확하게 정의된 근사 정확도로 수렴할 수 있도록 한다.
• 격자 해상도 수준을 통해 아카이브 크기 $k$와 근사 오차 $\epsilon$ 사이의 상호 교환 관계를 수식화한다.

제안 방법

• 목표 공간에 다수준 격자 구조를 도입하며, 각 수준은 서로 다른 셀 크기 $2^b$의 해상도에 해당한다.
• 격자 셀 기반의 지배 관계 $\unrhd_b$를 정의한다: $f(x) + 2^b \geq f(y)$ 이면 $x \unrhd_b y$로 간주하며, 상자 기반 비교를 가능하게 한다.
• 아카이브 알고리즘의 두 단계 업데이트 규칙을 사용한다: 첫째, 현재 아카이브 내에서 지배되는 점들을 $\unrhd_b$ 기반으로 제거한다; 둘째, 커버리지 향상 또는 독립성 유지 시에만 새로운 점을 추가한다.
• 커버리지와 다양성을 균형 잡기 위해 업데이트 과정에서 동적 격자 수준 $\beta$를 활용하며, 아카이브가 항상 독립적이고 지배되지 않도록 보장한다.
• 마르코프 체인 프레임워크에서 흠뻑 잠기게 되는 상태( absorbing states ) 개념을 적용하여 수렴을 증명한다. 이는 더 이상 향상이 불가능한 상태에 도달했을 때 시스템이 안정화됨을 의미한다.
• 모든 파레토 집합을 최대 $k$개의 점으로 상자 기반 지배로 커버할 수 있는 가장粗운 격자 수준 $\delta$를 활용하여 근사 오차 $\epsilon = 2^{\delta}$를 정의한다.

실험 결과

연구 질문

• RQ1 랜덤 검색 알고리즘이 유한한 오차 $\epsilon$를 갖는 고정 크기의 파레토 집합 근사로 확률적으로 수렴할 수 있는가?
• RQ2 어떤 선택 기준이 아카이브가 최대 $k$개의 크기로 $\epsilon$-파레토 집합으로 수렴하도록 보장하는가?
• RQ3 근사 오차 $\epsilon$는 격자 해상도와 최대 아카이브 크기 $k$와 어떻게 관련이 있는가?
• RQ4 제안된 선택 규칙 하에 $\epsilon$-파레토 집합으로의 수렴이 거의 확실한가?
• RQ5 제안된 방법이 최종 아카이브가 최소한의 중복을 포함하면서 전체 파레토 집합을 $\epsilon$-지배 수준까지 커버할 수 있도록 보장할 수 있는가?

주요 결과

• 랜덤 검색 알고리즘이 생성하는 해 아카이브의 수열은 확률 1로 전체 파레토 집합을 $\epsilon$-지배하는 파레토 집합의 부분집합로 수렴한다.
• 근사 오차 $\epsilon$는 정확히 $2^{\delta}$이며, 여기서 $\delta$는 최대 $k$개의 점으로 파레토 집합을 완전히 커버할 수 있는 가장粗운 격자 수준이다.
• 알고리즘의 마르코프 체인의 임의의 흡수 상태는 $\mathcal{B}_{\delta}(\mathcal{A}) = \mathcal{X}$를 만족하며, 이는 아카이브 $\mathcal{A}$가 모든 타당한 해를 $\epsilon$-지배한다는 의미이다.
• 알고리즘은 제약 조건 $|\mathcal{A}| \leq k$ 하에, $\delta-1$ 수준의 격자 상자 각각이 포함하는 파레토 집합 원소의 수를 최대화하도록 보장한다.
• 이 방법은 최종 아카이브가 $\epsilon$-파레토 집합임을 보장하며, $\epsilon = 0$일 경우 표준 커버링 독립 집합으로 축소된다.
• 유한한 검색 공간을 전제로 하며, 이 결과는 메타휴리스틱에서의 유한 메모리 아카이빙에 대한 이론적 기반을 제공한다.