[논문 리뷰] Evolutionary Algorithms and Submodular Functions: Benefits of Heavy-Tailed Mutations

Tobias Friedrich, Andreas Göbel외 2명|arXiv (Cornell University)|2018. 05. 28.

Metaheuristic Optimization Algorithms Research인용 수 8

한 줄 요약

이 논문은 (1+1) 진화 알고리즘을 위한 새로운 꼬리가 두꺼운 변이 연산자 pmut_β를 소개한다. 이 연산자는 변이할 비트 수를 멱법칙 분포에서 선택하여 희귀한 큰 점프를 가능하게 한다. pmut_β를 사용하는 (1+1) EA는 비음수인 부분모odu라 함수 및 매트로이드 제약 조건 하의 대칭 부분모듈라 함수에 대해 다항 시간 내에 (1/3)-근사해를 달성하며, 실제 문제 인스턴스에서 균일 및 동적 변이 기법보다 뛰어난 성능을 보인다.

ABSTRACT

A core feature of evolutionary algorithms is their mutation operator. Recently, much attention has been devoted to the study of mutation operators with dynamic and non-uniform mutation rates. Following up on this line of work, we propose a new mutation operator and analyze its performance on the (1+1) Evolutionary Algorithm (EA). Our analyses show that this mutation operator competes with pre-existing ones, when used by the (1+1) EA on classes of problems for which results on the other mutation operators are available. We show that the (1+1) EA using our mutation operator finds a (1/3)-approximation ratio on any non-negative submodular function in polynomial time. We also consider the problem of maximizing a symmetric submodular function under a single matroid constraint and show that the (1+1) EA using our operator finds a (1/3)-approximation within polynomial time. This performance matches that of combinatorial local search algorithms specifically designed to solve these problems and outperforms them with constant probability. Finally, we evaluate the performance of the (1+1)EA using our operator experimentally by considering two applications: (a) the maximum directed cut problem on real-world graphs of different origins, and with up to 6.6 million vertices and 56 million edges and (b) the symmetric mutual information problem using a four month period air pollution data set. In comparison with uniform mutation and a recently proposed dynamic scheme our operator comes out on top on these instances.

연구 동기 및 목표

• 복잡한 비선형 최적화 과정에서 단순한 단모드 함수를 초월해 (1+1) EA의 성능을 향상시키는 변이 연산자를 설계하는 것.
• 정적 및 동적 변이율의 한계를 해결하여 속임수적인 골짜기와 큰 해밍 거리의 국소 최적해를 탐색하는 데 기여하는 것.
• 새로운 변이 연산자를 사용한 (1+1) EA의 이론적 성능을 제약 조건이 있는 및 없는 부분모듈라 함수 클래스에 대해 분석하는 것.
• 최대 방향 컷 및 대기 오염 데이터에서의 특징 선택과 같은 실제 적용 사례에서 새 연산자의 경험적 효과를 평가하는 것.

제안 방법

• k ∈ {1,…,n}을 멱법칙 분포에서 선택하고, 현재 해에서 무작위로 선택된 k개 비트를 뒤집는 pmut_β라는 변이 연산자를 제안한다.
• k에 대해 멱법칙 분포를 사용하여 이전의 동적 기법에 비해 큰 점프(예: >n/2)의 확률을 높인다.
• OneMax 및 점프 함수를 포함한 인위적 최적화 과정에서 (1+1) EA와 pmut_β의 조합을 분석하여 다항 시간 내의 런타임 한계를 확립한다.
• 매트로이드 제약 조건 하에서 비음수 부분모듈라 함수 및 대칭 부분모듈라 함수를 최대화하기 위해 (1+1) EA와 pmut_β를 적용한다.
• 대규모 그래프에서의 최대 방향 컷 문제 및 4개월 분량의 대기 오염 데이터에서의 대칭 상호정보량 기반 특징 선택 문제에 대해 경험적으로 성능을 평가한다.
• 여러 시간 예산과 기수 제약 조건 하에서 pmut_β를 균일 변이 및 다양한 β 값을 가진 fmut_β 연산자와 비교한다.

실험 결과

연구 질문

• RQ1 꼬리가 두꺼운 변이 연산자를 사용할 경우, 균일 및 동적 변이 기법에 비해 (1+1) EA의 비음수 부분모듈라 함수에 대한 성능 향상이 이루어지는가?
• RQ2 pmut_β를 사용하는 (1+1) EA는 매트로이드 제약 조건 하의 대칭 부분모듈라 함수에 대해 다항 시간 내에 (1/3)-근사해를 달성하는가?
• RQ3 대규모 실제 그래프 및 특징 선택 문제에서 pmut_β의 성능은 균일 및 fmut_β 변이 기법과 비교해 어떻게 다른가?
• RQ4 어떤 조건(예: 시간 예산, 문제 크기)에서 꼬리가 두꺼운 변이 연산자가 표준 변이 전략에 비해 뚜렷한 이점을 제공하는가?

주요 결과

• pmut_β를 사용하는 (1+1) EA는 비음수 부분모듈라 함수에 대해 다항 시간 내에 (1/3)-근사해를 달성한다.
• 매트로이드 제약 조건 하의 대칭 부분모듈라 함수에 대해, (1+1) EA는 pmut_β를 사용하여 다항 시간 내에 (1/3)-근사해를 찾으며, 이는 기존의 최고 수준의 조합적 국소 탐색 알고리즘과 동일한 성능이다.
• 최대 방향 컷 문제에서, pmut_β는 최대 660만 개 정점과 5600만 개 간선을 가진 실제 그래프에서 균일 변이 및 fmut_β보다 뛰어난 성능을 보였다.
• 4개월 분량의 대기 오염 데이터에서의 대칭 상호정보량 기반 특징 선택 과제에서, pmut_β는 작은 시간 예산과 작은 기수 제약 조건에서도 뛰어난 해 품질을 달성했다.
• 작은 시간 예산과 작은 k 값에서, pmut_β는 균일 변이 및 fmut_β보다 뚜렷이 뛰어나며, 특히 국소 최적해를 벗어나는 데 큰 점프가 유리한 경우에 두각을 나타냈다.
• 시간 예산이 증가함에 따라 성능 격차가 줄어들었으며, 이는 충분한 평가 횟수가 확보된 경우 표준 변이 전략으로도 충분할 수 있음을 시사한다.