[논문 리뷰] Fast Artificial Immune Systems

Doğan Çörüş, Pietro S. Oliveto외 1명|arXiv (Cornell University)|2018. 06. 01.

Artificial Immune Systems Applications참고 문헌 12인용 수 4

한 줄 요약

이 논문은 인공 면역 시스템에서 탐색을 크게 가속화하면서 국소 최적점에서 벗어나는 능력을 유지하는 두 가지 새로운 초변이 연산자—P-hype FCM 및 P-hype BM—을 제안한다. 각 비트플립 이후 파라볼라 분포를 사용해 확률적으로 적합도를 샘플링함으로써, 낭비되는 평가 수를 줄이고 Opt-IA가 Cliff 및 OneMax 문제에서 최적의 O(n log n) 실행 시간을 달성하도록 한다. 이는 기존의 FCM를 사용하는 전통적인 HMP보다 뛰어난 성능을 보인다.

ABSTRACT

Various studies have shown that characteristic Artificial Immune System (AIS) operators such as hypermutations and ageing can be very efficient at escaping local optima of multimodal optimisation problems. However, this efficiency comes at the expense of considerably slower runtimes during the exploitation phase compared to standard evolutionary algorithms. We propose modifications to the traditional `hypermutations with mutation potential' (HMP) that allow them to be efficient at exploitation as well as maintaining their effective explorative characteristics. Rather than deterministically evaluating fitness after each bitflip of a hypermutation, we sample the fitness function stochastically with a `parabolic' distribution which allows the `stop at first constructive mutation' (FCM) variant of HMP to reduce the linear amount of wasted function evaluations when no improvement is found to a constant. By returning the best sampled solution during the hypermutation, rather than the first constructive mutation, we then turn the extremely inefficient HMP operator without FCM, into a very effective operator for the standard Opt-IA AIS using hypermutation, cloning and ageing. We rigorously prove the effectiveness of the two proposed operators by analysing them on all problems where the performance of HPM is rigorously understood in the literature. %

연구 동기 및 목표

• 다중모달 최적화의 탐색 단계에서 기존의 변이 가능성을 가진 초변이(HMP)의 비효율성을 해결하기 위해.
• HMP가 지닌 강력한 국소 최적점 탈출 능력을 유지하면서 탐색 단계에서 함수 평가 수를 극적으로 줄이기 위해.
• FCM에 의해 발생하는 국소 최적점으로의 복귀 경향을 제거함으로써 초변이와 노화 기법을 Opt-IA 내에서 조화롭게 통합하기 위해.
• 단일 무작위 비편향 블랙박스 모델 하에서 새로운 연산자가 표준 기준 함수에 대해 최적의 점근적 실행 시간을 달성함을 엄밀히 증명하기 위해.
• 빠른 수렴을 보장하면서도 탐색 능력을 훼손하지 않는 파라미터 영역(특히 γ)을 특정하기 위해.

제안 방법

• P-hype FCM를 제안하며, 각 비트플립 이후 파라볼라 분포 p_i ≈ γ/i를 사용해 적합도를 확률적으로 샘플링하고, 첫 번째 유의미한 변이를 반환한다.
• P-hype BM을 도입하여 동일한 확률적 샘플링을 사용해 모든 n개의 비트플립을 평가하고, 발견된 최상의 해를 반환함으로써 조기 종료를 방지한다.
• γ를 샘플링 확률을 제어하는 데 사용하며, P-hype FCM의 경우 γ = O(1/log n), P-hype BM의 경우 γ = 1/(n log²n)로 설정하여 최적 성능를 확보한다.
• Opt-IA 프레임워크 내에서 이 연산자를 적용하여 클론 및 노화 기법과 조합함으로써 인구 집단의 다양성을 유지하고 국소 최적점에서 벗어나도록 한다.
• 적합도 수준 방법과 블랙박스 복잡도 이론을 활용한 엄밀한 실행 시간 분석을 통해 기존의 표준 HMP 및 RLS와의 성능를 비교한다.
• γ의 영향을 분석하여, 너무 큰 값은 국소 최적점으로의 조기 복귀로 인해 지수적 실행 시간을 초래함을 보여준다.

실험 결과

연구 질문

• RQ1 초변이 과정에서 각 비트플립 이후 적합도를 확률적으로 샘플링하면, 탐색 단계에서 낭비되는 평가 수를 줄일 수 있을까? 이 과정에서 탐색 능력은 손상되지 않을까?
• RQ2 제안된 P-hype FCM 연산자가 단일 무작위 비편향 블랙박스 모델 하에서 OneMax 및 LeadingOnes 문제에 대해 최적의 점근적 실행 시간을 달성할 수 있을까?
• RQ3 모든 변이를 평가하고 최상의 결과를 반환하는 P-hype BM는 Opt-IA의 노화 기법과 조화를 이룰 수 있을까? 특히 Cliff 함수와 같은 어려운 국소 최적점에서 벗어나는 데 성공할 수 있을까?
• RQ4 P-hype BM이 국소 최적점으로 복귀할 확률을 낮추면서도 빠른 수렴을 유지하기 위해 필요한 γ의 최소값은 얼마일까?
• RQ5 γ의 선택이 Jump, Cliff, Trap과 같은 다중모달 함수에서의 기대 실행 시간에 미치는 영향은 어떠한가? 특히 노화 기법과 조합했을 때의 영향은?

주요 결과

• P-hype FCM는 OneMax 및 LeadingOnes 문제에서 O(n log n)의 기대 실행 시간을 달성하며, 이는 단일 무작위 비편향 블랙박스 모델 하에서 Random Local Search(RLS)의 최적 성능와 일치한다.
• γ = 1/(n log²n)로 설정한 P-hype BM는 Opt-IA가 Cliff 함수를 O(n log n)의 기대 적합도 평가 수로 최적화할 수 있도록 한다. 이는 기존의 FCM를 사용하는 전통적 HMP보다 뛰어난 성능이다.
• γ = Ω(1/log n)일 경우 Cliff 문제에서 기대 실행 시간이 지수적으로 증가함을 보여주며, 이는 국소 최적점에서 효율적으로 벗어나기 위해 매우 작은 γ 값이 필수적임을 입증한다.
• 제안된 연산자들은 Jump, Cliff, Trap과 같은 다중모달 함수에서 표준 기반 진화 알고리즘(EA)보다 지수적 스피드업을 유지하며, HMP가 지닌 탐색 우수성을 그대로 유지한다.
• γ = O(1/log n)로 설정한 P-hype FCM는 블랙박스 복잡도 분석을 통해 최적의 탐색 시간을 확보하면서도 국소 최적점에서 벗어나는 능력을 유지함을 입증한다.
• 분석 결과, 기존의 HMP에 FCM를 적용할 경우 선형적으로 낭비되는 평가 수로 인해 탐색 단계에서 비효율적이며, 새로운 연산자들이 확률적 샘플링을 통해 이를 제거함을 확인했다.