[논문 리뷰] Optimal resampling for the noisy OneMax problem

Jialin Liu, Michael Fairbank외 2명|arXiv (Cornell University)|2016. 07. 22.

Optimization and Search Problems참고 문헌 16인용 수 7

한 줄 요약

이 논문은 추가적인 가우시안 노이즈가 있는 노이즈 있는 OneMax 문제에서 Random Mutation Hill-Climbing(RMHC) 알고리즘의 최적의 재표본 수를 분석적으로 유도한다. 노이즈 감소와 계산 비용 간의 균형을 고려할 때, 최적의 재표본 수는 문제 차원이 증가함에 따라 증가하며, 이는 이론적 분석과 시뮬레이션 및 적합도 평가 횟수의 이론적 모델링을 통해 검증된다.

ABSTRACT

The OneMax problem is a standard benchmark optimisation problem for a binary search space. Recent work on applying a Bandit-Based Random Mutation Hill-Climbing algorithm to the noisy OneMax Problem showed that it is important to choose a good value for the resampling number to make a careful trade off between taking more samples in order to reduce noise, and taking fewer samples to reduce the total computational cost. This paper extends that observation, by deriving an analytical expression for the running time of the RMHC algorithm with resampling applied to the noisy OneMax problem, and showing both theoretically and empirically that the optimal resampling number increases with the number of dimensions in the search space.

연구 동기 및 목표

• 노이즈 있는 OneMax 문제에서 RMHC의 최적 재표본 수를 결정하여 적합도 평가 횟수를 최소화한다.
• 재표본을 통한 노이즈 감소와 증가하는 계산 비용 사이의 트레이드오���을 분석한다.
• 추가적인 가우시안 노이즈가 존재하는 조건에서 최적 재표본 수가 문제 차원에 따라 어떻게 척도가 변하는지 조사한다.
• 다양한 차원과 재표본 수 수준에서 이론적 예측된 평가 횟수를 실증적 시뮬레이션을 통해 검증한다.

제안 방법

• 재표본을 통한 최적 해에 도달하기 위해 RMHC가 소비하는 평균 적합도 평가 횟수에 대한 분석적 표현을 유도한다.
• 각 적합도 평가가 독립적으로 손상되는 일정한 분산 σ²을 갖는 추가적인 가우시안 노이즈가 있는 노이즈 있는 OneMax 문제를 모델링한다.
• 각 후보 해의 적합도 평가를 독립적인 r개의 노이즈 있는 평가 평균을 취해 분산을 감소시키기 위해 재표본을 적용한다.
• 한 랜덤 비트를 뒤집어 이웃을 선택하고, 재표본 평균을 사용해 적합도를 비교하는 수정된 RMHC를 사용한다.
• 최적의 이전 해의 평균 적합도와 평가 횟수를 추적하기 위해 저장된 통계량 방법을 활용하여 효율성을 향상시킨다.
• 다양한 차원과 재표본 값에서 10,000회의 시험을 통해 유도된 평균 평가 횟수와 실증 평균을 비교하여 이론적 예측을 검증한다.

실험 결과

연구 질문

• RQ1 노이즈 있는 OneMax 문제에서 RMHC의 평균 적합도 평가 횟수를 최소화하는 데 최적의 재표본 수는 무엇인가?
• RQ2 최적 재표본 수는 문제 차원 n이 증가함에 따라 어떻게 변화하는가?
• RQ3 고차원 노이즈 있는 OneMax 문제에서 재표본이 여전히 유용한가? 만약 그렇다면, 그 효과는 어떻게 변화하는가?
• RQ4 다양한 재표본 수 수준과 차원에서 이론적 예측된 평가 횟수와 실증 결과의 일치 정도는 어느 정도인가?

주요 결과

• 최적의 재표본 수는 문제 차원이 증가함에 따라 증가하며, 특히 n > 10에서 재표본이 성공에 필수적인 역할을 한다.
• 낮은 차원(n = 10)에서는 재표본이 과도한 노이즈 감소 오버헤드로 인해 평가 횟수를 증가시켜 오히려 비효율적일 수 있다.
• n = 1000일 경우 최적의 재표본 수는 상당히 높으며, 저장된 통계량 방법을 사용할 경우 평가 횟수를 크게 감소시킨다.
• 이론적 예측된 평균 적합도 평가 횟수(예: r=1, n=10일 때 205.83)는 실증 평균(205.20)과 밀접하게 일치하여 모델의 타당성을 검증한다.
• 실증 결과는 최적의 이전 해 통계량을 저장하지 않을 경우 더 많은 평가 횟게 필요로 함을 보여주며, 상태 추적의 이점을 확인한다.
• 고차원 케이스(n ≫ 10)에서는 최적의 재표본을 사용할 경우 평가 횟수가 극적으로 감소함을 보여주며, 이는 재표본의 필수성을 입증한다.