[논문 리뷰] A Two stage Adaptive Knowledge Transfer Evolutionary Multi-tasking Based on Population Distribution for Multi/Many-Objective Optimization

Zhengping Liang, Weiqi Liang외 3명|arXiv (Cornell University)|2020. 01. 03.

Advanced Multi-Objective Optimization Algorithms참고 문헌 56인용 수 10

한 줄 요약

이 논문은 인구 분포 기반의 이중단계 적응형 지식 전이를 사용하는 다중/다목적 최적화를 위한 진화적 다중작업 알고리즘인 EMT-PD를 제안한다. 확률 모델을 활용해 탐색을 안내하고 개별 개체의 탐색 범위를 동적으로 조정함으로써 수렴성과 다양성을 향상시켜, 새로 설계된 다목적 기준을 포함한 다중작업 테스트 세트에서 여섯 개의 최신 기술 알고리즘을 능가한다.

ABSTRACT

Multi-tasking optimization can usually achieve better performance than traditional single-tasking optimization through knowledge transfer between tasks. However, current multi-tasking optimization algorithms have some deficiencies. For high similarity problems, the knowledge that can accelerate the convergence rate of tasks has not been fully taken advantages of. For low similarity problems, the probability of generating negative transfer is high, which may result in optimization performance degradation. In addition, some knowledge transfer methods proposed previously do not fully consider how to deal with the situation in which the population falls into local optimum. To solve these issues, a two-stage adaptive knowledge transfer evolutionary multi-tasking optimization algorithm based on population distribution, labeled as EMT-PD, is proposed. EMT-PD can accelerate and improve the convergence performance of tasks based on the knowledge extracted from the probability model that reflects the search trend of the whole population. At the first transfer stage, an adaptive weight is used to adjust the step size of individual's search, which can reduce the impact of negative transfer. At the second stage of knowledge transfer, the individual's search range is further adjusted dynamically, which can improve the diversity of population and be beneficial for jumping out of local optimum. Experimental results on multi-tasking multi-objective optimization test suites show that EMT-PD is superior to other six state-of-the-art evolutionary multi/single-tasking algorithms. To further investigate the effectiveness of EMT-PD on many-objective optimization problems, a multi-tasking many-objective test suite is also designed in this paper. The experimental results on the new test suite also demonstrate the competitiveness of EMT-PD.

연구 동기 및 목표

• 고유도가 높고 낮은 문제를 다루는 데 있어 기존 다중작업 진화 알고리즘의 한계를 해결한다.
• 인구 분포를 기반으로 한 적응형 지식 전이 조정을 통해 다중작업 최적화에서 부정적 전이를 완화한다.
• 두 번째 지식 전이 단계에서 개체의 탐색 범위를 동적으로 조정함으로써 인구 다양성을 향상시키고 局부 최적해에서 벗어나도록 한다.
• 새로가 설계된 다목적 기준을 포함한 다목적 및 다다목적 최적화 테스트 세트에서 제안된 방법을 평가한다.
• EMT-PD가 여섯 개의 최신 기술 진화 단일 및 다중작업 알고리즘보다 뛰어나다는 것을 입증한다.

제안 방법

• 각 작업에 대해 확률 모델을 구축하여 인구의 탐색 경향을 파악하고 전이 가능한 지식을 추출한다.
• 첫 번째 지식 전이 단계에서 부정적 전이의 위험을 줄이기 위해 새로운 적응형 가중치를 적용한다.
• 두 번째 단계에서 개체의 탐색 범위를 동적으로 조정하여 인구 다양성을 향상시키고 局부 최적해에서 벗어나도록 한다.
• 다양한 작업 간의 확률 모델의 곱을 사용하여 지식 전이 신호를 생성하고, 이를 개인의 진화를 안내한다.
• 다양한 테스트 문제에서 강력한 일반성과 강인성을 보이기 때문에 기본으로 가우시안 확률 모델을 선택한다.
• 전달된 지식에 기반해 개체의 변이 및 선택 전략을 수정함으로써 지식 전이를 진화 프레임워크에 통합한다.

실험 결과

연구 질문

• RQ1 다중작업 다목적 최적화에서 부정적 전이를 최소화하기 위해 지식 전이를 어떻게 적응적으로 제어할 수 있는가?
• RQ2 인구 분포 기반의 확률 모델은 다중작업 진화 알고리즘에서 수렴성과 다양성을 얼마나 향상시킬 수 있는가?
• RQ3 이중단계 지식 전이 메커니즘은 진화 과정에서 수렴성과 다양성을 효과적으로 균형 잡을 수 있는가?
• RQ4 EMT-PD는 최신 기술 방법과 비교해 다다목적 최적화 문제에서 어떻게 성능을 발휘하는가?
• RQ5 다양한 최적화 작업에서 가장 강인한 성능을 보이는 확률 모델(Gaussian, Exponential, Gamma, Beta)은 무엇인가?

주요 결과

• EMT-PD는 다중작업 다목적 최적화 테스트 세트에서 여섯 개의 최신 기술 진화 알고리즘을 뚜렷이 능가한다.
• 모든 테스트 문제에서 가우시안 확률 모델이 일관되게 가장 작은 평균 오차를 기록하며, 특히 CI+MS, PI+MS, CEC2019-CMO9, MAF-HS2, MAF-LS2에서 두드러진다.
• 가우시안 모델을 사용한 EMT-PD는 2019CEC-CMO5와 2019CEC-CMO8에서 IGD 및 IGD+ 성능이 가장 우수하며, 다른 확률 모델보다 뛰어나다.
• 두 번째 단계 지식 전이가 없는 변종 EMT-PD-1은 다양성이 열악하고 局부 최적해에 갇힐 경향이 있어 열악한 성능을 보였다.
• 임의의 개체에서의 지식 전이(EMT-SR, EMT-MR) 또는 최적 해에만 기반한 전이(EMT-SH, EMT-MH)는 안정적인 수렴을 보장하지 못해 제안된 이중단계 메커니즘이 반드시 필요함을 확인했다.
• NI+LS에서 감마 확률 모델은 가우시안 모델보다 더 빠른 수렴을 보였으며, 특정 문제 유형에 대해 적응형 모델 선택의 잠재적 이점이 있음을 시사한다.