[논문 리뷰] MOEA/D-GM: Using probabilistic graphical models in MOEA/D for solving combinatorial optimization problems

Murilo Zangari de Souza, Roberto Santana외 2명|arXiv (Cornell University)|2015. 11. 18.

Manufacturing Process and Optimization참고 문헌 53인용 수 9

한 줄 요약

이 논문은 조합 최적화 문제에서 성능을 햖थ기 위해 확률적 그래픽 모델(PGMs)을 분해 기반 MOEA/D 접근법에 통합한 새로운 다목적 진화 알고리즘 프레임워크인 MOEA/D-GM을 제안한다. 상호정보량 행렬에서 유도된 다변량 PGMs—특히 트리 구조 모델—를 학습하고 샘플링하여, MOEA/D-GM은 유전 연산자나 단변량 모델을 사용하는 전통적 MOEA/D보다 위험한 이중 Trap5 문제에서 참값 파레토 경계를 더 잘 근사함을 보였다.

ABSTRACT

Evolutionary algorithms based on modeling the statistical dependencies (interactions) between the variables have been proposed to solve a wide range of complex problems. These algorithms learn and sample probabilistic graphical models able to encode and exploit the regularities of the problem. This paper investigates the effect of using probabilistic modeling techniques as a way to enhance the behavior of MOEA/D framework. MOEA/D is a decomposition based evolutionary algorithm that decomposes a multi-objective optimization problem (MOP) in a number of scalar single-objective subproblems and optimizes them in a collaborative manner. MOEA/D framework has been widely used to solve several MOPs. The proposed algorithm, MOEA/D using probabilistic Graphical Models (MOEA/D-GM) is able to instantiate both univariate and multi-variate probabilistic models for each subproblem. To validate the introduced framework algorithm, an experimental study is conducted on a multi-objective version of the deceptive function Trap5. The results show that the variant of the framework (MOEA/D-Tree), where tree models are learned from the matrices of the mutual information between the variables, is able to capture the structure of the problem. MOEA/D-Tree is able to achieve significantly better results than both MOEA/D using genetic operators and MOEA/D using univariate probability models, in terms of the approximation to the true Pareto front.

연구 동기 및 목표

• 다목적 최적화에서 변수 간 의존성을 모델링하기 위해 확률적 그래픽 모델(PGMs)을 통합한 일반적인 MOEA/D 프레임워크를 개발하는 것.
• PGM 기반 모델링이 조합 최적화 문제에 대한 MOEA/D의 수렴성과 다양성 향상에 기여하는지 경험적으로 평가하는 것.
• 학습된 PGMs가 특히 위험한 함수에서 문제의 기초적인 구조를 얼마나 잘 포착하는지 조사하는 것.
• 이중 목표 버전의 Trap5 함수에 대한 비교 실험을 통해 MOEA/D-GM의 효과성을 입증하는 것.
• 하위문제 간 모델 재사용 또는 이식 가능성을 탐색하여 확장성과 효율성 향상 잠재력을 규명하는 것.

제안 방법

• MOEA/D-GM 프레임워크는 각 스칼라라이제이션 하위문제에 대해 별도의 확률적 그래픽 모델을 학습함으로써 MOEA/D를 확장한다.
• 변수 간 상호정보량 행렬을 사용하여 최대 무게 스패닝 트리를 구성함으로써 PGM을 구축하고, 변수 간 상호작용을 포착한다.
• 이웃하는 하위문제에 이미 존재하는 해를 생성하는 것을 방지하기 위해 다양성 유지 샘플링 메커니즘을 도입한다.
• 단변량 및 다변량 PGMs를 모두 지원하며, 실험에서는 트리 모델(MOEA/D-Tree)을 사용한다.
• 기존의 유전 연산자가 아닌 모델 기반 샘플링을 적용하여 새로운 해를 생성한다.
• 이웃 수와 개체 수를 변화시켜 모델 정확도와 성능에 미치는 영향을 분석한다.

실험 결과

연구 질문

• RQ1 MOEA/D에 확률적 그래픽 모델을 통합하면 다목적 조합 최적화 문제 해결에서 수렴성과 다양성이 향상되는가?
• RQ2 MOEA/D-GM은 위험한 다목적 함수인 이중 Trap5에서 구조적 의존성(예: 빌딩 블록)을 얼마나 잘 포착하는가?
• RQ3 다변량 PGMs(예: 트리 모델)를 사용할 경우, MOEA/D에서 단변량 모델이나 표준 유전 연산자 대비 성능 향상이 이루어지는가?
• RQ4 이웃 수가 학습된 모델의 품질과 최종 파레토 경계 근사에 어떤 영향을 미치는가?
• RQ5 MOEA/D-GM이 학습한 모델들은 하위문제 간에 재사용하거나 이식할 수 있는가? 이는 계산 효율성 향상에 기여하는가?

주요 결과

• 트리 구조 PGMs를 사용하는 MOEA/D-Tree는 유전 연산자를 사용하는 MOEA/D와 단변량 모델을 사용하는 MOEA/D보다 참값 파레토 경계에 훨씬 더 잘 수렴하였다.
• 하위문제에서 학습된 병합 행렬은 이중 Trap5 함수에 5변수 빌딩 블록이 존재한다는 것을 명확히 드러내어, 모델이 문제의 진정한 구조를 잘 포착했음을 확인하였다.
• 이웃 수가 70일 경우, 이웃 수 20에 비해 모델 정확도가 향상되었으며, 이는 더 큰 이웃 수가 임의의 상관관계를 감소시키고 구조 학습을 향상시킨다는 것을 시사한다.
• 모든 파artitions에서 목표가 상충되는 중간 하위문제(i=100)조차도 의미 있는 모델을 학습할 수 있었으며, 이는 분해 전반에 걸친 강건성을 보여주었다.
• 다양성 유지 샘플링 메커니즘이 모든 테스트 알고리즘에서 수렴성과 다양성 지표를 향상시켰다.
• 결과적으로, 작은 이웃 수에서 학습된 모델조차도 핵심 상호작용을 포착할 수 있었기 때문에, 하위문제 간 모델 이식이 가능하다는 것이 확인되었다.