[논문 리뷰] Modeling with Copulas and Vines in Estimation of Distribution Algorithms

Marta Soto, Yasser González-Fernández외 1명|arXiv (Cornell University)|2012. 10. 19.

Financial Risk and Volatility Modeling참고 문헌 11인용 수 8

한 줄 요약

이 논문은 연속 최적화에서 복잡한 종속 구조를 모델링하기 위해 코풀라와 빈을 사용하는 네 가지 추정의 분포 알고리즘(EDAs)을 제안한다. 빈 기반 EDAs, 특히 C-빈과 D-빈 모델이 전통적인 EDAs를 능가함을 입증한다. 이는 근본적인 분포와 영리한 이元적 종속성을 별도로 모델링함으로써 성능을 크게 향상시키며, 비정규성과 종속성을 띤 테스트 함수에서 뛰어난 성능을 발휘한다.

ABSTRACT

The aim of this work is studying the use of copulas and vines in the optimization with Estimation of Distribution Algorithms (EDAs). Two EDAs are built around the multivariate product and normal copulas, and other two are based on pair-copula decomposition of vine models. Empirically we study the effect of both marginal distributions and dependence structure separately, and show that both aspects play a crucial role in the success of the optimization. The results show that the use of copulas and vines opens new opportunities to a more appropriate modeling of search distributions in EDAs.

연구 동기 및 목표

• 연속 최적화에서 종속 구조와 근본 분포의 영향을 조사한다.
• 코풀라를 사용하여 다변량 정규성 가정을 초월해 근본 분포와 종속성 모델링을 분리함으로써 전통적인 EDAs를 확장한다.
• 이질적이고 영리한 이원적 종속성 구조를 허용하는 빈 기반 EDAs(C-빈 및 D-빈)를 개발하고 평가한다.
• 다양한 종속 특성을 띤 벤치마크 함수에서 코풀라 기반 EDAs와 표준 EDAs의 성능을 경험적으로 비교한다.
• 근본 분포와 종속 구조를 함께 모델링하는 것이 EDAs 성공에 필수적임을 입증한다.

제안 방법

• Sklar의 정리를 사용하여 결합 분포를 근본 분포와 코풀라 함수로 분해함으로써 종속성과 근본 분포를 별도로 모델링할 수 있도록 한다.
• 다변량 곱 코풀라와 정규 코풀라를 사용하여 두 가지 EDAs를 구축하며, UMDA와 EMNA를 비정규 근본 분포로 일반화한다.
• 이원 코풀라 구성(PCC)을 빈(특히 C-빈과 D-빈)을 통해 고차원 종속성을 이원 코풀라의 순서로 모델링한다.
• 비대칭성과 꼬리 종속성을 포괄하기 위해 다양한 이원 코풀라(Gaussian, Student’s t, Clayton, Gumbel 및 그 회전형)를 선택한다.
• EDA에서 결합 분포로부터 샘플을 생성하기 위해 역변환 샘플링과 조건부 분포 함수(h 및 h⁻¹)를 사용한다.
• 비모수적 Kendall’s tau를 사용해 코풀라 매개수를 추정하고, 영리한 단변량 모델을 사용해 근본 분포를 피팅한다.

실험 결과

연구 질문

• RQ1 다양한 근본 분포는 코풀라 기반 EDAs의 성능에 어떤 영향을 미치는가?
• RQ2 코풀라 유형을 통한 종속 구조 선택이 EDAs 수렴성과 해 품질에 어떤 영향을 미치는가?
• RQ3 이질적인 이원 종속성 구조를 허용하는 빈 기반 EDAs는 동일한 종속성 구조를 가진 표준 EDAs를 능가할 수 있는가?
• RQ4 코풀라 기반 모델은 다변량 정규 모델 대비 비정규성과 비타원형 테스트 함수에서 최적화 성능을 얼마나 향상시키는가?
• RQ5 EDAs 성공에 있어 근본 분포 모델링과 종속 구조 모델링의 상대 기여도는 어느 정도인가?

주요 결과

• EDAs의 성능은 근본 분포 선택과 종속 구조의 영향을 크게 받으며, 둘 다 성공에 있어 필수적이다.
• 이질적인 종속 패턴을 띤 테스트 함수에서 빈 기반 EDAs(C-빈 및 D-빈)가 다변량 곱 코풀라 및 정규 코풀라 기반 EDAs보다 뛰어난 성능을 보였다.
• 이원 코풀라 구성의 사용은 표준 다변량 코풀라가 포착할 수 없는 다양한 종속 유형(예: 꼬리 종속성, 비대칭성)을 모델링할 수 있게 해준다.
• 적절한 코풀라 종속성 구조를 갖춘 비정규 근본 분포를 사용하는 EDAs는 다변량 정규성을 가정하는 경우보다 더 뛰어난 수렴성과 해 품질을 달성한다.
• 빈의 유연성 덕분에 비타원형 및 비교환 종속성을 띤 실제 문제에 더 잘 적응할 수 있다.
• 경험적 결과는 코풀라를 통해 근본 분포와 종속 구조를 별도로 모델링함으로써 EDAs에서 더 정확하고 효과적인 탐색 분포 모델링이 가능하다는 것을 확인한다.