[論文レビュー] Modeling with Copulas and Vines in Estimation of Distribution Algorithms

Marta Soto, Yasser González-Fernández+1 more|arXiv (Cornell University)|Oct 19, 2012

Financial Risk and Volatility Modeling参考文献 11被引用数 8

ひとこと要約

本稿では、連続最適化における複雑な依存構造をモデル化するための、コプゥラとビーンズを用いた4つの推定分布型アルゴリズム（EDA）を提案する。ビーンズに基づくEDA、特にCビーンズおよびDビーンズモデルが、周辺分布と柔軟な2変量依存関係を別々にモデル化することで、従来のEDAを上回り、非正規的で相関のあるテスト関数において顕著に性能向上を示すことを実証している。

ABSTRACT

The aim of this work is studying the use of copulas and vines in the optimization with Estimation of Distribution Algorithms (EDAs). Two EDAs are built around the multivariate product and normal copulas, and other two are based on pair-copula decomposition of vine models. Empirically we study the effect of both marginal distributions and dependence structure separately, and show that both aspects play a crucial role in the success of the optimization. The results show that the use of copulas and vines opens new opportunities to a more appropriate modeling of search distributions in EDAs.

研究の動機と目的

• 連続最適化におけるEDAの性能に与える依存構造および周辺分布の影響を調査すること。
• コプゥラを用いて周辺分布と依存関係モデリングを分離することで、多変量正規分布の仮定を超えた従来のEDAの拡張を図ること。
• 異種で柔軟な2変量依存関係構造を許容する、CビーンズおよびDビーンズに基づくEDAの開発と評価を行うこと。
• 依存特性が異なるベンチマーク関数上で、コプゥラベースのEDAと標準EDAの性能を実験的に比較すること。
• 周辺分布と依存構造の両方をモデル化することが、EDAの成功にとって不可欠であることを示すこと。

提案手法

• スクラーの定理を用いて、結合分布を周辺分布とコプゥラ関数に分解し、依存関係と周辺分布の独立したモデリングを可能にする。
• 多変量積コプゥラおよび正規コプゥラを用いて2つのEDAを構築し、UMDAおよびEMNAを非正規周辺分布に一般化する。
• ビーンズを介した2変量コプゥラの逐次的構成（PCC）を用いて、高次元の依存関係を2変量コプゥラの系列でモデル化する。
• 非対称性および尾部依存性を捉えるために、多様な2変量コプゥラ（ガウス、スチューデントのt、クラウル、ガブメル、およびその回転版）を採用する。
• EDAにおける結合分布からのサンプリングに、条件付き分布関数（hおよびh⁻¹）を用いた逆変換サンプリングを適用する。
• 非パラメトリックなケンダールのτを用いてコプゥラのパラメータを推定し、周辺分布は柔軟な単変量モデルを用いてフィッティングする。

実験結果

リサーチクエスチョン

• RQ1 異なる周辺分布の選択が、コプゥラベースのEDAの性能にどのように影響を与えるか？
• RQ2 コプゥラの種類による依存構造の選択が、EDAの収束性および解の品質に与える影響は何か？
• RQ3 異種の2変量依存関係を許容するビーンズベースのEDAは、交換可能な依存構造を有する標準EDAを上回る性能を示せるか？
• RQ4 非正規的で非楕円的（非楕円的）なテスト関数において、コプゥラベースのモデルは多変量正規分布モデルに比べて最適化性能をどの程度向上させるか？
• RQ5 EDAの成功における、周辺分布モデリングと依存構造モデリングの相対的寄与度は何か？

主な発見

• EDAの性能は、周辺分布の選択と依存構造の両方に顕著に影響を受けるが、両者が成功の鍵を握っている。
• CビーンズおよびDビーンズに基づくビーンズEDAは、複雑で異種の依存パターンを示すテスト関数において、多変量積および正規コプゥラに基づくEDAを上回る性能を示す。
• 2変量コプゥラ構成（PCC）の使用により、標準的な多変量コプゥラが捉えきれない多様な依存タイプ（例：尾部依存性、非対称性）をモデル化可能である。
• 適切なコプゥラ依存構造を有する非正規周辺分布を用いたEDAは、多変量正規性を仮定するEDAよりも優れた収束性と解の品質を達成する。
• ビーンズの柔軟性のおかげで、非楕円的かつ非交換可能な依存関係を有する実世界の問題にさらに適応可能である。
• 実験的結果から、コプゥラを介して周辺分布と依存構造を別々にモデリングすることで、EDAにおける探索分布モデリングの正確性と有効性が向上することが確認された。