[論文レビュー] Bilevel Optimization based on Iterative Approximation of Multiple Mappings

Ankur Sinha, Zhichao Lu+2 more|arXiv (Cornell University)|Feb 11, 2017

Optimization and Variational Analysis被引用数 9

ひとこと要約

本稿では、下位層の合理的反応（Ψマッピング）および最適値関数（φマッピング）を段階的に近似することで、計算コストを低減する進化的な二段階最適化手法BLEAQ-IIを提案する。これらの近似をネストされた評価の代わりに適応的に使用することにより、従来のネスト型手法と比較して、関数評価回数を最大97％削減し、ベンチマーク問題において著しく効率が向上することを示した。

ABSTRACT

A large number of application problems involve two levels of optimization, where one optimization task is nested inside the other. These problems are known as bilevel optimization problems and have been studied by both classical optimization community and evolutionary optimization community. Most of the solution procedures proposed until now are either computationally very expensive or applicable to only small classes of bilevel optimization problems adhering to mathematically simplifying assumptions. In this paper, we propose an evolutionary optimization method that tries to reduce the computational expense by iteratively approximating two important mappings in bilevel optimization; namely, the lower level rational reaction mapping and the lower level optimal value function mapping. The algorithm has been tested on a large number of test problems and comparisons have been performed with other algorithms. The results show the performance gain to be quite significant. To the best knowledge of the authors, a combined theory-based and population-based solution procedure utilizing mappings has not been suggested yet for bilevel problems.

研究の動機と目的

• 従来のネスト型進化的アルゴリズムを用いた二段階最適化問題の解法における高い計算コストを軽減すること。
• 数学的最適化からの理論的マッピングを活用して、計算的に効率的な代替手法を開発すること。
• 下位層の反応関数および値関数の近似により、高価なネスト評価に依存するのを減らすこと。
• 最適化の過程で、問題の特性に応じてΨまたはφマッピング近似を適応的に選択すること。
• 拡張されたSMD問題を含む包括的なテストセットを用いて性能を評価し、スケーラビリティと効率性を示すこと。

提案手法

• アルゴリズムは、上位層の意思決定を対応する下位層最適解にマップする下位層の合理的反応マッピング（Ψマッピング）を近似する。
• また、上位層の意思決定を下位層問題の最適目的値にマップする下位層最適値関数マッピング（φマッピング）も近似する。
• 局所的メタモデル技術を用いて、集団ベースの進化的フレームワークにより、Ψおよびφマッピングを段階的に改善する。
• 問題の難易度および構造に応じて、Ψまたはφの近似を適応的に選択する。
• 訓練済みのマッピングからの予測により、繰り返しの下位層ソルブを置き換えることで、関数評価回数を最小限に抑える。
• スケーラビリティをテストするため、拡張されたバージョンを含むSMD問題のベンチマークセットを用いて手法を検証する。

実験結果

リサーチクエスチョン

• RQ1 Ψおよびφマッピングの反復的近似は、二段階最適化の計算負荷を顕著に低減できるか？
• RQ2 Ψまたはφ近似の適応的選択は、多様な二段階最適化問題タイプにおいて性能をどのように向上させるか？
• RQ3 関数評価回数の観点から、マッピングベースの近似は、従来のネスト型進化的アルゴリズムをどの程度上回るか？
• RQ4 問題の次元数および複雑さの増加に伴って、これらの近似はどのようにスケーリングするか？
• RQ5 マッピング近似の品質が収束性および解の正確性に与える影響は何か？

主な発見

• 高次元SMD問題において、BLEAQ-IIはネスト型手法と比較して最大97％の関数評価回数の削減を達成した。
• SMD1では、BLEAQ-IIの上位層関数評価回数は670回であったのに対し、ネスト型手法では1,776,426回であった。
• SMD4では、BLEAQ-IIがネスト型手法と比較して96％の関数評価回数を削減した。
• SMD6では、ネスト型手法が150万回を超える関数評価を要したが、BLEAQ-IIはたった3,950回で済ませ、99％の削減を達成した。
• 大多数のテスト問題において、BLEAQ-IIはBLEAQおよびネスト型手法を上回り、計算効率に顕著な向上を示した。
• Ψまたはφマッピングの適応的使用は有効であった。SMD1ではφマッピングがより正確であり、SMD13のような複雑なφマッピングではΨマッピングが優れていた。