[論文レビュー] Learning for Constrained Optimization: Identifying Optimal Active Constraint Sets

Sidhant Misra, Line Roald+1 more|arXiv (Cornell University)|Feb 26, 2018

Reservoir Engineering and Simulation Methods被引用数 15

ひとこと要約

本稿では、パラメトリック最適化問題における最適なアクティブ制約集合を学習するストリーミングアルゴリズムを提案する。この手法により、大規模な最適化問題をリアルタイムに解かずに、高速かつ制約を満たす最適解の予測が可能になる。本手法は、解の回復に必要な最小限の情報であるアクティブセットを用いて、既知の問題構造を活用し、発見されたセットが少ない状況でも高い精度を達成する。実験では、低失敗率を示す送電網最適潮流問題（Optimal Power Flow）で妥当性が検証された。

ABSTRACT

In many engineered systems, optimization is used for decision making at time-scales ranging from real-time operation to long-term planning. This process often involves solving similar optimization problems over and over again with slightly modified input parameters, often under tight latency requirements. We consider the problem of using the information available through this repeated solution process to directly learn a model of the optimal solution as a function of the input parameters, thus reducing the need to solve computationally expensive large-scale parametric programs in real time. Our proposed method is based on learning relevant sets of active constraints, from which the optimal solution can be obtained efficiently. Using active sets as features preserves information about the physics of the system, enables interpretable models, accounts for relevant safety constraints, and is easy to represent and encode. However, the total number of active sets is also very large, as it grows exponentially with system size. The key contribution of this paper is a streaming algorithm that learns the relevant active sets from training samples consisting of the input parameters and the corresponding optimal solution, without any assumptions on the problem structure. The algorithm comes with theoretical performance guarantees, and is known to converge fast for problem instances with a small number of relevant active sets. It can thus be used to establish the practicability of the learning method. Through extensive experiments on the Optimal Power Flow problem, we observe that often only a few active sets are relevant in practice, suggesting that the active sets is the appropriate level of abstraction for a learning algorithm to target.

研究の動機と目的

• エンジンダリングシステムにおけるタイトな遅延制約のもとで、大規模なパラメトリック最適化問題をリアルタイムに解く課題に対処すること。
• 入力から解への直接的なマッピングを学習するのではなく、アクティブセットを中間抽象化として用いることで、機械学習ベースの最適化における安全性と制約の厳守を向上させること。
• 問題構造に関する前提を置かずに、トレーニングデータから関連するアクティブセットを同定するストリーミングアルゴリズムを開発すること。これにより、理論的収束性が保証され、関連するセットが少ない場合には高速に発見可能となる。
• 特に最適潮流問題に焦点を当て、実世界の送電系統最適化ベンチマークにおいて、本手法の実用性と性能を検証すること。
• 実際の応用では、通常は少数のアクティブセットしか関連しないことから、アクティブセットが学習ベース最適化の有効な抽象化であることを示すこと。

提案手法

• 本手法は、問題構造に関する事前仮定を置かずに、入力パラメータとそれに対応する最適解から関連するアクティブセットをストリーミングで発見する。
• 学習タスクをアクティブセット上の分類問題として定式化し、正確なモデル知識を用いることで物理的・安全制約を厳密に保持する。
• 未発見のアクティブセットの質量に基づく停止基準を採用し、定理1の普遍的上界を用いて確率的保証を達成する。
• 予測にはアンサンブルポリシーを用いる：発見されたすべてのアクティブセットから最適解を計算し、それらすべてで妥当性を確認する。
• やや緩い条件下でも理論的収束が保証され、関連するアクティブセットが少数の場合に性能が著しく向上する。
• 制約のニューラルネットワーク近似を避ける代わりに、正確なアクティブセット同定に依存することで、制約の満たしを保証する。

実験結果

リサーチクエスチョン

• RQ1 アクティブセットは、パラメトリック最適化問題における最適解を学習するための有効かつ解釈可能な抽象化として機能するか？
• RQ2 関連するアクティブセットの数が少ない場合に、ストリーミングアルゴリズムがリアルタイム最適化データから関連セットをどれほど効率的に発見できるか？
• RQ3 入力パrameterの分布（例：一様分布対正規分布）が、アクティブセットを発見するためのサンプル数に与える影響はいかほどか？
• RQ4 学習ベース手法は、完全な最適化と比較して、どの程度制約の妥当性を維持できるか？
• RQ5 本アルゴリズムは、IEEE RTSケースのような複雑な実世界送電系統ベンチマークで、どの程度の性能を示すか？

主な発見

• 実際のシステムでは、大多数のインスタンスで少数のアクティブセットしか関連しないことが判明し、アクティブセットが学習ベース最適化の適切な抽象化であると考えられる。
• 関連するアクティブセットの数が少ない場合には、アルゴリズムの収束が速く、性能の低下は主に低確率のセットに起因する。
• case240_pserc や case73_ieee_rts のようなシステムでは、ネットワークの縮小や発電機ノード比の高さといった特異な特性により、22,000サンプル以内に終了しない場合がある。
• 学習ベース手法における失敗確率は、常に未発見セット質量の上界（α）未満であり、定理1の理論的保証が妥当であることを裏付けた。
• 一様分布は正規分布よりもアクティブセットの発見数が多く、サンプル数も多めになる。これは、セット全体にわたる確率質量の分布が平坦であるためである。
• アンサンブルポリシーにより高い妥当性が達成され、未発見質量の理論的上界を下回る失敗率を示しており、ロバストネスと安全性が確認された。