[論文レビュー] A Convex Neural Network Solver for DCOPF with Generalization Guarantees

Ling Zhang, Yize Chen+1 more|arXiv (Cornell University)|Sep 18, 2020

Power System Optimization and Stability参考文献 35被引用数 5

ひとこと要約

本論文は、入力凸ニューラルネットワーク（ICNNs）とKKT条件に基づく学習損失を組み合わせることで一般化保証を達成するDCOPF用凸ニューラルネットワークソルバを提案する。ネットワークアーキテクチャにおける凸性の強制と、学習中のKKT違反の最小化により、エンドツーエンドモデルと比較して最適性比が5倍向上し、未学習入力領域に対しても不実行性が著しく低減された。

ABSTRACT

The DC optimal power flow (DCOPF) problem is a fundamental problem in power systems operations and planning. With high penetration of uncertain renewable resources in power systems, DCOPF needs to be solved repeatedly for a large amount of scenarios, which can be computationally challenging. As an alternative to iterative solvers, neural networks are often trained and used to solve DCOPF. These approaches can offer orders of magnitude reduction in computational time, but they cannot guarantee generalization, and small training error does not imply small testing errors. In this work, we propose a novel algorithm for solving DCOPF that guarantees the generalization performance. First, by utilizing the convexity of DCOPF problem, we train an input convex neural network. Second, we construct the training loss based on KKT optimality conditions. By combining these two techniques, the trained model has provable generalization properties, where small training error implies small testing errors. In experiments, our algorithm improves the optimality ratio of the solutions by a factor of five in comparison to end-to-end models.

研究の動機と目的

• 深層学習ベースのDCOPFソルバには一般化保証が欠如しており、低訓練誤差であっても未学習シナリオで失敗することが多いという問題に対処する。
• DCOPFの構造的性質（凸性やKKT条件）を活用することで、高次元の負荷空間の課題を克服する。
• 訓練誤差が小さいとテスト誤差も小さいことを保証する機械学習フレームワークを構築する。特に、テストデータが訓練分布外に存在する場合でも有効である。
• 再生可能エネルギーの不確実性下におけるリアルタイム電力系統運用におけるニューラルネットワーク代理モデルのロバスト性と信頼性を向上させる。
• KKT条件を正則化項として組み込むことで、ラベルなしデータの活用を可能にし、高価なラベル付きシナリオへの依存度を低減する。

提案手法

• 負荷から最適発電量への写像に凸性を強制するため、入力凸ニューラルネットワーク（ICNNs）を用いることで、モデル出力が真のDCOPFコスト関数の凸構造を継承することを保証する。
• 最適発電値の回帰誤差とKKT違反誤差の両方を組み合わせた訓練損失関数を構築し、最適性条件からの逸脱をペナルティ化する。
• KKT損失を、双対変数（LMP）と価値関数の勾配との関係から導出された偏微分方程式の集合として定式化する。
• ラベル付きデータ（既知の最適解付き）とラベルなしデータ（負荷値のみが利用可能）の両方を用い、ラベルなし点に対してもKKTに基づく損失を最小化することでモデルを訓練する。
• 訓練でカバーされていない領域からの補助的なラベルなしサンプルセットを導入し、未学習入力分布への一般化を向上させる。
• 凸問題においてKKT条件が最適性の必要十分条件であることに着目し、KKT違反の最小化がグローバル最適解に導くことを保証する。

実験結果

リサーチクエスチョン

• RQ1 訓練誤差が小さいとテスト誤差も小さいことを保証できるDCOPF用ニューラルネットワークソルバを設計できるか？
• RQ2 DCOPF問題の凸構造をどのようにニューラルネットワークアーキテクチャに埋め込むことで一般化を向上させられるか？
• RQ3 ラベルなし例のない状況でも、KKT条件を正則化メカニズムとして用いることで、未学習データに対する性能向上が図れるか？
• RQ4 どの程度までラベルなしデータを活用することで、DCOPF代理モデルのロバスト性が向上するか？
• RQ5 分布外テストサンプルにおいて、本手法はエンドツーエンドニューラルネットワークと比較して、最適性と実行可能性の両面でどの程度優れているか？

主な発見

• 補助サンプルセットを用いることで、未学習領域からのテストデータにおいて97.24%の最適性比を達成したのに対し、エンドツーエンドモデルではわずか5.52%にとどまった。
• 補助サンプルセットがなくても、62.25%の最適性比を維持し、エンドツーエンドモデルが実行可能解を生成できないのとは対照的である。
• 本モデルの実行可能性比は、発電機制限および線路潮流制限において97%以上、ノード電力バランス制限においても90%以上を達成しており、未学習データに対しても同様に有効である。
• 本手法は、エンドツーエンドモデルと比較して不実行性比を最大10倍まで低減し、強力なロバスト性を示している。
• KKT補正損失の活用により、訓練データが入力空間全体をカバーしていない状況下でも、さまざまな制約活性化パターンにわたって良好な一般化性能を発揮した。
• 理論的分析により、ネットワークアーキテクチャにおける凸性が、サンプリングされた点にとどまらず、全体の入力領域においても訓練誤差が小さいとテスト誤差も小さいことを保証することが示された。