[論文レビュー] Randomized Methods for Design of Uncertain Systems: Sample Complexity and Sequential Algorithms

Teodoro Álamo, Roberto Tempo+2 more|arXiv (Cornell University)|Apr 2, 2013

Probabilistic and Robust Engineering Design被引用数 11

ひとこと要約

本稿では、不確実性下でのロバスト制御設計のための新しい逐次的確率的アルゴリズム、Sequential Probabilistic Validation (SPV) を提案する。二項尾確率不等式と適応的検証集合サイズの活用により、特に非凸および有限族問題において、従来手法に比べて標本複雑性を低減し、計算効率を向上させる。数値的検証において、はるかに少ない標本数でより優れた性能指標を達成している。

ABSTRACT

In this paper, we study randomized methods for feedback design of uncertain systems. The first contribution is to derive the sample complexity of various constrained control problems. In particular, we show the key role played by the binomial distribution and related tail inequalities, and compute the sample complexity. This contribution significantly improves the existing results by reducing the number of required samples in the randomized algorithm. These results are then applied to the analysis of worst-case performance and design with robust optimization. The second contribution of the paper is to introduce a general class of sequential algorithms, denoted as Sequential Probabilistic Validation (SPV). In these sequential algorithms, at each iteration, a candidate solution is probabilistically validated, and corrected if necessary, to meet the required specifications. The results we derive provide the sample complexity which guarantees that the solutions obtained with SPV algorithms meet some pre-specified probabilistic accuracy and confidence. The performance of these algorithms is illustrated and compared with other existing methods using a numerical example dealing with robust system identification.

研究の動機と目的

• 不確実性下での確率的ロバスト制御設計のための、よりタイトな標本複雑性の境界を導出すること。
• 確率的保証と精度を満たす解を確率的に検証する一般化された逐次的アルゴリズム、SPVを構築すること。
• 従来の逐次的手法における厳密な検証の限界を克服すること。これは、検証集合上ですべての制約が満たされる必要があるという制約である。
• SPVが非逐次的および凸スナップショットアプローチに比べて、標本効率性および性能指標の面で優れていることを示すこと。
• 凸性や有限族の仮定に依存しないフレームワークを提供することにより、非凸および複雑なシステムへの適用範囲を広げること。

提案手法

• 二項分布と尾確率不等式を用いて、高い信頼度で確率的妥当性を保証するための最小標本数を計算する。
• 各反復で適応的サイズの検証集合上で候補解をテストする逐次的アルゴリズムSPVを提案する。
• 検証集合サイズ $ M_k $ を、$ m_k = \lfloor ak \rfloor $、信頼度 $ \delta $、違反確率 $ \eta $ を含む動的ルールに基づいて決定する。
• 確率的検証基準を採用する：制約違反数が $ m_k $ 以下であれば解を受容する。
• 反復を重ねるごとに、以前の標本を組み合わせた拡大する検証集合 $ \mathcal{W}_k $ を用いることで、精度を向上させる。
• アルゴリズムをロバストシステム同定に適用し、非逐次的スナップショット法および有限族手法と性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 与えられた確率的信頼度と違反確率を満たす解を保証するための最小標本数は何か？
• RQ2 確率的保証を維持しつつ、標本複雑性を低減するように逐次的アルゴリズムを設計するにはどうすればよいか？
• RQ3 緩和された検証戦略は、厳密な検証に比べて収束速度を向上させ、反復回数を削減できるか？
• RQ4 SPVの性能は、非逐次的スナップショット法および有限族アプローチに比べて、標本数および解の品質の面でどの程度優れているか？
• RQ5 凸性や有限基数性の仮定を必要としないSPVは、非凸および非有限族の設計問題にどの程度適用可能か？

主な発見

• $ \eta = 0.01 $ の場合、SPVはわずか 4,163 件の標本で十分であり、凸スナップショット法が要する 7,090 件よりも著しく少ない。
• $ \eta = 0.001 $ の場合、SPVは 41,617 件の標本を必要とするが、凸スナップショット法は 74,062 件を要し、標本数が 44% 減少している。
• SPVの性能指標は $ \eta = 0.01 $ 時に 0.9406 であり、凸スナップショット法（0.9613）および有限族法（0.9841）を上回っている。
• $ a = 0 $ の場合、アルゴリズムは厳密な検証に帰着するが、$ \eta = 0.05 $ 時に 30,000 標本以内で収束しないため、緩和化の利点が明確に示されている。
• SPVアルゴリズムは最終的な経験的失敗率が $ \frac{1}{2231} \approx 0.00045 $ にとどまり、目標の $ \eta = 0.01 $ よりも著しく低い水準に抑えられており、確率的保証が確認された。
• SPVフレームワークは凸性や有限族の仮定を必要としないため、非凸および複雑な不確実システムの広いクラスに適用可能である。