[論文レビュー] A General Framework for Verification and Control of Dynamical Models via Certificate Synthesis

Alec Edwards, Andrea Peruffo+1 more|arXiv (Cornell University)|Sep 12, 2023

Adversarial Robustness in Machine LearningComputer Science被引用数 3

ひとこと要約

本稿では、SMTソルブを用いた証明書合成を通じて、動的システムの制御則の形式的検証および合成の一般枠組みを提示する。ニューラルネットワークを用いて候補証明書および制御則関数を定義し、SMTソルバを統合することで、安全、到達可能性、およびそれらの組み合わせといった複雑な仕様に対して、証明可能な正しい証明書を自動生成する。多様なベンチマークにおいて形式的正しさの保証を達成する。

ABSTRACT

An emerging branch of control theory specialises in certificate learning, concerning the specification of a desired (possibly complex) system behaviour for an autonomous or control model, which is then analytically verified by means of a function-based proof. However, the synthesis of controllers abiding by these complex requirements is in general a non-trivial task and may elude the most expert control engineers. This results in a need for automatic techniques that are able to design controllers and to analyse a wide range of elaborate specifications. In this paper, we provide a general framework to encode system specifications and define corresponding certificates, and we present an automated approach to formally synthesise controllers and certificates. Our approach contributes to the broad field of safe learning for control, exploiting the flexibility of neural networks to provide candidate control and certificate functions, whilst using SMT-solvers to offer a formal guarantee of correctness. We test our framework by developing a prototype software tool, and assess its efficacy at verification via control and certificate synthesis over a large and varied suite of benchmarks.

研究の動機と目的

• 非線形動的システムにおける複雑なシステム行動の自動的制御則設計および形式的検証の課題に対処すること。
• 安全、到達可能性、およびそれらの組み合わせといった多様な仕様を、一貫した証明書ベースの形式的検証枠組みに統合すること。
• ニューラルネットワークを関数テンプレートとして用い、SMTソルバによる形式的検証を組み合わせることで、証明可能な正しい制御則および証明書の合成を可能にすること。
• 多項式テンプレートや凸性の仮定にとらわれないよう、SMTソルバを活用して非多項式および複雑なシステムダイナミクスに対処すること。
• 安全を最優先とする制御応用分野において、スケーラブルで自動的かつ形式的に整合性のあるアプローチを提供すること。

提案手法

• 状態軌道に関する論理制約として、システムの仕様（安全、到達可能性、到達避難など）を定式化する。
• ReLU活性化関数を備えたニューラルネットワークを、候補となるリャプノフまたはバリア証明書および制御則関数のパラメトリックテンプレートとして用いる。
• 証明書合成問題を、SMTソルバが処理可能な理論（例：非線形実数論理、多項式制約）における論理式としてエンコードする。
• Z3、dReal、CVC5などのSMTソルバを活用して、候補証明書の正しさを検証し、有効なパラメータ化を同定する。
• 初期の候補証明書が失敗した場合に、反例誘導型の反復的改善ループを統合して、ニューラルネットワークベースの証明書を段階的に改善する。
• 時系列論理（LTL）および有限オートマトンを用いたモジュラーな仕様合成をサポートし、弱いuntil演算子やリリース演算子といった複雑な性質の合成を可能にする。

実験結果

リサーチクエスチョン

• RQ1 幅広い種類の動的システム仕様に対して、制御則および証明書を統合的に合成できる枠組みを開発できるか？
• RQ2 形式的正しさを保証しつつ、ニューラルネットワークを表現力豊かな関数テンプレートとして証明書に効果的に適用できるか？
• RQ3 SMTソルバを活用して、非多項式およびハイブリッドシステムダイナミクスの証明書の検証および合成をどの程度まで可能にできるか？
• RQ4 到達しながら避ける、および到達して停止するといった複雑な仕様を、この枠組みを用いて体系的にエンコードおよび検証できるか？
• RQ5 異なる動的複雑性と仕様タイプを有する多様なベンチマークにおいて、このアプローチはどの程度スケーラブルか？

主な発見

• 本フレームワークは、大規模かつ多様なベンチマークスイートをカバーする中で、安全、到達可能性、およびそれらの組み合わせを含む幅広い仕様に対して、証明可能な正しい証明書および制御則を効果的に合成した。
• ニューラルネットワークとSMTソルバの統合により、柔軟で高容量の関数近似が可能でありながら、形式的正しさの保証を維持できる。
• 従来のテンプレートベース手法に比べ、和の平方（sum-of-squares）や線形プログラミング制約を超える非多項式ダイナミクスおよび複雑な仕様を扱える点で優れている。
• SMTソルバの活用により、非凸および非線形システムダイナミクスが存在する状況においても、健全な検証が可能となり、安全を最優先とする応用分野における耐障害性を確保できる。
• LTLおよび有限オートマトンを用いたモジュラーな仕様合成をサポートし、弱いuntil演算子やリリース演算子といった複雑な時系列的性質の合成を可能にした。
• 実験的評価により、非線形ODEおよびハイブリッドシステム行動を含むベンチマークにおいて、プロトタイプツールの有効性とスケーラビリティが示された。