[論文レビュー] Reducing complexity of autonomous control agents for verifiability

Paolo Izzo, Hongyang Qu+1 more|arXiv (Cornell University)|Mar 3, 2016

Multi-Agent Systems and Negotiation参考文献 13被引用数 4

ひとこと要約

本稿では、自律制御システムにおける複雑さの低減と検証可能性の向上を目的として、AgentSpeak から簡素化されたアーキテクチャである LISA を提案する。推論サイクルの単純化と、DTMC 抽象化による設計時および実行時確率的モデル検査の統合により、LISA は意思決定プロセスの形式的検証を可能にする。事例研究では、不確実性下でのミッションクリティカルな計画選択に PRISM モデル検査を用いた実行時検証が実施された。

ABSTRACT

The AgentSpeak type of languages are considered for decision making in autonomous control systems. To reduce the complexity and increase the verifiability of decision making, a limited instruction set agent (LISA) is introduced. The new decision method is structurally simpler than its predecessors and easily lends itself to both design time and runtime verification methods. The process of converting a control agent in LISA into a model in a probabilistic model checker is described. Due to the practical complexity of design time verification the feasibility of runtime probabilistic verification is investigated and illustrated in the LISA agent programming system for verifying symbolic plans of the agent using a probabilistic model checker.

研究の動機と目的

• 既存の AgentSpeak を基盤とする自律制御エージェントにおける高い複雑さと低い検証可能性を解消すること。
• 自律システムの意思決定プロセスにおけるアーキテクチャの複雑さを低減すること。
• 離散時間マルコフ連鎖（DTMC）への抽象化を通じて、エージェント行動の形式的検証を可能にすること。
• 確率的モデル検査技術を用いて設計時および実行時検証を支援すること。
• 既存の自律性ミドルウェア（例：MOOS-IvP）と LISA を統合し、実用的導入を可能にすること。

提案手法

• 信念、希望、意図の集合に基づく簡素化された推論サイクルを有する、制限された命令セットを持つエージェントアーキテクチャ LISA を提案する。
• LISA エージェント行動を離散時間マルコフ連鎖（DTMC）に抽象化することで、設計時の確率的モデル検査を可能にする。
• 計画の結果を予測する確率的モデル検査を用いた実行時検証メカニズムを導入し、信頼性の高い計画を選択する。
• 外部アクションを介して MOOS-IvP とインターフェースを確保し、行動ベースのミッション実行フレームワークと統合可能であることを実現する。
• エージェントの状態、環境条件（例：天候）および確率的遷移を表現するためのモジュラー PRISM モデルを採用する。
• マルチスレッド処理を用いて、リアルタイムでの並列計画実行および状態更新を管理する。

実験結果

リサーチクエスチョン

• RQ1 AgentSpeak を基盤とする意思決定の複雑さをどのように低減すれば、検証可能性が向上するか？
• RQ2 LISA を正式に DTMC に抽象化できるか？ これにより、モデル検査ツールを用いた設計時検証が可能になるか？
• RQ3 不確実性のある環境下で、計画選択の実行時確率的検証は実現可能かつ有効であるか？
• RQ4 LISA を MOOS-IvP などの既存の自律性ミドルウェアに統合する方法は何か？ 実用的導入が可能か？
• RQ5 確率的環境要因（例：天候）が計画の成功確率および検証結果に与える影響は何か？

主な発見

• LISA は推論サイクルの単純化と命令セットの制限により、アーキテクチャの複雑さを低減し、構造的検証可能性を向上させる。
• LISA エージェントは正式に DTMC に抽象化可能であり、これにより既存の確率的モデル検査技術を用いた設計時検証が可能になる。
• 実行時確率的モデル検査により、不確実な条件下でも成功確率が最も高い計画を予測・選択できる。
• LISA は、行動有効フラグおよびミッション状態変数を変更する外部アクションを介して、MOOS-IvP と統合可能である。
• PRISM モデルの例では、確率的天候条件下でのミッション結果の検証に成功しており、悪天候下では60％の確率で領域間を切り替えることが示された。
• システムはミッション中止および燃料消費ダイナミクスの両方を成功裏に検証し、リソースおよび環境的制約下でも堅牢性を示した。