[論文レビュー] Autonomics: In Search of a Foundation for Next Generation Autonomous Systems

David Harel, Assaf Marron+1 more|arXiv (Cornell University)|Nov 16, 2019

Software Engineering Research参考文献 32被引用数 52

ひとこと要約

本論文は、行動仕様、シミュレーションの忠実度、ハイブリッドなモデル・データドリブン意思決定という、次世代自律システムの根幹的課題に取り組むことで、次世代自律システムを設計するための基盤的フレームワーク「アバノミクス」を提唱する。不確実で複雑な状況下で動作するシステムの信頼性を確保するため、コミュニティ主導で公開可能な工学的基盤の構築を提唱する。

ABSTRACT

The potential benefits of autonomous systems have been driving intensive development of such systems, and of supporting tools and methodologies. However, there are still major issues to be dealt with before such development becomes commonplace engineering practice, with accepted and trustworthy deliverables. We argue that a solid, evolving, publicly available, community-controlled foundation for developing next generation autonomous systems is a must. We discuss what is needed for such a foundation, identify a central aspect thereof, namely, decision-making, and focus on three main challenges: (i) how to specify autonomous system behavior and the associated decisions in the face of unpredictability of future events and conditions and the inadequacy of current languages for describing these; (ii) how to carry out faithful simulation and analysis of system behavior with respect to rich environments that include humans, physical artifacts, and other systems,; and (iii) how to engineer systems that combine executable model-driven techniques and data-driven machine learning techniques. We argue that autonomics, i.e., the study of unique challenges presented by next generation autonomous systems, and research towards resolving them, can introduce substantial contributions and innovations in system engineering and computer science.

研究の動機と目的

• 次世代自律システムのためのコミュニティ主導で公開可能な工学的基盤を確立すること。
• 予測不能で変化し続ける環境における行動の厳密な定義方法の欠如に取り組むこと。
• システム設計におけるモデルベース手法と機械学習ドリブン手法の間のギャップを埋めること。
• 人間を含む複雑で動的な環境下でのシステム行動の忠実なシミュレーションと分析を可能にすること。
• モデルベース設計の信頼性とデータドリブンAIの適応性を融合したハイブリッドシステムの開発を支援すること。

提案手法

• 自律システムにおけるエージェント、オブジェクト、環境を明確に区別する形式的用語とフレームワークを提唱すること。
• 人間とシステムの労働分担に基づく自律性のスケールを導入すること。
• エージェントレベルおよびシステム全体の行動を捉えるために、多様な仕様定義手法を推奨すること。
• 制御可能で繰り返し可能かつ包括的なテストを可能にするために、現実的で意味的認識を持つシミュレーション環境の必要性を強調すること。
• 共通インターフェースを通じてモデルベースとMLベースのコンポONENTを統合するハイブリッドアーキテクチャの推進。
• MLコンポonentの分解可能性、相互運用性、説明可能性に関する理論的・実践的進展を求める。

実験結果

リサーチクエスチョン

• RQ1 予測不能な環境条件下で自律システムの行動と意思決定を形式的にどのように定義できるか？
• RQ2 人間と動的な環境を含む複雑な現実世界のシナリオにおいて、システム行動を検証するためのシミュレーションと分析手法は何か？
• RQ3 モデルベースとデータドリブン（ML）コンポonentを、単一のシステムアーキテクチャ内で意味的に統合する方法は何か？
• RQ4 MLコンポonentに大きく依存するシステムの信頼性と検証可能性を保証するための基準と手法は何か？
• RQ5 コミュニティ主導で公開可能な自律システムの基盤をどのように確立し、持続可能に保てるか？

主な発見

• 次世代自律システムが直面する独自の課題に対処するため、アバノミクスの基盤的フレームワークは不可欠である。
• 現在の仕様定義言語は、複雑で予測不能なシステム行動や意思決定を記述するのに不十分である。
• 多様で急激に変化する条件下でのシステム行動の検証において、忠実で意味的認識を持つシミュレーションが不可欠である。
• モデルベースとMLベースのコンポonentを統合するハイブリッド設計は必要だが、新たなアーキテクチャ的および理論的基盤を要する。
• MLコンポonentを含む複雑なシステムに対して、従来の形式的検証手法は不十分であり、シミュレーションとカバレッジメトリクスの強化が不可欠である。
• 信頼性のある自律システムへの移行には、現在の実務をはるかに超えるパラダイムシフトが必要であり、新たな科学的・工学的基盤の構築が求められる。