[论文解读] Autonomics: In Search of a Foundation for Next Generation Autonomous Systems

David Harel, Assaf Marron+1 more|arXiv (Cornell University)|Nov 16, 2019

Software Engineering Research参考文献 32被引用 52

一句话总结

本文提出了“自适应系统（autonomics）”—一种通过解决行为规范、仿真保真度以及混合模型-数据驱动决策等核心挑战，构建下一代自主系统的基础性框架。该研究倡导建立一个由社区主导、公开可用的工程基础，以确保在不可预测、复杂环境条件下运行的系统具备可信性。

ABSTRACT

The potential benefits of autonomous systems have been driving intensive development of such systems, and of supporting tools and methodologies. However, there are still major issues to be dealt with before such development becomes commonplace engineering practice, with accepted and trustworthy deliverables. We argue that a solid, evolving, publicly available, community-controlled foundation for developing next generation autonomous systems is a must. We discuss what is needed for such a foundation, identify a central aspect thereof, namely, decision-making, and focus on three main challenges: (i) how to specify autonomous system behavior and the associated decisions in the face of unpredictability of future events and conditions and the inadequacy of current languages for describing these; (ii) how to carry out faithful simulation and analysis of system behavior with respect to rich environments that include humans, physical artifacts, and other systems,; and (iii) how to engineer systems that combine executable model-driven techniques and data-driven machine learning techniques. We argue that autonomics, i.e., the study of unique challenges presented by next generation autonomous systems, and research towards resolving them, can introduce substantial contributions and innovations in system engineering and computer science.

研究动机与目标

• 建立一个由社区控制、公开可用的下一代自主系统工程基础。
• 解决在不可预测、动态演变环境中缺乏严谨行为规范方法的问题。
• 弥合系统设计中基于模型的方法与基于机器学习的方法之间的差距。
• 实现在复杂、包含人类的环境中对系统行为进行忠实仿真与分析。
• 支持结合基于模型设计的可信性与数据驱动人工智能的适应性的混合系统开发。

提出的方法

• 提出一套正式的术语与框架，以区分自主系统中的智能体、对象与环境。
• 引入一种基于人机分工的自主性谱系。
• 倡导采用异构规范技术，以捕捉智能体级与系统级行为。
• 强调需要具备语义意识的真实仿真环境，以实现可控、可重复且全面的测试。
• 推动通过通用接口集成基于模型与基于机器学习组件的混合系统架构。
• 呼吁在机器学习组件的可分解性、互操作性与可解释性方面实现理论与实践的进展。

实验结果

研究问题

• RQ1 在不可预测的环境条件下，如何对自主系统的行为与决策进行形式化规范？
• RQ2 在涉及人类与动态环境的复杂现实场景中，需要哪些仿真与分析技术来验证系统行为？
• RQ3 如何在单一系统架构中实现基于模型与数据驱动（机器学习）组件的有效整合？
• RQ4 哪些标准与方法可确保高度依赖机器学习组件的系统具备可信性与可验证性？
• RQ5 如何建立并持续维护一个由社区主导、公开可访问的自主系统工程基础？

主要发现

• 构建自适应系统的基础框架对于应对下一代自主系统所面临的独特挑战至关重要。
• 当前的规范语言不足以描述复杂且不可预测的系统行为与决策。
• 忠实且具备语义意识的仿真对于在多样化与新兴条件下验证系统行为至关重要。
• 结合基于模型与基于机器学习组件的混合设计是必要的，但需要新的架构与理论基础。
• 现有形式化验证方法对包含机器学习组件的复杂系统仍显不足，亟需增强仿真与覆盖度度量。
• 向可信自主系统的过渡需要超越当前实践的范式转变，要求建立全新的科学与工程基础。