[论文解读] Reducing complexity of autonomous control agents for verifiability
本文提出 LISA，一种基于 AgentSpeak 的简化智能体架构，旨在降低自主控制系统中的复杂性并提升可验证性。通过简化推理循环，并利用 DTMC 抽象实现设计时与运行时的概率模型检测，LISA 实现了对决策过程的正式验证。案例研究展示了在不确定性条件下，利用 PRISM 模型检测进行运行时验证，以选择关键任务计划的有效性。
The AgentSpeak type of languages are considered for decision making in autonomous control systems. To reduce the complexity and increase the verifiability of decision making, a limited instruction set agent (LISA) is introduced. The new decision method is structurally simpler than its predecessors and easily lends itself to both design time and runtime verification methods. The process of converting a control agent in LISA into a model in a probabilistic model checker is described. Due to the practical complexity of design time verification the feasibility of runtime probabilistic verification is investigated and illustrated in the LISA agent programming system for verifying symbolic plans of the agent using a probabilistic model checker.
研究动机与目标
- 为解决基于 AgentSpeak 的现有自主控制智能体存在的高复杂性与可验证性差的问题。
- 降低自主系统决策过程中架构的复杂性。
- 通过抽象为离散时间马尔可夫链（DTMC）实现智能体行为的正式验证。
- 支持使用概率模型检测技术进行设计时与运行时验证。
- 将 LISA 与现有自主中间件（如 MOOS-IvP）集成，以实现实际部署。
提出的方法
- 提出 LISA，一种指令集受限的智能体架构，其推理循环基于信念、欲望和意图集合进行简化。
- 将 LISA 智能体行为抽象为离散时间马尔可夫链（DTMC），以支持设计时的概率模型检测。
- 引入一种运行时验证机制，通过概率模型检测预测计划结果，以选择最可靠的计划。
- 使用外部动作与 MOOS-IvP 接口连接，实现与基于行为的任务执行框架的集成。
- 采用模块化 PRISM 模型表示智能体状态、环境条件（例如天气）以及概率转移，以支持验证。
- 应用多线程处理技术，实现实时并发计划执行与状态更新的管理。
实验结果
研究问题
- RQ1如何降低基于 AgentSpeak 的决策复杂性，以提升可验证性？
- RQ2LISA 是否可被正式抽象为 DTMC，从而支持使用模型检测工具进行设计时验证？
- RQ3在不确定环境中，运行时概率验证是否可行且有效？
- RQ4如何将 LISA 与现有自主中间件（如 MOOS-IvP）集成以实现实际部署？
- RQ5概率性环境因素（例如天气）对计划成功率及验证结果有何影响？
主要发现
- LISA 通过简化推理循环和限制指令集，降低了架构复杂性，提升了结构可验证性。
- LISA 智能体可被正式抽象为 DTMC，从而可应用现有概率模型检测技术进行设计时验证。
- 运行时概率模型检测使智能体能够在不确定条件下预测并选择成功率最高的计划。
- 通过外部动作修改行为激活标志和任务状态变量，LISA 与 MOOS-IvP 的集成是可行的。
- PRISM 模型示例成功验证了在概率性天气条件下的任务结果，恶劣条件下在区域间切换的概率为 60%。
- 系统成功验证了任务中止与燃油消耗动态，表现出在资源与环境约束下的鲁棒性。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。