[论文解读] Norm Identification through Plan Recognition

Nir Oren, Felipe Meneguzzi|arXiv (Cornell University)|Oct 6, 2020

Logic, Reasoning, and Knowledge被引用 11

一句话总结

本文提出了一种基于计划识别的机制，用于在多智能体系统中识别规范，其中智能体通过观察合规行为并对比实际计划与通过HTN规划生成的替代计划来推断规范。该方法通过反复避免或执行特定状态来识别义务和禁止，通过频率阈值扩展以处理违规行为，即使在违规频率较低的环境中也能实现规范检测。

ABSTRACT

Societal rules, as exemplified by norms, aim to provide a degree of behavioural stability to multi-agent societies. Norms regulate a society using the deontic concepts of permissions, obligations and prohibitions to specify what can, must and must not occur in a society. Many implementations of normative systems assume various combinations of the following assumptions: that the set of norms is static and defined at design time; that agents joining a society are instantly informed of the complete set of norms; that the set of agents within a society does not change; and that all agents are aware of the existing norms. When any one of these assumptions is dropped, agents need a mechanism to identify the set of norms currently present within a society, or risk unwittingly violating the norms. In this paper, we develop a norm identification mechanism that uses a combination of parsing-based plan recognition and Hierarchical Task Network (HTN) planning mechanisms, which operates by analysing the actions performed by other agents. While our basic mechanism cannot learn in situations where norm violations take place, we describe an extension which is able to operate in the presence of violations.

研究动机与目标

• 解决开放、动态多智能体系统中规范未被明确传达的规范识别挑战。
• 开发一种通过观察合规智能体行为推断规范的机制，而非依赖违规信号。
• 通过引入基于频率的阈值，将该方法扩展以处理偶尔发生的规范违规。
• 确保该方法在缺乏共享本体论或显式规范声明的情况下依然具有鲁棒性。
• 为能够适应智能体群体变化和规范演化的规范性系统提供基础。

提出的方法

• 该方法使用分层任务网络（HTN）规划器，为通过计划识别推断出的目标生成替代计划。
• 计划识别通过分析智能体的动作序列，识别出其行为的总体目标。
• 系统将实际智能体行为与生成的替代计划进行比较，以检测被持续避免或反复访问的状态。
• 始终被避免的状态被归类为禁止，而频繁访问的状态则被视为义务。
• 引入基于频率的阈值机制以处理规范违规，从而区分罕见违规与真正的禁止。
• 该方法假设存在共享的计划库以及对环境奖励的共同理解，从而实现在智能体之间的一致规范推断。

实验结果

研究问题

• RQ1 在智能体大多合规且违规罕见的多智能体系统中，如何识别规范？
• RQ2 哪些机制可使规范识别在缺乏社会规范结构先验知识的情况下仍能运行？
• RQ3 系统如何区分真正的禁止与因成本或不可行性等非规范约束而避免的状态？
• RQ4 计划识别在推断义务和禁止等道义概念方面发挥什么作用？
• RQ5 如何扩展该方法以处理规范违规，同时保持规范识别的准确性？

主要发现

• 所提出的方法通过观察合规智能体行为成功识别规范，因此在违规信号稀缺或缺失的系统中依然有效。
• 利用计划识别和HTN规划可实现通过重复避免或执行特定状态来检测义务和禁止。
• 引入频率阈值的扩展使系统能够处理偶尔的规范违规，从而在现实环境中提升鲁棒性。
• 当状态因真实禁止而不可达时，可能出现误报，但这些情况不影响规范合规性，因此在实践中并非问题。
• 该方法对底层计划识别器的准确性较为敏感，未来可通过采用先进的概率解析技术加以改进。
• 该方法将非正式惯例识别为潜在规范，这些可能代表高价值选择而非正式强制规则。