[论文解读] Norms, Institutions, and Robots

Stevan Tomic, Federico Pecora+1 more|arXiv (Cornell University)|Jul 30, 2018

Multi-Agent Systems and Negotiation参考文献 54被引用 3

一句话总结

本文提出了一种形式化框架，通过‘制度’来表示混合人机社会中的社会规范，使机器人能够基于约束满足问题（CSP）的计算模型推理规范。该框架支持在物理领域中的规范验证、规划与执行，成功实现了在使用电池和海绵等物品的交易场景中，机器人与人类的真实世界互动。

ABSTRACT

Interactions within human societies are usually regulated by social norms. If robots are to be accepted into human society, it is essential that they are aware of and capable of reasoning about social norms. In this paper, we focus on how to represent social norms in societies with humans and robots, and how artificial agents such as robots can reason about social norms in order to plan appropriate behavior. We use the notion of institution as a way to formally define and encapsulate norms, and we provide a formal framework for institutions. Our framework borrows ideas from the field of multi-agent systems to define abstract normative models, and ideas from the field of robotics to define physical executions as state-space trajectories. By bridging the two in a common model, our framework allows us to use the same abstract institution across physical domains and agent types. We then make our framework computational via a reduction to CSP and show experiments where this reduction is used for norm verification, planning, and plan execution in a domain including a mixture of humans and robots.

研究动机与目标

• 解决现有机器人规范模型中缺乏操作语义和物理基础的问题。
• 通过将抽象规范与物理领域正式关联，使机器人能够推理混合人机社会中的社会规范。
• 支持基于物品的协调，即机器人与人类通过共享物品（如电池或海绵）进行交互。
• 提供一种可重用的、与领域无关的规范模型，适用于不同类型的代理和社交情境。
• 通过将抽象规范建模与物理执行轨迹相结合，弥合多智能体系统与机器人学之间的鸿沟。

提出的方法

• 该框架将‘制度’定义为形式化抽象，封装社会情境中的角色、行为、物品和规范。
• 引入一种接地机制，将抽象的制度元素映射到特定领域中的具体物理代理和物体。
• 将规范推理任务简化为约束满足问题（CSP），以实现计算上的验证与规划。
• 将物理执行建模为状态空间轨迹，将抽象规范与随时间变化的可观察行为相连接。
• 基于时间线的规划器利用编码为CSP的规范，为机器人生成符合规范的动作序列。
• 通过改变角色和物品的接地方式，系统支持动态重构，实现在不同人机与机器人-机器人场景中的复用。

实验结果

研究问题

• RQ1 如何以一种可复用于不同物理领域和代理类型的方式，正式表示并封装社会规范？
• RQ2 如何将抽象规范模型与物理环境接地，以确保机器人执行的操作语义？
• RQ3 约束满足问题（CSP）能否有效用于验证、规划和执行混合人机交互中的规范合规行为？
• RQ4 如何将物品——交互中使用的物理对象——正式整合进规范模型以实现机器人协调？
• RQ5 在涉及人类、机器人或混合团队的多样化场景中，使用同一制度模型的可行性如何？

主要发现

• 该框架在人机交易互动中成功验证了规范合规性，识别出一条轨迹：人类在选择蓝色海绵前先给予黄色海绵，因违反时间规范而被判定为不合规。
• 在重新配置的场景中，一个Pepper机器人自动生成并执行了一条合规计划，其中机器人扮演买家角色，使用电池作为商品与人类卖家互动。
• 通过改变角色接地，同一制度模型被复用于机器人-机器人交互，证明了该框架在不同代理类型间的可复用性。
• 基于CSP的简化方法实现了高效的规范验证与规划，系统通过约束违反分析检测出不合规行为。
• 该框架支持物品感知的协调，如在交互模型中使用海绵和电池作为物理物品。
• 该方法实现了从抽象规范定义到物理机器人执行的无缝过渡，已在与人类参与者和机器人的真实世界实验中得到验证。