[论文解读] Enabling Basic Normative HRI in a Cognitive Robotic Architecture

Vasanth Sarathy, Jason R. Wilson+2 more|arXiv (Cornell University)|Feb 11, 2016

Psychology of Moral and Emotional Judgment参考文献 12被引用 5

一句话总结

本文在 DIARC 框架内提出了一种集成式认知机器人架构，通过结合基于功能的推理、类比推理和动作选择，实现了基本的规范性人机交互，能够检测并缓解具有道德意义的情境。通过基于场景的推理表明，机器人能够通过基于类比过往情境的动作修改，主动避免诸如威胁性物品交接等规范性违规行为，从而确保社会可接受的行为。

ABSTRACT

Collaborative human activities are grounded in social and moral norms, which humans consciously and subconsciously use to guide and constrain their decision-making and behavior, thereby strengthening their interactions and preventing emotional and physical harm. This type of norm-based processing is also critical for robots in many human-robot interaction scenarios (e.g., when helping elderly and disabled persons in assisted living facilities, or assisting humans in assembly tasks in factories or even the space station). In this position paper, we will briefly describe how several components in an integrated cognitive architecture can be used to implement processes that are required for normative human-robot interactions, especially in collaborative tasks where actions and situations could potentially be perceived as threatening and thus need a change in course of action to mitigate the perceived threats.

研究动机与目标

• 通过在人机交互中嵌入道德能力，解决认知机器人架构中规范性推理的缺失问题。
• 使机器人能够实时感知并响应具有社会和道德意义的情境，例如危险物品的传递。
• 通过将当前动作与过往情景进行类比比较，检测具有道德问题的动作，从而避免规范性违规。
• 实施动态动作修改过程，当检测到道德违规时，选择更安全的替代动作。
• 将道德感知整合到完整的认知架构（DIARC）中，实现在协作任务中端到端的规范性决策。

提出的方法

• 使用结构映射引擎（SME）计算当前情景与存储的过往情景之间的类比相似度，识别结构上相似的情境。
• 应用道德感知算法（CheckMoralPercept），检查最相似的情景是否具有道德可接受性；若不可接受，则迭代修改动作脚本。
• 采用多模态功能模型，推断物体和动作在上下文中的物理、功能、社会及伦理功能。
• 将动作选择与道德推理相结合，使机器人在检测到规范性违规时能够选择替代的、更安全的动作。
• 利用 DIARC 架构现有组件（感知、导航、规划、自然语言处理）实现规范性处理的无缝集成。
• 使用 SME 输出的相似度分数（例如 0.4465、0.4285、0.2910）对类比情景进行排序，并指导道德评估。

实验结果

研究问题

• RQ1 认知机器人架构如何检测涉及潜在有害行为（如物品交接）的道德敏感情境？
• RQ2 机器人通过将当前动作与类比的过往情景进行比较，其规范性适当性推理机制是什么？
• RQ3 当检测到规范性违规时，机器人如何动态修改其动作计划以避免违规？
• RQ4 功能推断（尤其是社会与伦理功能）在塑造人机交互中规范性行为方面发挥什么作用？
• RQ5 使用存储情景的类比推理能否有效指导实时机器人交互中的道德决策？

主要发现

• 道德感知算法成功识别出棒球棒情景（BBS）为道德违规，因其与当前情景的相似度较高（0.4465），从而触发动作修改。
• 在修改动作脚本以包含口头警告后，热辣锅情景（HSS）成为最相似情景（0.4285），且被判定为道德可接受，从而验证了修改后动作的有效性。
• 花束情景（FS）尽管存在意外和物体功能的不确定性，但因其结果积极且无伤害，被判定为道德可接受，表明道德评估具有情境敏感性。
• 该系统有效利用类比推理在无需精确情景匹配的情况下检测规范性风险，而是依赖于结构相似性。
• 将道德推理集成到 DIARC 架构中，实现了实时、情境感知的动作选择，避免了社会不可接受的行为。
• 该方法表明，机器人可通过将当前动作与类比的过往情景进行比较，并据此修改行为，主动避免规范性违规。