[论文解读] Causality, Responsibility and Blame in Team Plans

Natasha Alechina, Joseph Y. Halpern+1 more|arXiv (Cornell University)|May 20, 2020

AI-based Problem Solving and Planning参考文献 23被引用 4

一句话总结

本文将基于Halpern和Chockler定义的形式因果、责任与责备框架应用于团队计划，表明在单调和合取性团队计划中，因果关系与责任可多项式时间计算。该研究提供了一种可行的方法，用于识别导致计划失败的最负责任的参与者，在信任管理、恢复机制和资源分配中具有应用价值。

ABSTRACT

Many objectives can be achieved (or may be achieved more effectively) only by a group of agents executing a team plan. If a team plan fails, it is often of interest to determine what caused the failure, the degree of responsibility of each agent for the failure, and the degree of blame attached to each agent. We show how team plans can be represented in terms of structural equations, and then apply the definitions of causality introduced by Halpern [2015] and degree of responsibility and blame introduced by Chockler and Halpern [2004] to determine the agent(s) who caused the failure and what their degree of responsibility/blame is. We also prove new results on the complexity of computing causality and degree of responsibility and blame, showing that they can be determined in polynomial time for many team plans of interest.

研究动机与目标

• 为解决在失败由级联依赖引起时，确定哪些参与者对团队计划失败负有因果责任的挑战。
• 将Halpern和Chockler的形式因果、责任与责备定义应用于团队计划，使其与直观判断保持一致。
• 分析团队计划中因果与责任的计算复杂度，识别可计算的子类。
• 实现实时或运行时系统中责备与责任推理的实用部署，适用于多智能体协调场景。
• 将框架扩展至包含不确定性，并通过概率推理实现期望责备的计算。

提出的方法

• 将团队计划表示为结构因果模型，使用内生变量表示任务执行与先决条件。
• 将每个参与者的行动表示为变量（例如，in_a(t) = 0 表示参与者a未能执行任务t），并用方程捕捉依赖关系。
• 采用Halpern的实际因果定义，以及Chockler与Halpern的责备程度度量，量化参与者对失败的贡献。
• 证明在单调因果模型（团队计划中常见）中，因果关系可多项式时间计算。
• 证明在后置条件最小化计划中（先决条件由先前步骤唯一确定），因果关系与责任均可多项式时间计算。
• 通过期望责备（即不确定性下责备程度的期望值）引入不确定性建模。

实验结果

研究问题

• RQ1 如何将形式因果应用于团队计划，以识别导致失败的参与者？
• RQ2 在团队计划中确定因果与责任的计算复杂度为何？
• RQ3 团队计划的哪些结构特性（如单调性、合取性）可导致责任计算的可计算性？
• RQ4 在不确定性下，能否对团队计划中的责备进行有意义的量化？其与责任的关系如何？
• RQ5 任务之间的依赖关系如何影响对个体参与者的责任与责备分配？

主要发现

• 当底层因果模型为单调时，团队计划中的因果关系可多项式时间计算，而该条件在大多数实际团队计划中成立。
• 一般情况下，团队计划中参与者的责备程度与责备均为NP完全问题，但在后置条件最小化计划中，其计算可多项式时间完成。
• 对于后置条件最小化计划（先决条件由先前步骤唯一确定），因果关系与责任均可多项式时间计算。
• 该框架可自然扩展以处理不确定性，支持期望责备的计算，即责备程度的期望值。
• 从团队计划导出的因果模型本质上具有单调性，即其结构方程中不包含否定项，从而支持高效计算。
• 研究结果表明，对许多现实的计划结构，团队计划中的因果与责任推理在计算上是可行的，支持实时系统中的部署。