[논문 리뷰] Causality, Responsibility and Blame in Team Plans

Natasha Alechina, Joseph Y. Halpern외 1명|arXiv (Cornell University)|2020. 05. 20.

AI-based Problem Solving and Planning참고 문헌 23인용 수 4

한 줄 요약

이 논문은 할퍼너와 초클러의 정의에 기반한 공식적 원인, 책임, 비난 프레임워크를 팀 계획에 적용하여, 단조성 및 결합성 팀 계획의 경우 원인과 책임을 다항 시간 내에 계산할 수 있음을 보여준다. 이는 계획 실패의 원인으로서 가장 책임이 있는 에이전트를 식별하는 계산 가능하고 실용적인 방법을 제공하며, 신뢰 관리, 복구, 자원 할당 등에 적용 가능하다.

ABSTRACT

Many objectives can be achieved (or may be achieved more effectively) only by a group of agents executing a team plan. If a team plan fails, it is often of interest to determine what caused the failure, the degree of responsibility of each agent for the failure, and the degree of blame attached to each agent. We show how team plans can be represented in terms of structural equations, and then apply the definitions of causality introduced by Halpern [2015] and degree of responsibility and blame introduced by Chockler and Halpern [2004] to determine the agent(s) who caused the failure and what their degree of responsibility/blame is. We also prove new results on the complexity of computing causality and degree of responsibility and blame, showing that they can be determined in polynomial time for many team plans of interest.

연구 동기 및 목표

• 실패가 계단식 의존성에 의해 유도될 경우를 포함하여, 팀 계획 실패의 원인을 지닌 에이전트를 특정하는 데 도전 과제를 해결하기 위해.
• 할퍼너와 쇼클러의 정의에서 유래한 원인, 책임, 비난의 공식적 정의를 직관적 판단과 일치하도록 팀 계획에 적용하기 위해.
• 팀 계획에서 원인과 책임의 계산 복잡도를 분석하여, 계산 가능성을 보장하는 하위클래스를 식별하기 위해.
• 다중 에이전트 협업을 포함하는 실시간 또는 런타임 시스템에서 비난 및 책임 추론의 실용적 구현을 가능하게 하기 위해.
• 불확실성과 확률적 추론을 통한 기대 비난을 포함하도록 프레임워크를 확장하기 위해.

제안 방법

• 작업 실행과 사전 조건을 위한 내생 변수를 사용하여 팀 계획을 구조적 원인 모델로 표현하기.
• 각 에이전트의 행동을 변수로 모델링하기 (예: agent a가 작업 t를 수행하지 않으면 in_a(t) = 0), 의존성을 기반으로 하는 방정식 설정하기.
• 할퍼너의 실제 원인 정의와 쇼클러 및 할퍼너의 책임도수를 사용하여 실패에 기여하는 에이전트의 기여도를 정량화하기.
• 단조성 원인 모델(팀 계획에서 흔히 발생함)의 경우 원인이 다항 시간 내에 계산 가능하다는 것을 증명하기.
• 사전조건 최소화 계획(사전조건이 이전 단계에 의해 유일하게 결정됨)의 경우 원인과 책임이 모두 다항 시간 내에 계산 가능하다는 것을 보여주기.
• 에이전트 행동에 대한 불확실성에 기반해 기대 비난을 정의하고, 이를 기대 책임도수의 기대값으로 계산하기.

실험 결과

연구 질문

• RQ1 공식적 원인이 팀 계획에 어떻게 적용되어 실패 원인이 된 에이전트를 식별할 수 있는가?
• RQ2 팀 계획에서 원인과 책임을 결정하는 데 필요한 계산 복잡도는 무엇인가?
• RQ3 팀 계획의 구조적 성질(예: 단조성, 결합성) 중에서 책임 계산의 계산 가능성을 보장하는 것은 무엇인가?
• RQ4 불확실성 하에서 팀 계획에서 비난을 의미 있게 정량화할 수 있는가, 그리고 책임과의 관계는 어떻게 되는가?
• RQ5 작업 간 의존성이 개별 에이전트의 책임 및 비난 할당에 어떻게 영향을 미치는가?

주요 결과

• 기본 원인 모델이 단조성일 경우 팀 계획에서 원인은 다항 시간 내에 계산 가능하며, 이는 대부분의 실용적 팀 계획에서 성립한다.
• 일반적으로 책임도수와 비난은 NP-완전이지만, 사전조건 최소화 계획에서는 다항 시간 내에 계산 가능하다.
• 사전조건 최소화 계획에서는 사전조건이 이전 단계에 의해 유일하게 결정되므로, 원인과 책임 모두 다항 시간 내에 계산 가능하다.
• 프레임워크는 자연스럽게 불확실성을 다룰 수 있으며, 기대 비난을 기대 책임도수의 기대값으로 계산할 수 있도록 한다.
• 팀 계획에서 유도된 원인 모델은 본질적으로 단조적이며, 구조적 방정식에 부정이 포함되어 있지 않아 효율적인 계산이 가능하다.
• 결과적으로, 많은 실제 계획 구조에 대해 팀 계획에서의 원인과 책임 추론이 계산적으로 가능하며, 실시간 구현에 유리하다.