[論文レビュー] Causality, Responsibility and Blame in Team Plans

Natasha Alechina, Joseph Y. Halpern+1 more|arXiv (Cornell University)|May 20, 2020

AI-based Problem Solving and Planning参考文献 23被引用数 4

ひとこと要約

この論文は、HalpernとChocklerの定義に基づく形式的因果関係、責任、非難フレームワークをチーム計画に適用し、単調かつ結合的チーム計画において因果関係と責任が多項式時間で計算可能であることを示している。計画の失敗において最も責任が重いエージェントを特定する実用的な手法を提供し、信頼管理、回復、リソース割り当てへの応用が可能である。

ABSTRACT

Many objectives can be achieved (or may be achieved more effectively) only by a group of agents executing a team plan. If a team plan fails, it is often of interest to determine what caused the failure, the degree of responsibility of each agent for the failure, and the degree of blame attached to each agent. We show how team plans can be represented in terms of structural equations, and then apply the definitions of causality introduced by Halpern [2015] and degree of responsibility and blame introduced by Chockler and Halpern [2004] to determine the agent(s) who caused the failure and what their degree of responsibility/blame is. We also prove new results on the complexity of computing causality and degree of responsibility and blame, showing that they can be determined in polynomial time for many team plans of interest.

研究の動機と目的

• 計画の失敗が連鎖的な依存関係によって引き起こされる場合に、どのエージェントが因果的に責任を負っているかを特定する課題に対処すること。
• HalpernとChocklerの定義に基づく因果関係、責任、非難の形式的定義を、直感的な判断と整合性を持つようにチーム計画に適用すること。
• チーム計画における因果関係と責任の計算複雑性を分析し、解けるクラスを同定すること。
• マルチエージェント協調を含むリアルタイムまたはランタイムシステムにおいて、非難と責任の推論を実用的に展開可能にする。
• 不確実性を含むフレームワークを拡張し、確率的推論を用いて期待される非難を導出すること。

提案手法

• タスク実行と事前条件を内生変数として使用して、チーム計画を構造的因果モデルとして表現する。
• 各エージェントの行動を変数としてモデル化する（例：in_a(t) = 0 はエージェント a がタスク t を実行しない場合）。依存関係を記述する方程式を含む。
• Halpernの実際の因果関係の定義と、ChocklerとHalpernの責任度を用いて、失敗に及ぼすエージェントの寄与度を定量化する。
• 単調な因果モデル（チーム計画で一般的）では、因果関係が多項式時間で計算可能であることを証明する。
• 事後条件が最小の計画（事前条件が以前のステップによって一意に決定される）では、因果関係と責任の両方が多項式時間で計算可能であることを示す。
• エージェントの行動に関する不確実性を確率的推論を用いて取り入れ、期待される非難（不確実性下での責任度の期待値）を定義する。

実験結果

リサーチクエスチョン

• RQ1 形式的因果関係をどのようにチーム計画に適用し、失敗の原因となったエージェントを特定できるか？
• RQ2 チーム計画における因果関係と責任を特定する際の計算複雑性は何か？
• RQ3 チーム計画のどの構造的性質（例：単調性、結合性）が責任の計算を容易にするか？
• RQ4 不確実性下でも非難を意味的に定量化できるか？また、責任とはどのように関係するか？
• RQ5 タスク間の依存関係は、個々のエージェントに対する責任と非難の割り当てにどのように影響するか？

主な発見

• 単調な因果モデル（多くの実用的チーム計画で成立）では、チーム計画における因果関係は多項式時間で計算可能である。
• 一般には責任度と非難はNP完全であるが、事後条件が最小の計画では多項式時間で計算可能である。
• 事後条件が最小の計画では、事前条件が以前のステップによって一意に決定されるため、因果関係と責任の両方が多項式時間で計算可能である。
• このフレームワークは不確実性に対しても自然に拡張可能であり、期待される非難（責任度の期待値）の計算が可能である。
• チーム計画から導出される因果モデルは本質的に単調であるため、構造的方程式に否定が含まれず、効率的な計算が可能である。
• 結果として、多くの現実的な計画構造において、チーム計画における因果関係と責任の推論が計算的に実行可能であり、リアルタイムでの展開が可能であることが示された。