[論文レビュー] Towards Empathetic Planning

Maayan Shvo, Sheila A. McIlraith|arXiv (Cornell University)|Jun 14, 2019

Multi-Agent Systems and Negotiation参考文献 23被引用数 5

ひとこと要約

本稿は、知識論的論理と知識論的計画を用いて、人間の信念および感情状態に合わせた計画を生成できるAIエージェントを可能にする、Empathetic Planning (EmP) という枠組みを紹介する。ユーザー研究を通じて、参加者は共感的エージェントを、共感的でないエージェントよりも著しく助けられると感じ、87%がエージェントが自分の視点を理解していると回答し、82%がそのエージェントが役立つと感じた。

ABSTRACT

Critical to successful human interaction is a capacity for empathy - the ability to understand and share the thoughts and feelings of another. As Artificial Intelligence (AI) systems are increasingly required to interact with humans in a myriad of settings, it is important to enable AI to wield empathy as a tool to benefit those it interacts with. In this paper, we work towards this goal by bringing together a number of important concepts: empathy, AI planning, and reasoning in the presence of knowledge and belief. We formalize the notion of Empathetic Planning which is informed by the beliefs and affective state of the empathizee. We appeal to an epistemic logic framework to represent the beliefs of the empathizee and propose AI planning-based computational approaches to compute empathetic solutions. We illustrate the potential benefits of our approach by conducting a study where we evaluate participants' perceptions of the agent's empathetic abilities and assistive capabilities.

研究の動機と目的

• 人間の信念と感情状態を考慮した計画を可能にするAI計画フレームワークを開発すること。
• 人間の心的状態を表現するために知識論的論理を用いて共感的計画を形式化すること。
• 知識論的計画ツールを用いた計算的手法を構築し、人間が自ら生成できる計画と同等の効果を発揮する計画を生成すること。
• 共感的エージェントが共感的でないものと比較して、より助けられると感じられ、感情知能が高いと評価されるかどうかを評価すること。
• 認知的共感を計画システムに組み込むことで、AIアシスタントと人間中心の推論のギャップを埋めること。

提案手法

• 本稿は、共感の対象となる者の信念および感情状態を表現するために、洗練された知識論的論理フレームワークを用いてEmpathetic Planning (EmP) を形式化する。
• 共感を行う者の推論を知識論的計画としてモデル化し、エージェントは共感の対象者の心的モデルに基づいて計画を計算する。
• 既存の知識論的プランナを用いて、共感の対象者が独立して生成できる最良の計画と同等以上に良い計画を計算する。
• 実際の行動と意図した目的の間の不一致についての推論を可能にし、未満たされたニーズを推定できる。
• 共感的エージェント（EmPを搭載）と共感的でないエージェント（共有された世界モデルを仮定）を比較するユーザー研究により、手法を評価する。
• 共感の認識と支援能力をテストするシナリオを設計し、参加者は両方の次元でエージェントを評価した。

実験結果

リサーチクエスチョン

• RQ1 AIエージェントは、自らのモデルとは異なる人間の信念や感情状態に合わせた計画を生成できるか？
• RQ2 人間の心的状態を推論するAIエージェントの共感的機能は、ユーザーにどのように認識されるか？
• RQ3 共感的AIエージェントは、共感的でないものと比較して、より高い支援能力を有していると感じられるか？
• RQ4 知識論的計画は、人間-AI対話における共感的行動のモデル化と計算に効果的に用いられるか？
• RQ5 共感的計画は、現実世界のシナリオにおいて計画の質とユーザー満足度をどの程度向上できるか？

主な発見

• 参加者の87%が、共感的エージェントが自分の視点を理解していると強く同意または同意しており、共感的機能の強い認識が示された。
• 参加者の82%が、自分自身がユーザーである場合にエージェントが役立つと強く同意または同意しており、高い支援能力の認識が示された。
• 参加者は共感的エージェントを共感的（M = 4.21）に、共感的でないエージェント（M = 1.72）よりも著しく高く評価し、統計的に有意な差（t(39) = 12.48, p < 0.01）が確認された。
• 研究では、共感的エージェントが、誤ったバス路線の修正や、静かに通信する提案など、意図した目的と実際の行動の違いをよりうまく区別できることを確認した。
• 安全、恐怖、社会的不快感（例：アゴラフォビア、難聴）を含むシナリオでは、共感的エージェントがユーザーの感情的・認知的制約をより効果的に尊重する計画を提示した。
• 結果は、知識論的計画と共感のモデリングを統合することで、より社会的に知的な、ユーザーに受け入れやすいAI行動が得られることを示している。