[论文解读] Deliberation and its Role in the Formation of Intentions

Anand S. Rao, Michael Georgeff|arXiv (Cornell University)|Mar 20, 2013

Multi-Agent Systems and Negotiation参考文献 7被引用 11

一句话总结

本文提出了一种分支时间可能世界模型，用于形式化理性代理人的 deliberation（ deliberation 译为“ deliberation” 保留原词，因上下文为学术术语，且无标准中文对应词，故保留英文）过程，整合信念、目标、意图、时间、行动、概率和收益。它展示了代理如何使用决策树进行 deliberation，然后将这些转化为可能世界表示，以形成并推理意图，为动态、不确定环境中的意图形成提供统一框架。

ABSTRACT

Deliberation plays an important role in the design of rational agents embedded in the real-world. In particular, deliberation leads to the formation of intentions, i.e., plans of action that the agent is committed to achieving. In this paper, we present a branching time possible-worlds model for representing and reasoning about, beliefs, goals, intentions, time, actions, probabilities, and payoffs. We compare this possible-worlds approach with the more traditional decision tree representation and provide a transformation from decision trees to possible worlds. Finally, we illustrate how an agent can perform deliberation using a decision-tree representation and then use a possible-worlds model to form and reason about his intentions.

研究动机与目标

• 开发一个正式框架，用于建模理性代理在动态、不确定环境中通过 deliberation 形成意图的过程。
• 将信念、目标、意图、时间、行动、概率和收益等多种认知要素整合到一个统一连贯的模型中。
• 将可能世界方法与传统的决策树表示进行比较，并建立两者之间的正式转换关系。
• 展示代理如何使用决策树进行 deliberation，然后利用可能世界模型来推理其意图。
• 为意图形成提供一个理论基础，以支持现实世界代理行为中的承诺、持续性和适应性。

提出的方法

• 提出一种分支时间可能世界模型，其中每个世界代表一个可能的未来状态，并具有时间与概率结构。
• 在可能世界框架内，引入信念、目标、意图、行动和收益的形式化定义，使用模态逻辑和时间算子。
• 将意图形成定义为代理对其计划（行动序列）的承诺过程，该计划需与目标和信念一致，并且具有足够高的成功概率。
• 建立从决策树到可能世界模型的转换，保留其概率和时间结构。
• 使用模态逻辑表达诸如意图持续性、目标达成和可能世界间信念一致性等属性。
• 将模型应用于模拟代理如何在决策树中对选项进行 deliberation，然后在可能世界表示中选择并承诺一项意图。

实验结果

研究问题

• RQ1 如何正式建模理性代理的 deliberation，以支持在不确定、动态环境中形成意图？
• RQ2 在代理推理的语境下，决策树表示与可能世界模型之间存在何种关系？
• RQ3 如何在时间与概率框架内，正式定义意图，并将其与目标和计划区分开来？
• RQ4 哪些正式转换规则可实现从决策树到可能世界模型的转换，同时保留 deliberative reasoning（deliberation 保留原词）？
• RQ5 可能世界模型如何在不确定性与条件变化的情况下，支持对意图的持续性与承诺？

主要发现

• 可能世界模型成功捕捉了意图形成的时间与概率动态，使代理承诺的正式推理成为可能。
• 从决策树到可能世界的转换保留了代理的 deliberative 过程，实现了实践决策与正式意图建模之间的桥梁。
• 意图形成被形式化为对一项计划的承诺，该计划既具有目标导向性，又在不确定性下具有鲁棒性，其持续性通过逻辑约束得以保障。
• 该模型支持对多种可能未来的推理，使代理能在承诺意图前评估行动的后果。
• 将收益与概率整合到可能世界框架中，使代理能够基于期望效用和成功可能性来优先排序意图。
• 该方法为构建能够推理自身意图并根据新信息或环境变化调整意图的理性代理提供了基础。