[논문 리뷰] Deliberation and its Role in the Formation of Intentions

Anand S. Rao, Michael Georgeff|arXiv (Cornell University)|2013. 03. 20.

Multi-Agent Systems and Negotiation참고 문헌 7인용 수 11

한 줄 요약

이 논문은 합리적 에이전트의 고찰을 형식화하기 위해 가지치기 시간 가능 세계 모델을 제안하며, 믿음, 목표, 의도, 시간, 행동, 확률, 보상 등을 통합한다. 에이전트가 의사결정 트리로 고찰한 후 이를 가능 세계 표현으로 변환하여 의도를 형성하고 추론할 수 있음을 보여주며, 동적이고 불확실한 환경에서 의도 형성에 대한 통합적 프레임워크를 제공한다.

ABSTRACT

Deliberation plays an important role in the design of rational agents embedded in the real-world. In particular, deliberation leads to the formation of intentions, i.e., plans of action that the agent is committed to achieving. In this paper, we present a branching time possible-worlds model for representing and reasoning about, beliefs, goals, intentions, time, actions, probabilities, and payoffs. We compare this possible-worlds approach with the more traditional decision tree representation and provide a transformation from decision trees to possible worlds. Finally, we illustrate how an agent can perform deliberation using a decision-tree representation and then use a possible-worlds model to form and reason about his intentions.

연구 동기 및 목표

• 동적이고 불확실한 환경에서 합리적 에이전트가 고찰을 통해 의도를 어떻게 형성하는지 형식적으로 모델링하는 데 목적이 있다.
• 믿음, 목표, 의도, 시간, 행동, 확률, 보상 등의 다수의 인지적 요소를 하나의 일관된 모델에 통합하는 데 목적이 있다.
• 기존의 의사결정 트리 표현과 비교하여 가능 세계 접근법을 평가하고, 이들 간의 형식적 변환을 수립하는 데 목적이 있다.
• 에이전트가 의사결정 트리를 활용해 고찰하고, 이후 가능 세계 모델을 활용해 자신의 의도를 추론할 수 있음을 보여주는 데 목적이 있다.
• 실제 에이전트 행동에서 약속, 지속성, 적응 능력을 지원하는 의도 형성에 대한 이론적 기반을 제공하는 데 목적이 있다.

제안 방법

• 각 세계가 가능한 미래 상태를 나타내는 가지치기 시간 가능 세계 모델을 제안하며, 시간적 및 확률적 구조를 포함한다.
• 가능 세계 프레임워크 내에서 믿음, 목표, 의도, 행동, 보상을 위한 형식적 정의를 제시하며, 모달 논리와 시간 연산자를 사용한다.
• 의도 형성은 에이전트가 목표와 믿음을 고려하고, 충분한 확률로 성공할 것으로 기대되는 행동 시퀀스(계획)에 약속하는 과정으로 정의한다.
• 의사결정 트리에서 가능 세계 모델로의 변환을 수립하며, 확률적 및 시간적 구조를 유지한다.
• 모달 논리를 사용하여 가능 세계 간의 의도 지속성, 목표 달성, 믿음 일관성 등의 성질을 표현한다.
• 에이전트가 의사결정 트리에서 선택지를 고찰하고, 가능 세계 표현에서 계획을 선택하고 의도에 약속하는 방식으로 모델을 적용한다.

실험 결과

연구 질문

• RQ1 어떻게 합리적 에이전트의 고찰을 형식적으로 모델링하여 불확실하고 동적인 환경에서 의도 형성에 기여할 수 있는가?
• RQ2 에이전트 추론의 맥락에서 의사결정 트리 표현과 가능 세계 모델 간의 관계는 무엇인가?
• RQ3 시간적 및 확률적 프레임워크 내에서 의도를 형식적으로 정의하고 목표 및 계획과 어떻게 구별할 수 있는가?
• RQ4 의사결정 트리에서 가능 세계 모델로의 변환을 가능하게 하는 형식적 변환 규칙는 무엇인가? 이 과정에서 고찰적 추론가 유지되는가?
• RQ5 가능 세계 모델은 불확실성과 변화하는 조건 속에서도 의도의 지속성과 약속을 어떻게 지원하는가?

주요 결과

• 가능 세계 모델은 의도 형성의 시간적 및 확률적 역학을 성공적으로 포착하여 에이전트의 약속에 대한 형식적 추론을 가능하게 한다.
• 의사결정 트리에서 가능 세계로의 변환 과정는 에이전트의 고찰 과정을 유지하며, 실용적 의사결정과 형식적 의도 모델링 간의 다리를 놓는다.
• 의도 형성은 목표 지향적이면서도 불확실성 하에서도 강건한 계획에 대한 약속으로 형식화되며, 논리적 제약 조건을 통해 지속성이 보장된다.
• 모델은 다수의 가능한 미래를 추론할 수 있도록 하여, 에이전트가 의도에 약속하기 전에 행동의 결과를 평가할 수 있게 한다.
• 가능 세계 프레임워크에 보상과 확률을 통합함으로써, 에이전트는 기대 효용과 성공 가능성에 따라 의도의 우선순위를 정할 수 있다.
• 이 접근법은 새로운 정보나 환경 변화에 대응해 자신의 의도를 재조정할 수 있는 합리적 에이전트를 구축하는 데 기반을 제공한다.