[논문 리뷰] Norm Identification through Plan Recognition

Nir Oren, Felipe Meneguzzi|arXiv (Cornell University)|2020. 10. 06.

Logic, Reasoning, and Knowledge인용 수 11

한 줄 요약

이 논문은 다중 에이전트 시스템에서 규범 식별을 위한 계획 인식 기반 메커니즘을 제안한다. 에이전트들은 준수 행동을 관찰하고, HTN 계획을 통해 생성한 대안 계획과 실제 계획을 비교함으로써 규범을 유추한다. 이 방법은 특정 상태의 반복적인 회피 또는 실행을 통해 의무와 금지를 식별하며, 빈도 임계값을 도입하여 위반 상황을 처리함으로써 저위반 환경에서도 규범 탐지를 가능하게 한다.

ABSTRACT

Societal rules, as exemplified by norms, aim to provide a degree of behavioural stability to multi-agent societies. Norms regulate a society using the deontic concepts of permissions, obligations and prohibitions to specify what can, must and must not occur in a society. Many implementations of normative systems assume various combinations of the following assumptions: that the set of norms is static and defined at design time; that agents joining a society are instantly informed of the complete set of norms; that the set of agents within a society does not change; and that all agents are aware of the existing norms. When any one of these assumptions is dropped, agents need a mechanism to identify the set of norms currently present within a society, or risk unwittingly violating the norms. In this paper, we develop a norm identification mechanism that uses a combination of parsing-based plan recognition and Hierarchical Task Network (HTN) planning mechanisms, which operates by analysing the actions performed by other agents. While our basic mechanism cannot learn in situations where norm violations take place, we describe an extension which is able to operate in the presence of violations.

연구 동기 및 목표

• 규범이 명시적으로 공유되지 않는 개방적이고 동적인 다중 에이전트 시스템에서 규범 식별의 과제를 해결하기 위해.
• 위반 신호에 의존하지 않고 준수 에이전트 행동을 관찰함으로써 규범을 유추하는 메커니즘을 개발하기 위해.
• 의무와 금지에 대해 빈도 기반 임계값을 통합하여 흔하지 않은 규범 위반 상황을 처리할 수 있도록 접근법을 확장하기 위해.
• 공통 온톨로지나 명시적 규범 선언이 없는 환경에서도 메커니즘이 안정적으로 작동하도록 보장하기 위해.
• 변동하는 에이전트 집단과 변화하는 규범에 적응할 수 있는 규범 체계의 기반을 마련하기 위해.

제안 방법

• 이 접근법은 계획 인식을 통해 유추된 목표에 대해 계층적 작업 네트워크(HTN) 플래너를 사용해 대안 계획을 생성한다.
• 계획 인식은 관찰된 에이전트의 행동 시퀀스를 분석함으로써 그들의 통합 목표를 식별한다.
• 실제 에이전트 행동을 생성된 대안 계획과 비교하여, 항상 피하거나 반복적으로 방문하는 상태를 탐지한다.
• 항상 피하는 상태는 금지로 분류하고, 자주 방문하는 상태는 의무로 간주한다.
• 빈도 기반 임계값 메커니즘을 도입하여 규범 위반을 처리하며, 희귀한 위반과 진정한 금지를 구분한다.
• 공통의 계획 라이브러리와 환경 보상에 대한 공통 이해를 가정함으로써, 에이전트 간 일관된 규범 유추를 가능하게 한다.

실험 결과

연구 질문

• RQ1 에이전트가 대부분 준수하고 위반이 흔하지 않은 다중 에이전트 시스템에서 어떻게 규범을 식별할 수 있는가?
• RQ2 사회적 규범 구조에 대한 사전 지식이 없는 상황에서 어떻게 규범 식별이 가능할 수 있는가?
• RQ3 비용이나 비가능성과 같은 비규범적 제약로 인해 피하는 상태와 진정한 금지를 어떻게 구분할 수 있는가?
• RQ4 계획 인식은 의무와 금지와 같은 디오네틱 개념을 유추하는 데 어떤 역할을 하는가?
• RQ5 정확한 규범 식별을 유지하면서도 규범 위반 상황을 처리할 수 있도록 접근법을 어떻게 확장할 수 있는가?

주요 결과

• 제안된 방법은 위반 신호가 부족하거나 존재하지 않는 환경에서도 준수 에이전트 행동을 관찰함으로써 규범을 성공적으로 식별한다.
• 계획 인식과 HTN 계획을 활용함으로써 반복적인 상태 회피 또는 실행을 통해 의무와 금지를 탐지할 수 있다.
• 빈도 기반 임계값을 통합한 확장은 흔한 규범 위반 상황을 처리할 수 있도록 하여 현실 환경에서의 안정성을 향상시킨다.
• 실제 금지로 인해 도달 불가능한 상태에서 발생하는 가짜 양성 결과가 있을 수 있지만, 이는 규범 준수에 영향을 주지 않기 때문에 실질적으로 문제되지 않는다.
• 이 방법은 기반 계획 인식기의 정확도에 민감하며, 향후 고급 확률적 구문 분석 기법을 활용할 수 있을 것이다.
• 이 접근법은 비공식적 관습를 잠재적 규범으로 식별할 수 있으며, 이는 공식적으로 시행되는 규칙이 아닌 고유의 효용성을 가진 선택일 수 있다.