[논문 리뷰] Norms, Institutions, and Robots

Stevan Tomic, Federico Pecora외 1명|arXiv (Cornell University)|2018. 07. 30.

Multi-Agent Systems and Negotiation참고 문헌 54인용 수 3

한 줄 요약

이 논문은 혼합된 인간-로봇 사회에서 사회적 규범을 표현하기 위해 '제도'를 사용하는 형식적 프레임워크를 제안하며, 제약 만족 문제(CSP)에 기반한 계산 모델을 통해 로봇이 규범에 대해 추론할 수 있도록 한다. 이 프레임워크는 물리적 도메인에서 규범 검증, 계획 수립, 실행을 지원하며, 배터리나スポン지와 같은 물리적 물체를 사용한 거래 시나리오에서 실제 로봇-인간 상호작용을 성공적으로 구현한다.

ABSTRACT

Interactions within human societies are usually regulated by social norms. If robots are to be accepted into human society, it is essential that they are aware of and capable of reasoning about social norms. In this paper, we focus on how to represent social norms in societies with humans and robots, and how artificial agents such as robots can reason about social norms in order to plan appropriate behavior. We use the notion of institution as a way to formally define and encapsulate norms, and we provide a formal framework for institutions. Our framework borrows ideas from the field of multi-agent systems to define abstract normative models, and ideas from the field of robotics to define physical executions as state-space trajectories. By bridging the two in a common model, our framework allows us to use the same abstract institution across physical domains and agent types. We then make our framework computational via a reduction to CSP and show experiments where this reduction is used for norm verification, planning, and plan execution in a domain including a mixture of humans and robots.

연구 동기 및 목표

• 기존의 로봇 규범 모델에서 운영 의미론과 물리적 기반의 부족을 해결하기 위해.
• 추상적인 규범을 물리적 도메인과 공식적으로 연결하여 혼합된 인간-로봇 사회에서 로봇이 사회적 규범에 대해 추론할 수 있도록 하기 위해.
• 배터리나 스폰지와 같은 공유 물체를 통해 상호작용하는 물체 기반 조율을 지원하기 위해.
• 다양한 에이전트 유형과 사회적 맥락에 적용 가능한 재사용 가능하고 도메인에 종속되지 않는 규범 모델을 제공하기 위해.
• 추상적인 규범 모델링과 물리적 실행 궤적을 통합하여 다중 에이전트 시스템과 로봇공학을 연결하기 위해.

제안 방법

• 프레임워크는 사회적 맥락에서 역할, 행동, 물체, 규범을 모두 포함하는 형식적 추상화로 '제도'를 정의한다.
• 추상적인 제도적 요소를 도메인 내 구체적인 물리적 에이전트와 물체로 매핑하는 기반화 메커니즘을 도입한다.
• 규범 추론 작업을 제약 만족 문제(CSP)로 환원하여 계산적 검증과 계획 수립을 가능하게 한다.
• 물리적 실행은 상태공간 궤적으로 모델링되며, 추상적인 규범과 시간에 따른 관측 가능한 행동을 연결한다.
• 타임라인 기반 계획기(CSP로 인코딩된 규범을 사용하여 로봇의 준수 가능한 행동 시퀀스를 생성한다).
• 역할 및 물체 기반화를 동적으로 변경함으로써 다양한 인간-로봇 및 로봇-로봇 시나리오에서의 재사용을 가능하게 하는 동적 재구성 기능을 지원한다.

실험 결과

연구 질문

• RQ1 다양한 물리적 도메인과 에이전트 유형에 대해 재사용 가능한 방식으로 사회적 규범을 형식적으로 표현하고 봉인할 수 있는 방법은 무엇인가?
• RQ2 추상적인 규범 모델을 물리적 환경에 기반화하여 로봇 실행을 위한 운영 의미론을 보장할 수 있는가?
• RQ3 제약 만족 문제(CSP)가 혼합된 인간-로봇 상호작용에서 준수 행동을 검증하고 계획하며 실행하는 데 효과적으로 사용될 수 있는가?
• RQ4 상호작용에 사용되는 물리적 물체인 물체(예: 스폰지, 배터리)를 규범 모델에 형식적으로 통합할 수 있는가?
• RQ5 다양한 시나리오(인간, 로봇, 혼합 팀 포함)에서 동일한 제도 모델을 사용할 수 있는가의 가능성은 무엇인가?

주요 결과

• 프레임워크는 인간-로봇 거래 상호작용에서 규범 준수를 성공적으로 검증하였으며, 노란 스폰지를 주기 전에 파란 스폰지를 선택한 행동이 시간적 규범 위반으로 인해 준수하지 않은 것으로 밝혀졌다.
• 재구성된 시나리오에서 로봇이 구매자 역할을 수행하며 배터리를 상품으로 사용해 인간 판매자와 상호작용하는 상황에서, 준수 가능한 계획이 자동으로 생성되고 페퍼 로봇에 의해 실행되었다.
• 역할 기반화를 변경함으로써 동일한 제도 모델이 로봇-로봇 상호작용에 재사용되었으며, 이는 프레임워크의 다양한 에이전트 유형 간 재사용 가능성을 입증한다.
• CSP 기반 환원을 통해 효율적인 규범 검증과 계획 수립이 가능했으며, 제약 위반 분석을 통해 준수하지 않은 행동을 탐지할 수 있었다.
• 물체 인식 기반 조율이 지원되었으며, 이는 상호작용 모델에서 스폰지와 배터리를 물리적 물체로 사용한 것으로 입증되었다.
• 추상적 규범 명세에서 물리적 로봇 실행으로의 원활한 전환을 가능하게 하였으며, 인간 참가자와 로봇을 포함한 실제 실험을 통해 검증되었다.