[논문 리뷰] Enabling Basic Normative HRI in a Cognitive Robotic Architecture

Vasanth Sarathy, Jason R. Wilson외 2명|arXiv (Cornell University)|2016. 02. 11.

Psychology of Moral and Emotional Judgment참고 문헌 12인용 수 5

한 줄 요약

이 논문은 윤리적이고 사회적으로 적합한 행동을 보장하기 위해 DIARC 내에서 통합된 인지 로봇 아키텍처를 제안한다. 이 아키텍처는 접근성 기반 추론, 유사성 기반 추론, 행동 선택을 융합하여 기본적인 규범적 인간-로봇 상호작용을 가능하게 한다. 시나리오 기반 추론을 통해 로봇은 유사한 과거 상황을 기반으로 행동을 수정함으로써 위협적인 물체 이관과 같은 규범 위반을 사전에 방지할 수 있으며, 사회적으로 수용 가능한 행동을 보장한다.

ABSTRACT

Collaborative human activities are grounded in social and moral norms, which humans consciously and subconsciously use to guide and constrain their decision-making and behavior, thereby strengthening their interactions and preventing emotional and physical harm. This type of norm-based processing is also critical for robots in many human-robot interaction scenarios (e.g., when helping elderly and disabled persons in assisted living facilities, or assisting humans in assembly tasks in factories or even the space station). In this position paper, we will briefly describe how several components in an integrated cognitive architecture can be used to implement processes that are required for normative human-robot interactions, especially in collaborative tasks where actions and situations could potentially be perceived as threatening and thus need a change in course of action to mitigate the perceived threats.

연구 동기 및 목표

• 인지 로봇 아키텍처에서 규범적 추론의 부족을 해결하기 위해 인간-로봇 상호작용에 윤리적 능력을 통합한다.
• 위험한 물체 이관과 같은 사회적·윤리적 맥락이 강한 상황을 실시간으로 인지하고 반응할 수 있도록 한다.
• 과거 시나리오와의 유사성 비교를 통해 윤리적으로 문제가 되는 행동을 탐지함으로써 규범 위반을 방지한다.
• 규범 위반이 탐지될 경우 안전한 대체 행동으로의 동적 행동 수정 과정을 구현한다.
• 전체 스택 인지 아키텍처(DIARC)에 윤리적 인지 기능을 통합하여 협업 작업에서 종단 간 규범적 의사결정을 가능하게 한다.

제안 방법

• 현재 상황과 저장된 과거 상황 간의 유사성을 계산하기 위해 구조 매핑 엔진(SME)을 사용하여 유사성 기반 유사성 유사도를 산정한다.
• 가장 유사한 상황이 윤리적으로 수용 가능한지 확인하는 윤리적 인지 알고리즘(CheckMoralPercept)을 적용하며, 그렇지 않은 경우 행동 스크립트를 반복적으로 수정한다.
• 다중 모odal 접근성 모델을 활용하여 물리적, 기능적, 사회적, 윤리적 접근성을 맥락 기반으로 추론한다.
• 행동 선택과 윤리적 추론을 통합하여, 규범 위반이 탐지될 경우 대체로 안전한 행동을 선택할 수 있도록 한다.
• DIARC 아키텍처의 기존 구성 요소(인식, 주행, 계획, 자연어 처리)를 활용하여 규범적 처리의 원활한 통합을 실현한다.
• SME로부터 산출된 유사도 점수(예: 0.4465, 0.4285, 0.2910)를 활용하여 관련된 시나리오를 순위 매기고 윤리적 평가를 이끌어낸다.

실험 결과

연구 질문

• RQ1 인지 로봇 아키텍처는 위협적 행동(예: 물체 이관)을 포함하는 윤리적으로 민감한 상황을 어떻게 탐지할 수 있는가?
• RQ2 로봇은 어떻게 과거 유사 시나리오와의 비교를 통해 행동의 규범적 적합성을 추론할 수 있는가?
• RQ3 규범 위반이 탐지될 경우 로봇은 어떻게 자신의 행동 계획을 동적으로 수정하여 위반을 피할 수 있는가?
• RQ4 특히 사회적 및 윤리적 접근성 추론은 인간-로봇 상호작용에서 규범적 행동을 어떻게 형성하는가?
• RQ5 기록된 시나리오와의 유사성 기반 추론이 실시간 로봇 상호작용에서 윤리적 의사결정을 효과적으로 이끌 수 있는가?

주요 결과

• 윤리적 인지 알고리즘이 높은 유사도(0.4465)로 인해 현재 상황과 유사한 야구 방망이 시나리오(BBS)를 윤리적 위반으로 정확히 식별하여 행동 수정을 유도하였다.
• 행동 스크립트에 구두 경고를 추가한 후, 뜨거운 소스 패닉 시나리오(HSS)가 가장 유사한 상황(0.4285)이 되었으며, 이는 윤리적으로 수용 가능한 것으로 평가되어 수정된 행동이 타당함을 입증하였다.
• 꽃 시나리오(FS)는 놀라움과 물체의 접근성에 기인하지만, 긍정적인 결과와 피해가 없었기 때문에 윤리적으로 수용 가능하다고 판단되어 윤리적 평가의 맥락 민감성을 보여주었다.
• 시스템은 정확한 시나리오 일치가 필요 없이 유사성 기반 추론을 통해 규범적 위험을 효과적으로 탐지하였으며, 구조적 유사성에 기반하였다.
• DIARC 아키텍처에 윤리적 추론을 통합함으로써 실시간이고 맥락 인식 기반의 행동 선택이 가능해졌으며, 사회적으로 수용 불가능한 행동을 피할 수 있었다.
• 로봇이 현재 행동을 유사한 과거 상황과 비교하고 이를 바탕으로 행동을 수정함으로써 규범 위반을 사전에 방지할 수 있음을 입증하였다.