[논문 리뷰] Explainable Agents Through Social Cues: A Review

Sebastian Wallkötter, Silvia Tulli외 3명|arXiv (Cornell University)|2020. 03. 11.

Explainable Artificial Intelligence (XAI)참고 문헌 82인용 수 6

한 줄 요약

이 논문은 인간-로봇 상호작용에서 투명성과 신뢰를 향상시키기 위해 사회적 신호—예를 들어 언어, 움직임, 시선 등을 사용하는 설명 가능한 몸체적 에이전트를 검토한다. 정의, 사회적 신호를 활용한 구현 전략, 평가 방법을 통합하여 학습 프레임워크에 설명 가능성 통합 시 발생하는 주요 과제를 규명하고 향후 연구를 위한 열린 연구 질문을 제안한다.

ABSTRACT

The issue of how to make embodied agents explainable has experienced a surge of interest over the last three years, and, there are many terms that refer to this concept, e.g., transparency or legibility. One reason for this high variance in terminology is the unique array of social cues that embodied agents can access in contrast to that accessed by non-embodied agents. Another reason is that different authors use these terms in different ways. Hence, we review the existing literature on explainability and organize it by (1) providing an overview of existing definitions, (2) showing how explainability is implemented and how it exploits different social cues, and (3) showing how the impact of explainability is measured. Additionally, we present a list of open questions and challenges that highlight areas that require further investigation by the community. This provides the interested reader with an overview of the current state-of-the-art.

연구 동기 및 목표

• 몸체적 에이전트에서 설명 가능성의 다양한 정의를 통합하고 명확히 하여 문헌 내 용어의 일관성 부족 문제를 해결한다.
• 언어, 움직임, 텍스트, 이미지 등 사회적 신호가 몸체적 에이전트에서 설명 가능성 구현에 어떻게 활용되는지 분석한다.
• 설명 가능성의 영향을 측정하기 위한 기존 방법을 평가하며, 인간-로봇 상호작용에서 신뢰, 내구성, 효율성에 초점을 맞춘다.
• 특히 학습 및 적응형 시스템에 설명 가능성 통합에 대한 현재 연구의 격차를 규명하고 향후 연구를 위한 열린 질문을 제안한다.

제안 방법

• 설명 가능한 몸체적 에이전트와 관련된 32개의 관련 연구를 식별하기 위해 关련 키워드 기반의 체계적 문헌 검색을 수행하였다.
• 연구 간 설명 가능성의 정의를 분류하고 분석하여 네 가지 핵심 동기 요인을 도출: 상호작용 기반 교육, 신뢰, 팀워크, 윤리.
• 설명 가능성 메커니즘과 사회적 신호 간의 맵핑: 구두 설명(언어), 텍스트 출력, 시각적 행동(움직임), 시각적 디스プレイ(이미지).
• 설명 가능한 사건의 알고리즘적 선택에 대해 주로 관련 연구를 인용함으로써 주요 연구에서의 보고 부족 문제를 보완하였다.
• 신뢰, 내구성, 효율성에 중점을 두고 평가 방법을 검토하고 실험에서 사용된 측정 기법을 평가하였다.
• 강화 학습과 같은 학습 프레임워크에 설명 가능성 통합 시 발생하는 통합 과제를 규명하고 향후 연구에서 보다 상세한 보고를 당부하였다.

실험 결과

연구 질문

• RQ1 에이전트의 목표와 행동에 대한 인간의 기대와 믿음을 예측하거나 추적하기 위한 효과적인 모델은 무엇인가?
• RQ2 설명 가능성 통합 시 인간을 루프에 포함시키기 위해 학습 메커니즘은 어떻게 설계되어야 하는가?
• RQ3 몸체성과 환경적 맥락은 설명 가능성에 적합한 사회적 신호의 선택과 효과성에 어떻게 영향을 미치는가?
• RQ4 설명 가능한 몸체적 에이전트의 신뢰를 평가하기 위해 사용할 수 있는 객관적이고 측정 가능한 지표는 무엇인가?
• RQ5 왜 설명 가능성은 때로 상호작용의 효율성을 향상시키지 못하는가? 이러한 비균일한 영향을 초래하는 요인은 무엇인가?

주요 결과

• 연구 간 설명 가능성의 정의 방식에 상당한 이질성이 존재하며, 표준화된 용어가 없어, 저자들은 통합된 정의를 제안한다.
• 시선, 언어, 움직임과 같은 사회적 신호가 자주 사용되어 설명을 전달하며, 특히 움직임과 시선은 가독성과 의도 신호 전달에 매우 효과적이다.
• 설명 가능성 메커니즘이 알고리즘적으로 어떻게 선택되거나 학습 과정에 통합되는지에 대한 상세한 기술이 포함된 연구는 소수에 불과하다.
• 신뢰와 내구성은 설명 가능성의 영향을 측정할 때 가장 흔히 사용되는 결과이며, 효율성은 일관성 있게 평가되지 않는다.
• growing 관심에도 불구하고, 설명 가능성의 적응형 및 학습 기반 에이전트에의 통합은 여전히 개발이 부족하며, 기존 연구에서 방법론적 보고가 부족하다.
• 본 리뷰는 인간 기대 모델링, 인간-루프 학습, 환경적 영향이 신호 선택에 미치는 영향, 객관적 신뢰 지표, 설명 가능성의 상호작용 효율성에 대한 비균일한 영향을 규명하는 데 있어 핵심 격차를 드러내는 다섯 가지 핵심 열린 질문을 규명하였다.