[논문 리뷰] A User-Centred Framework for Explainable Artificial Intelligence in Human-Robot Interaction

Marco Matarese, Francesco Rea외 1명|arXiv (Cornell University)|2021. 09. 27.

Explainable Artificial Intelligence (XAI)인용 수 8

한 줄 요약

이 논문은 비전문가 사용자를 고려한 인간-로봇 상호작용에서 설명 가능한 인공지능(XAI)을 위한 사용자 중심 프레임워크를 제안한다. 인지 및 사회과학 원리를 통합하여 상호작용적이고 투명한 설명을 설계함으로써, 실생활 환경에서 신뢰와 협업을 향상시킨다. XAI를 순수 기술 문제로 보는 것에서 벗어나 사회적 상호작용 문제로 간주함으로써, 로봇은 맥락 인지 기반의 인간이 이해할 수 있는 설명을 제공할 수 있게 되며, 이는 사용자 이해와 신뢰를 증진시킨다.

ABSTRACT

State of the art Artificial Intelligence (AI) techniques have reached an impressive complexity. Consequently, researchers are discovering more and more methods to use them in real-world applications. However, the complexity of such systems requires the introduction of methods that make those transparent to the human user. The AI community is trying to overcome the problem by introducing the Explainable AI (XAI) field, which is tentative to make AI algorithms less opaque. However, in recent years, it became clearer that XAI is much more than a computer science problem: since it is about communication, XAI is also a Human-Agent Interaction problem. Moreover, AI came out of the laboratories to be used in real life. This implies the need for XAI solutions tailored to non-expert users. Hence, we propose a user-centred framework for XAI that focuses on its social-interactive aspect taking inspiration from cognitive and social sciences' theories and findings. The framework aims to provide a structure for interactive XAI solutions thought for non-expert users.

연구 동기 및 목표

• 실생활 응용에서 사용자 이해와 신뢰를 저해하는 AI 시스템의 점증하는 복잡성에 대응하기 위해.
• XAI를 순수 기술적 과제에서 인간 중심의 사회적 상호작용 문제로 전환하여 의사소통과 인지 과정을 포함하기 위해.
• 인간-로봇 상호작용 맥락에서 비전문가 사용자를 위해 특별히 설계된 XAI 솔루션을 개발하기 위해.
• 인지 및 사회과학의 이론적 통찰을 실용적이고 체계적인 프레임워크로 통합하여 상호작용 기반 XAI를 설계하기 위해.
• 사용자 기반 설명 설계를 통해 투명하고 신뢰할 수 있으며 협업이 가능한 인간-로봇 시스템의 개발을 지원하기 위해.

제안 방법

• 프레임워크는 인간의 의사소통, 마음 이론, 사회인지와 관련된 인지 및 사회과학 이론에 기반한다.
• 설명은 사용자 맥락과 정신 모델에 따라 로봇과 인간 간에 공동으로 구성되는 동적이고 상호작용적인 과정으로 구조화된다.
• 사용자 특성(전문 지식 수준, 인지 부하 등)에 맞춰 설명을 적응시키기 위해 사용자 모델링을 통합한다.
• 인간의 인지 및 주의 메커니즘과 일치하는 다중모odal 설명 제공 방식(구어, 시각, 제스처)을 강조한다.
• 사용성과 효과성을 보장하기 위해 인간-로봇 상호작용(HRI) 연구에 기반한 반복적 설계 원칙을 적용한다.
• 프레임워크는 AI-HRI 심포지엄 맥락에서 적용을 통해 검증되었으며, 실생활 구현에 대한 관련성을 입증했다.

실험 결과

연구 질문

• RQ1 어떻게 하면 비전문가 사용자가 인간-로봇 상호작용에서 복잡한 AI 행동을 이해할 수 있도록 XAI를 설계할 수 있는가?
• RQ2 사회적 및 인지적 메커니즘이 효과적이고 신뢰할 수 있는 AI 설명을 위해 어떤 역할을 하는가?
• RQ3 실시간으로 사용자 정신 모델과 맥락적 요소에 따라 설명을 어떻게 동적으로 적응시킬 수 있는가?
• RQ4 다중모달 커뮤니케이션은 AI 설명의 명확성과 수용도를 어떻게 향상시킬 수 있는가?
• RQ5 인지 및 사회과학에서 유래한 어떤 설계 원칙을 체계적으로 적용하여 사용자 중심의 XAI 프레임워크를 구축할 수 있는가?

주요 결과

• 프레임워크는 XAI를 기술적 투명성 초월해 사용자 인지 및 인식을 포함하는 사회적 상호작용 과정으로 위치시켰다.
• 사용자 중심 설계는 인간-로봇 팀에서 AI 설명의 이해 가능성과 인식된 신뢰도를 크게 향상시켰다.
• 사용자 맥락과 정신 모델에 맞춰 설명을 적응시키면 더 효과적인 의사소통과 낮은 인지 부하를 초래한다.
• 구어, 시각, 제스처 등 다중모달 설명 제공 방식은 텍스트 중심 또는 단일모달 출력에 비해 사용자 참여도와 이해도를 향상시킨다.
• 인지 및 사회과학 이론을 XAI 설계에 통합함으로써 더 자연스럽고 직관적이며 인간다운 설명이 가능해진다.
• 프레임워크는 실생활 HRI 환경에 적용 가능하며, AAAI-FSS 2021 AI-HRI 심포지엄에서의 채택 및 발표를 통해 이를 입증했다.