[논문 리뷰] Question-Driven Design Process for Explainable AI User Experiences

Q. Vera Liao, Milena Pribic외 3명|arXiv (Cornell University)|2021. 04. 08.

Explainable Artificial Intelligence (XAI)참고 문헌 52인용 수 19

한 줄 요약

이 논문은 설명 가능한 인공지능(XAI) 사용자 경험을 위한 질문 기반 설계 프로세스를 제안하며, 기술적 XAI 기법과 실제 사용자 요구 간 격차를 메우기 위해 사용자의 실제 질문에 기반한 UX 설계를 제안한다. 유형화된 사용자 질문을 예시 XAI 기법과 연결함으로써, 디자이너와 AI 엔지니어가 함께 적절한 설명을 선택하고 구현할 수 있도록 하여, 사용자 이해도, 기술적 구현 가능성, 설계 목표 간의 일치를 향상시킨다.

ABSTRACT

A pervasive design issue of AI systems is their explainability--how to provide appropriate information to help users understand the AI. The technical field of explainable AI (XAI) has produced a rich toolbox of techniques. Designers are now tasked with the challenges of how to select the most suitable XAI techniques and translate them into UX solutions. Informed by our previous work studying design challenges around XAI UX, this work proposes a design process to tackle these challenges. We review our and related prior work to identify requirements that the process should fulfill, and accordingly, propose a Question-Driven Design Process that grounds the user needs, choices of XAI techniques, design, and evaluation of XAI UX all in the user questions. We provide a mapping guide between prototypical user questions and exemplars of XAI techniques to reframe the technical space of XAI, also serving as boundary objects to support collaboration between designers and AI engineers. We demonstrate it with a use case of designing XAI for healthcare adverse events prediction, and discuss lessons learned for tackling design challenges of AI systems.

연구 동기 및 목표

• 기술적 XAI 기법을 효과적이고 사용자 중심의 UX 솔루션으로 번역하는 데 있어 핵심 설계 과제를 해결하기 위해.
• 기술적 능력이 아닌 실제 사용자 질문에 기반하여 선택을 내리도록 디자이너를 지원하기 위해.
• 공통 이해를 위한 매핑 가이드를 경계 물체로 활용하여 디자이너와 AI 엔지니어 간 협업을 향상시키기 위해.
• 사용자 요구, 맥락, 평가 기준과 일치하는 XAI UX 개발을 체계적이고 반복 가능한 설계 프로세스로 정렬하기 위해.
• 모델 중심 설명을 넘어서 인간 중심 가치와 사용자 경험 목표를 중심으로 기술적 XAI 도구상자를 재구성하기 위해.

제안 방법

• 사용자 의사결정 이해를 위한 실제 사용자 요구를 반영하는 질문을 식별하고 우선순위를 정하는 데 중심을 두는 설계 프로세스.
• 예시 사용자 질문(예: '이 결정은 왜 내려졌나요?')을 특정 XAI 기법(LIME, SHAP, 반대사례 등)과 연결하는 매핑 가이드 개발.
• 사용자 질문에 기반하여 UX 결정보를 고정함으로써 설명이 관련성 있고 실행 가능하도록 하는 반복적 설계 및 평가 지원.
• 디자이너와 AI 엔지니어가 매핑 가이드를 공동 참조 자료로 활용하여 기술적 가능성을 사용자 기대와 일치시키는 공동 솔루션 개발.
• 실제 적용 사례를 통해 프로세스의 실용적 적용성을 검증하기 위해 의료 부작용 예측을 포함한 두 가지 실제 사례에서 테스트 및 개선.
• 사용자 연구 결과를 바탕으로 초기 사용자 질문 세트를 정의하여 설계가 실제 사용자 맥락과 가치에 기반하도록 보장.

실험 결과

연구 질문

• RQ1 디자이너가 기술적 능력이 아닌 실제 사용자 요구에 부합하는 적절한 XAI 기법을 효과적으로 선택하는 방법은 무엇인가?
• RQ2 사용자 질문은 설명 가능한 인공지능 사용자 경험 설계를 어떻게 이끌어내는가?
• RQ3 XAI UX 솔루션 개발 시 디자이너와 AI 엔지니어가 더 효과적으로 협업할 수 있는 방법은 무엇인가?
• RQ4 XAI 기법을 사용자 질문과 체계적으로 연결하여 설계 결정보를 지원하는 방법은 무엇인가?
• RQ5 사용자 질문에 기반한 XAI UX 설계가 AI 시스템의 사용성과 신뢰성 향상에 어떻게 기여하는가?

주요 결과

• 질문 기반 설계 프로세스는 실제 사용자 질문에 모든 설계 결정보를 고정함으로써 XAI UX 설계를 사용자 요구와 효과적으로 일치시킨다.
• 사용자 질문과 XAI 기법 간의 매핑 가이드는 디자이너와 AI 엔지니어 간 공동 이해를 가능하게 하는 효과적인 경계 물체로 기능한다.
• 이 프로세스는 XAI 기법의 기능을 기술적 특성보다 사용자 이해 목표에 기반하여 프레임화함으로써 디자이너의 설계적 이해를 가능하게 한다.
• 사용자 질문에 뿌리를 두고 공통 평가 기준을 활용함으로써 설계 및 기술 솔루션의 반복적 개선을 지원한다.
• 이 방법은 의료 AI와 같은 복잡한 분야에서의 실용적 유용성을 입증하기 위해 두 가지 사례에서 검증되었다.
• 본 연구는 현재 XAI 도구상자가 종종 최종 사용자 요구와 맞지 않음을 드러내며, 본 방법이 이를 인간 중심 가치 중심으로 재구성하는 데 기여함을 강조한다.