[논문 리뷰] User-centric AIGC products: Explainable Artificial Intelligence and AIGC products

Hanjie Yu, Yan Dong외 1명|arXiv (Cornell University)|2023. 08. 19.

Explainable Artificial Intelligence (XAI)인용 수 6

한 줄 요약

이 논문은 AIGC 제품의 사용자 입력 및 피드백 단계에 해석 가능한 인공지능(XAI) 기법을 통합하여 사용자 경험을 향상시키는 것을 제안한다. 키워드 라이브러리, 가중치가 부여된 프롬프트 구조, SHAP/민감도 분석을 활용해 프롬프트 기여도를 설명함으로써 사용자가 AI 생성 결과를 더 효과적으로 이해하고 개선할 수 있도록 한다. 이는 AIGC의 사용성과 신뢰도를 높이기 위한 사용자 중심의 프레임워크를 제공한다.

ABSTRACT

Generative AI tools, such as ChatGPT and Midjourney, are transforming artistic creation as AI-art integration advances. However, Artificial Intelligence Generated Content (AIGC) tools face user experience challenges, necessitating a human-centric design approach. This paper offers a brief overview of research on explainable AI (XAI) and user experience, examining factors leading to suboptimal experiences with AIGC tools. Our proposed solution integrates interpretable AI methodologies into the input and adjustment feedback stages of AIGC products. We underscore XAI's potential to enhance the user experience for ordinary users and present a conceptual framework for improving AIGC user experience.

연구 동기 및 목표

• 투명성과 해석 가능성 부족으로 인한 AIGC 도구의 열악한 사용자 경험을 해결하기 위해.
• AIGC에서의 주요 UX 과제, 즉 높은 학습 비용, 일관성 없는 출력, AI의 '블랙박스' 성격으로 인한 사용자 불신을 규명하기 위해.
• 입력 및 피드백 단계에서 사용자 중심의 XAI 프레임워크를 제안하여 이해도와 통제력을 향상시키기 위해.
• 비전문가 사용자를 대상으로 한 실용적 AIGC 제품 설계와 기술적 XAI 방법 간 격차를 메우기 위해.
• AIGC 제품 개발 과정에 XAI를 통합하기 위한 실천 기반의 실행 가능 권고 사항을 제공하기 위해.

제안 방법

• AIGC 워크플로의 입력 및 피드백 단계에 특별히 SHAP 및 민감도 분석을 포함한 XAI 기법을 통합한다.
• 초보자 사용자가 효과적인 입력을 구성할 수 있도록 구조화된 프롬프트 템플릿을 포함한 키워드 라이브러리를 제안한다.
• 조명, 스타일, 색조 등 입력 매개변수에 가중치를 부여하기 위한 색상 팔레트를 연상시키는 시각적 인터페이스를 도입한다.
• 로컬 및 대조적 설명을 활용해 특정 입력 단어가 출력 생성에 어떻게 영향을 미치는지 명확히 한다.
• XAI 피드백을 통합한 대화형 AI를 적용하여 사용자가 설명 가능한 모델 행동에 기반해 반복적으로 프롬프트를 개선할 수 있도록 돕는다.
• 매개변수 조정 결과를 시각화하여 입력 변경과 출력 변화 사이의 직관적인 인과 관계를 구축한다.

Figure 1. Simplified flow chart of AIGC product use.

실험 결과

연구 질문

• RQ1 인지 편향과 정서적 모델 불일치는 AIGC 도구 사용자 상호작용에 어떤 영향을 미치는가?
• RQ2 투명성과 해석 가능성 부족으로 인해 발생하는 AIGC 제품의 주요 UX 과제는 무엇인가?
• RQ3 XAI 기법을 AIGC 워크플로의 입력 및 피드백 단계에 효과적으로 통합하여 사용자 통제력을 향상시키는 방법은 무엇인가?
• RQ4 SHAP, 민감도 분석 등 XAI 방법 중에서 프롬프트-출력 관계 이해에 가장 효과적인 것은 무엇인가?
• RQ5 비기술적 사용자를 대상으로 한 AIGC 응용 프로그램에서 XAI를 실질적이고 사용 가능한 것으로 만들 수 있는 설계 패턴은 무엇인가?

주요 결과

• AIGC 모델의 '블랙박스' 성격은 일관성 없는 출력과 사용자 분노를 유발하며, 비전문가 사용자에게 특히 심각한 영향을 미친다.
• 키워드 라이브러리와 가중치가 부여된 프롬프트 구조를 통한 입력 단계의 XAI 통합은 시행착오 비용을 감소시키고 입력의 예측 가능성을 향상시킨다.
• SHAP 및 민감도 분석을 활용한 설명 가능한 피드백은 사용자가 프롬프트 단어의 개별 기여도를 정량화할 수 있도록 한다.
• 매개변수 가중치와 그 영향을 시각화하면 사용자의 이해도가 향상되고 더 정밀하고 효율적인 조정이 가능해진다.
• XAI 피드백이 통합된 대화형 생성은 사용자가 모호한 요구사항을 명확히 하고 반복적이고 설명 가능한 개선을 통해 출력을 기대에 부합하도록 조율할 수 있도록 돕는다.
• AIGC 제품에 대한 사용자 중심의 XAI 프레임워크는 기술적 AI 전문 지식 없이도 신뢰도, 사용성, 사용자 통제력을 향상시킨다.