[論文レビュー] User-centric AIGC products: Explainable Artificial Intelligence and AIGC products

Hanjie Yu, Yan Dong+1 more|arXiv (Cornell University)|Aug 19, 2023

Explainable Artificial Intelligence (XAI)被引用数 6

ひとこと要約

本稿では、AIGC製品のユーザー入力およびフィードバック段階に解釈可能AI（XAI）技術を統合することで、ユーザー体験を向上させる手法を提案する。キーワードライブラリ、重み付きプロンプト構造、SHAP／感度分析を用いたプロンプト寄与度の説明により、ユーザーはAI生成出力の理解と最適化をより効果的に行えるようになり、AIGCの使いやすさと信頼性を高める人間中心のフレームワークを提供する。

ABSTRACT

Generative AI tools, such as ChatGPT and Midjourney, are transforming artistic creation as AI-art integration advances. However, Artificial Intelligence Generated Content (AIGC) tools face user experience challenges, necessitating a human-centric design approach. This paper offers a brief overview of research on explainable AI (XAI) and user experience, examining factors leading to suboptimal experiences with AIGC tools. Our proposed solution integrates interpretable AI methodologies into the input and adjustment feedback stages of AIGC products. We underscore XAI's potential to enhance the user experience for ordinary users and present a conceptual framework for improving AIGC user experience.

研究の動機と目的

• AI生成コンテンツ（AIGC）ツールの不透明さと解釈不能性に起因するユーザー体験の悪さを是正すること。
• AIGCにおける主なUX課題、特に学習コストの高さ、出力の一貫性の欠如、AIの「ブラックボックス」特性に起因するユーザーの不信感を特定すること。
• AIGCワークフローの入力およびフィードバック段階において、理解と制御を向上させる人間中心のXAIフレームワークを提案すること。
• 技術的XAI手法と実用的なAIGC製品設計の間のギャップを埋め、非専門家ユーザーに適した方法を提供すること。
• AIGC製品開発プロセスへのXAI統合に向けた実務的で実行可能な提言を提供すること。

提案手法

• 入力およびフィードバック段階のAIGCワークフローに、具体的にはSHAPおよび感度分析を含むXAI技術を統合する。
• 初心者ユーザーが効果的な入力を構築できるように、構造化されたプロンプトテンプレートを備えたキーワードライブラリを提案する。
• 入力パラメータ（例：照明、スタイル、色調）の重み付けを可能にする、カラーパレットに類似した視覚的インターフェースを導入する。
• 局所的および対照的説明を用いて、特定の入力語が出力生成にどのように影響するかを明確にする。
• XAIフィードバックを備えた会話型AIを活用し、説明可能なモデル行動に基づいてユーザーが繰り返しプロンプトを最適化できるように支援する。
• パラメータチューニングの結果を可視化することで、入力変更と出力変動の間の直感的で因果関係のある関係を確立する。

Figure 1. Simplified flow chart of AIGC product use.

実験結果

リサーチクエスチョン

• RQ1 認知バイアスやメンタルモデルの不一致は、AIGCツールとのユーザー相互作用にどのように影響を与えるか？
• RQ2 不透明さと解釈不能性に起因するAIGC製品における主なUX課題は何か？
• RQ3 XAI技術をAIGCワークフローの入力およびフィードバック段階に効果的に統合することで、ユーザーの制御性をどのように向上させられるか？
• RQ4 SHAPや感度分析などのXAI手法のうち、プロンプトから出力への関係をユーザーが理解するのに最も効果的なのはどれか？
• RQ5 非技術的ユーザーがAIGCアプリケーションでXAIを実際に活用可能かつ使いやすいようにするためのデザインパターンは何か？

主な発見

• AIGCモデルの『ブラックボックス』特性は、出力の一貫性の欠如と、とりわけ非専門家ユーザーにおける不満を引き起こす。
• キーワードライブラリと重み付きプロンプト構造による入力段階におけるXAI統合により、試行錯誤のコストが低下し、入力の予測可能性が向上する。
• SHAPおよび感度分析を用いた説明可能なフィードバックにより、ユーザーはプロンプト語の個々の寄与度を定量的に把握できるようになる。
• パラメータの重みとその影響を可視化することで、ユーザーの理解が深まり、より正確で効率的な調整が可能になる。
• XAIフィードバックを備えた会話型生成により、ユーザーは曖昧な要件を明確にし、説明可能な段階的最適化を通じて出力を期待に沿わせることが可能になる。
• AIGC製品向けの人間中心のXAIフレームワークは、技術的AIの専門知識を要せずとも、信頼性、使いやすさ、ユーザーの制御性を向上させることができる。