[論文レビュー] How Human-Centered Explainable AI Interface Are Designed and Evaluated: A Systematic Survey

Thu Nguyen, Alessandro Canossa+1 more|arXiv (Cornell University)|Mar 21, 2024

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

本システマティックサーベイは、人間中心の説明可能AI（XAI）インターフェース（EI）に関する53件の研究を分析し、使いやすさ、説明可能性、ユーザーの有効性を向上させるための設計および評価手法を同定する。ユーザー参加、インターフェース設計（例：順次的情報構造、インタラクションの誘導）、評価手法における主なトレンドを明らかにするとともに、未開拓の設計コンビネーションを通じて将来のEI開発を導く生成的フレームワークを提案する。

ABSTRACT

Despite its technological breakthroughs, eXplainable Artificial Intelligence (XAI) research has limited success in producing the {\em effective explanations} needed by users. In order to improve XAI systems' usability, practical interpretability, and efficacy for real users, the emerging area of {\em Explainable Interfaces} (EIs) focuses on the user interface and user experience design aspects of XAI. This paper presents a systematic survey of 53 publications to identify current trends in human-XAI interaction and promising directions for EI design and development. This is among the first systematic survey of EI research.

研究の動機と目的

• 技術的説明可能性がユーザーの使いやすさや実用的説明可能性を上回るXAI研究のギャップに対処する。
• 人間中心設計の原則がXAIユーザーインターフェース（EI）にどのように適用されているかを調査し、現実世界での使いやすさを向上させる。
• 実証的研究のシステマティックレビューを通じて、EIの設計および評価における現在の実践と有望な方向性を同定する。
• 未開拓の設計コンビネーションとユーザー中心の評価手法を分析することで、将来のEI開発を支援する構造的フレームワークを提供する。

提案手法

• PRISMAガイドラインに従って系統的文献レビューを実施し、説明インターフェース（EI）に関する53件の出版物を同定および分析した。
• ユーザー参加（例：ユーザー研究、ペルソナ、タスクモデリング）、インターフェース設計（例：情報構造、インタラクションタイプ、相互作用性）、評価手法に基づいて研究を分類した。
• クラスタリング分析を用いて、設計および評価パターンに基づいて研究をグループ化し、インターフェース特性の支配的で未開拓のコンビネーションを特定した。
• 情報構造、インタラクションタイプ、相互作用性などの8つの設計および評価特性のフレームワークを用い、現在のEI研究を体系的にマッピングした。
• ユーザー参加実践（例：ペルソナやタスクモデリングなどの定性的手法）をレビューし、それらが設計意思決定にどのように影響したかを評価した。
• 静的相互作用性と階層的構造の組み合わせなど、非代表的な特性コンビネーションを同定することで、将来のEIイノベーションの機会として生成的フレームワークを提案した。

実験結果

リサーチクエスチョン

• RQ1 RQ1: 研究者はXAIアプリケーションの設計および開発において、どのように人間の参加者を関与させているか？
• RQ2 RQ2: XAI研究者は、構造、フォーマット、インタラクションの観点でEIをどのように設計しているか？
• RQ3 RQ3: XAI研究者は実際の評価においてEIをどのように評価しているか？
• RQ4 RQ4: EI設計特性の支配的で未開拓のコンビネーションは何か？
• RQ5 RQ5: これらの発見は、より効果的でユーザー中心のEIの今後の設計にどのように寄与できるか？

主な発見

• EI研究の過半数（60％以上）が順次的情報構造を採用している一方で、階層的構造はまれであるため、設計の不均衡が生じている。
• 誘導型インタラクションタイプが支配的（大多数の研究で使用）である一方で、対話的または探索的インタラクションモードは未活用に近い。
• 静的相互作用性と階層的情報アーキテクチャを併用している研究はわずか10％未満であり、顕著な設計ギャップが示唆される。
• ユーザー参加はしばしば非公式なフィードバックや事後評価にとどまり、初期設計段階でペルソナやタスクモデリングなどの構造的手法を用いる研究は少ない。
• 評価手法は主に定量的で、信頼性や正確性に焦点を当てており、説明可能性の定性的評価や縦断的評価は限定的である。
• 分析の結果、静的相互作用性と階層的情報アーキテクチャの組み合わせを採用している研究は一切なく、将来的なEIイノベーションの可能性として顕著な機会であることが示された。