[論文レビュー] What Do End-Users Really Want? Investigation of Human-Centered XAI for Mobile Health Apps

Katharina Weitz, Alexander Zellner+1 more|arXiv (Cornell University)|Oct 7, 2022

Persona Design and Applications被引用数 4

ひとこと要約

本稿は、ストレスモニタリングアプリケーションにおける説明スタイルおよび内容の好みに関するオンライン調査を基盤として、人間中心の説明可能AI（XAI）の設計を支援するユーザ中心のペルソナフレームワークを提唱する。主な貢献は、3つの典型的なユーザペルソナ—パワーユーザ、カジュアルユーザ、プライバシー指向ユーザ—の特定であり、説明の好みが人口統計学的要因、性格、希望されるカスタマイズ性に強く影響されることを示している。インタラクティビティとデータの透明性は、ユーザの受容性において極めて重要である。

ABSTRACT

In healthcare, AI systems support clinicians and patients in diagnosis, treatment, and monitoring, but many systems' poor explainability remains challenging for practical application. Overcoming this barrier is the goal of explainable AI (XAI). However, an explanation can be perceived differently and, thus, not solve the black-box problem for everyone. The domain of Human-Centered AI deals with this problem by adapting AI to users. We present a user-centered persona concept to evaluate XAI and use it to investigate end-users preferences for various explanation styles and contents in a mobile health stress monitoring application. The results of our online survey show that users' demographics and personality, as well as the type of explanation, impact explanation preferences, indicating that these are essential features for XAI design. We subsumed the results in three prototypical user personas: power-, casual-, and privacy-oriented users. Our insights bring an interactive, human-centered XAI closer to practical application.

研究の動機と目的

• 研究者主導のXAIとモバイルヘルスアプリケーションにおけるエンドユーザのニーズの間のギャップを埋めるため。
• エンドユーザの人口統計学的要因、性格特性、および説明の好みが、さまざまなスタイルやコンテンツタイプにおいてどのように変化するかを調査するため。
• 実証的データに基づいたユーザ中心のペルソナ概念を構築し、実用的なXAI設計をガイドするため。
• カスタマイズ性、インタラクティビティ、説明コンテンツの影響がユーザ満足度および関与度に与える影響を評価するため。
• XAIを理論的研究から、医療アプリケーションにおける実用的でユーザフレンドリーな展開へと移行するのを支援するため。

提案手法

• エンドユーザの間で実施したオンライン調査を通じて、モバイルストレスモニタリングアプリにおける説明スタイル（例：データベース、写真ベース、ライブ説明）およびコンテンツの好みを収集した。
• クラスタリングおよび定性的分析を用いて、人口統計学的要因、性格、好みのデータに基づき、典型的なユーザペルソナを導出した。
• 視覚的、特徴ベース、知識抽出、例ベース（例：反事後的推論）といったXAI技術の分類を用い、調査における説明タイプを体系化した。
• 説明満足度、対話への意欲、カスタマイズ性およびデータの透明性への好みについて、ユーザの反応を評価した。
• 'アプリに聞く'および'ライブ説明'といった説明タイプを設計・テストし、インタラクティビティの影響を評価した。
• ユーザの反応を3つの明確なペルソナにマッピングした：パワーユーザ（詳細でインタラクティブな説明を求める）、カジュアルユーザ（直感的で簡潔なデザインを好む）、プライバシー指向ユーザ（データ保護を最優先とする）。

実験結果

リサーチクエスチョン

• RQ1 エンドユーザの人口統計学的要因および性格特性は、モバイルヘルスアプリケーションにおけるXAIの説明スタイルおよびコンテンツの好みにどのように影響するか？
• RQ2 データベース、写真ベース、ライブ説明などの説明タイプの中で、どれが最も好まれるか。また、ユーザ満足度および関与度を高める要因は何か？
• RQ3 XAIシステムにおけるカスタマイズ性およびインタラクティビティは、ユーザのシステム利用および信頼の意思にどの程度影響を与えるか？
• RQ4 ユーザが説明に対して詳細な情報を求めると自覚的に述べる一方で、実際に説明と対話する際の行動と照らし合わせると、そのギャップは何か？
• RQ5 ペルソナベースのアプローチは、モバイルヘルス分野における多様なエンドユーザグループのための人間中心のXAI設計を、的確に表現し、ガイドできるか？

主な発見

• ユーザは写真ベースの説明よりもデータベースの説明を好んだ。これは、健康分野において事実に基づいた透明性の高い情報に強い傾向があることを示している。
• 初期段階では詳細な説明を希望する傾向が見られたが、実際には長すぎる説明は、情報の繰り返しを伴い、迷惑に感じられ、特に不快に思われがちであった。
• 'アプリに聞く'および'ライブ説明'タイプが最も高い評価を得ており、パrameter調整や質問の投げかけを可能にするインタラクティブでダイナミックな説明システムへの強いユーザの好みがうかがえる。
• 説明のカスタマイズはユーザの関与度を顕著に向上させ、ユーザが自身のニーズに合った説明であれば、より多くの時間を費やす意欲が高まった。
• 3つの明確なユーザペルソナが明らかになった：パワーユーザ（詳細でインタラクティブな説明を求める）、カジュアルユーザ（直感的で簡潔なデザインを好む）、プライバシー指向ユーザ（データ保護と最小限のデータ共有を最優先とする）。
• ストレス予測を受けた際、ユーザは頻繁に「なぜ？」「なぜでないの？」「どうやって？」と質問しており、ユーザの理解力および信頼性を高めるために、インタラクティブで質問駆動型の説明システムの重要性が浮き彫りになった。