[論文レビュー] Explainable Predictive Process Monitoring: A User Evaluation

Williams Rizzi, Marco Comuzzi+5 more|arXiv (Cornell University)|Feb 15, 2022

Explainable Artificial Intelligence (XAI)被引用数 12

ひとこと要約

本研究では、ユーザー中心の実験を通じて、説明可能な予測プロセスモニタリング（PPM）の有効性を評価し、説明プロットが機械学習の熟練度にかかわらず、さまざまなユーザーの意思決定をどのように支援するかを検証した。結果として、プロットは一般的に理解可能で有用であるが、ML専門家はより深く解釈するが、因果的証拠が不足しているためより慎重な判断を下す一方、非専門家はプロットをより実行可能に感じ、意思決定に活用しやすかった。これは、全ユーザーの使いやすさを向上させるために、フィルタリングや「もし〜なら」分析といったインタラクティブ機能の導入が不可欠であることを示している。

ABSTRACT

Explainability is motivated by the lack of transparency of black-box Machine Learning approaches, which do not foster trust and acceptance of Machine Learning algorithms. This also happens in the Predictive Process Monitoring field, where predictions, obtained by applying Machine Learning techniques, need to be explained to users, so as to gain their trust and acceptance. In this work, we carry on a user evaluation on explanation approaches for Predictive Process Monitoring aiming at investigating whether and how the explanations provided (i) are understandable; (ii) are useful in decision making tasks;(iii) can be further improved for process analysts, with different Machine Learning expertise levels. The results of the user evaluation show that, although explanation plots are overall understandable and useful for decision making tasks for Business Process Management users -- with and without experience in Machine Learning -- differences exist in the comprehension and usage of different plots, as well as in the way users with different Machine Learning expertise understand and use them.

研究の動機と目的

• 予測プロセスモニタリングの文脈において、説明プロットがビジネスプロセス管理のユーザーにとって理解可能であるかどうかを調査すること。
• 現実世界のPPMシナリオにおける意思決定タスクにおいて、説明プロットがどのように意思決定を支援するかを評価すること。
• 特にインタラクティビティと明確性の観点から、ユーザーのフィードバックに基づく説明プロットの改善点を同定すること。
• 機械学習の熟練度にかかわらず、ユーザーの理解度と使用パターンの違いを比較すること。

提案手法

• PPM分野の参加者15名（ML専門家および非専門家を含む）を対象に、定性的な観察型ユーザー研究を実施した。
• 実世界のPPMシナリオ（予測と対応する説明プロットP1、P2、P3を含む）を提供した。
• 3種類の説明プロットを用いた：グローバル特徴量の重要度、ローカル特徴量の寄与度、およびインタラクティブ機能を備えたフィルタリング／焦点化されたビューワー。
• インタラクション機能を実装：ホバー時の詳細表示、特定の特徴量を強調表示するフォーカスビュー、図例のクリックによる情報フィルタリング。
• 理解度の質問、意思決定タスク、プロット改善に関する提案を収集した。
• テーマ分析を用いて回答を分析し、解釈のパターン、意思決定行動、使いやすさに関する提案の傾向を特定した。

実験結果

リサーチクエスチョン

• RQ1 RQ1: プロジェクトモニタリングの文脈において、ユーザーはどのように説明プロットを理解しているか？
• RQ2 RQ2: 説明プロットは、ユーザーが意思決定タスクを遂行するのをどのように支援できるか？
• RQ3 RQ3: ユーザーのフィードバックおよび熟練度レベルに基づいて、説明プロットはどのように改善できるか？

主な発見

• ML熟練度に関係なく、すべての参加者に対して説明プロットは一般的に理解可能で意思決定に有用であった。
• ML専門家は特徴量間の相関関係をより深く理解していたが、因果的証拠が不足しているため、提言においてより慎重になった。
• 非専門家ユーザーはプロットをより実行可能に感じ、説明に基づいてプロセス変更を推奨する傾向が高かった。
• 参加者全員が、フィルタリング、フォーカスビュー、および「もし〜なら」分析といったインタラクティブ機能の導入を一貫して要請した。
• グローバル特徴量の重要度とローカルインスタンスレベルの説明を組み合わせたプロットが最も効果的であり、特にフィルタリング機能やホバー時の詳細情報が強化された場合に顕著だった。
• 専門家と非専門家が同じプロットを異なる方法で使用していることが明確に分かった：専門家は相関関係の信頼性を疑問視したが、非専門家は実務的判断にそれらをより信頼していた。