[論文レビュー] Evidence-based explanation to promote fairness in AI systems

Juliana Jansen Ferreira, Mateus de Souza Monteiro|arXiv (Cornell University)|Mar 3, 2020

Explainable Artificial Intelligence (XAI)参考文献 13被引用数 4

ひとこと要約

本論文は、AI支援意思決定の理解と正当化を可能にする追跡可能で文脈に配慮した物語的説明を提供することで、AIシステムにおける公平性を向上させる、根拠に基づく説明フレームワークを提案する。意思決定の物語化に公平性に配慮した設計を統合することにより、司法やレコメンデーションシステムなどのハイリスクなAI応用分野における透明性と説得責任を向上させる。

ABSTRACT

As Artificial Intelligence (AI) technology gets more intertwined with every system, people are using AI to make decisions on their everyday activities. In simple contexts, such as Netflix recommendations, or in more complex context like in judicial scenarios, AI is part of people's decisions. People make decisions and usually, they need to explain their decision to others or in some matter. It is particularly critical in contexts where human expertise is central to decision-making. In order to explain their decisions with AI support, people need to understand how AI is part of that decision. When considering the aspect of fairness, the role that AI has on a decision-making process becomes even more sensitive since it affects the fairness and the responsibility of those people making the ultimate decision. We have been exploring an evidence-based explanation design approach to 'tell the story of a decision'. In this position paper, we discuss our approach for AI systems using fairness sensitive cases in the literature.

研究の動機と目的

• 司法制度やレコメンデーションエンジンなどのハイリスク意思決定文脈における、説明可能で公平なAIの増大するニーズに対応すること。
• AIシステムが根拠に基づく物語的説明を提供することで、ユーザーが意思決定を追跡可能かつ正当化可能にする方法を調査すること。
• AI説明における公平性の役割と、それがユーザーの信頼および意思決定結果に対する責任感に与える影響を検討すること。
• 公平性に配慮した状況において、AI意思決定を「物語」として提示し、検証可能な根拠で裏付けられる設計アプローチを開発すること。
• 説明メカニズムを倫理的意思決定原理と人間の説得責任と一致させることで、責任あるAIに貢献すること。

提案手法

• AI意思決定を一貫性があり正当化可能な物語として構造化する、根拠に基づく説明設計アプローチを採用すること。
• 公平性に配慮した要素を説明プロセスに統合し、公平性に関連するデータ、モデルの挙動、意思決定論理を強調すること。
• 文脈に基づく物語的説明を用いて、AI出力と人間の意思決定を結びつけ、追跡可能性と監査可能性を強調すること。
• 人間とコンピュータの協働（HCI）の原則を活用し、エンドユーザーが説明を理解可能かつ実行可能であることを保証すること。
• 現実の意思決定文脈に根ざした公平性に配慮した分野における事例研究を活用して、説明フレームワークを実世界の文脈に適合させること。
• とくに公平性のトレードオフが関与する場合に、意思決定の「なぜ」を強調する説明を設計すること。

実験結果

リサーチクエスチョン

• RQ1 AIシステムは、意思決定プロセスにおける公平性を支援する説明をどのように提供できるか？
• RQ2 ユーザーが根拠に基づく物語的説明を通じてAI支援意思決定を理解し正当化できるようにするための設計原則は何か？
• RQ3 公平性を説明に統合することにより、AIシステムにおけるユーザーの信頼と説得責任にどのような影響を与えるか？
• RQ4 公平性に配慮した文脈において、AIの説明を意思決定プロセスの旅を反映する形でどのように構造化できるか？
• RQ5 データおよびモデル挙動の追跡可能性は、責任あるAI利用を促進する上でどのような役割を果たすか？

主な発見

• 根拠に基づく説明アプローチにより、ユーザーは検証可能で文脈に特化した情報で意思決定プロセスを再構築できる。
• 公平性に配慮した説明は、AI出力における潜在的なバイアスと倫理的トレードオフへのユーザーの認識を高める。
• 物語的説明は、AI意思決定とその背後にあるデータおよび論理を結びつけることで透明性を向上させ、説得責任を支援する。
• 本フレームワークは、AIの貢献が追跡可能かつ正当化可能であるため、人間を含む意思決定プロセスを支援する。
• 特に公平性と責任が最重要視されるハイリスク分野において、本アプローチは特に効果的である。
• 説明が根拠と公平性の考慮に基づく場合、ユーザーのAI意思決定に対する理解と信頼が向上する。