[論文レビュー] Explainable AI is Responsible AI: How Explainability Creates Trustworthy and Socially Responsible Artificial Intelligence

Stephanie Baker, Wei Xiang|arXiv (Cornell University)|Dec 4, 2023

Ethics and Social Impacts of AI被引用数 12

ひとこと要約

本論文は、Explainable AI (XAI) が Responsible AI (RAI) の基盤技術であると主張し、さまざまな文脈で公正性・堅牢性・プライバシー・セキュリティ・透明性を実現する。新しい枠組みと実世界のユースケースを提示する。

ABSTRACT

Artificial intelligence (AI) has been clearly established as a technology with the potential to revolutionize fields from healthcare to finance - if developed and deployed responsibly. This is the topic of responsible AI, which emphasizes the need to develop trustworthy AI systems that minimize bias, protect privacy, support security, and enhance transparency and accountability. Explainable AI (XAI) has been broadly considered as a building block for responsible AI (RAI), with most of the literature considering it as a solution for improved transparency. This work proposes that XAI and responsible AI are significantly more deeply entwined. In this work, we explore state-of-the-art literature on RAI and XAI technologies. Based on our findings, we demonstrate that XAI can be utilized to ensure fairness, robustness, privacy, security, and transparency in a wide range of contexts. Our findings lead us to conclude that XAI is an essential foundation for every pillar of RAI.

研究の動機と目的

• XAI の役割を、複数の柱（公正性、堅牢性、透明性、説明責任、プライバシー、安全性）を横断する Responsible AI (RAI) フレームワークの中に位置づける。
• 説明可能性を単一の柱ではなく RAI の基盤として位置づける枠組みを提案する。
• XAI が RAI の各柱を支える方法と、実世界のユースケースの改善を可能にする証拠を総合する。
• セクター別のユースケース（生成AI、医療、交通）を通じて、XAI が実際に RAI を直接支援する様子を示す。

提案手法

• XAIとRAIに関する文献の広範なスコーピングレビューを実施する。
• 説明可能性をRAIの基盤とする新規枠組みを提案する。
• 説明可能性が公正性・堅牢性・プライバシー・安全性・透明性・説明責任を支えることを示す厳密な検討。
• 生成AI、医療、交通の実世界のユースケースを示し、実践的な影響を実証する。

Figure 1 . Comparison of RAI frameworks (a) as commonly defined in the literature with explainability as a pillar, and (b) as proposed by this work with explainability as the foundational concept.

実験結果

リサーチクエスチョン

• RQ1 Explainable AI は責任あるAIの枠組みの柱というより、基盤としてどのように概念化できるか？
• RQ2 XAI の文献からどのような証拠が示され、RAI における公正性・堅牢性・プライバシー・安全性・透明性への寄与をどのように示すか？
• RQ3 XAI を実世界のユースケースに適用して、AIシステムの信頼性と社会的責任をどのように高められるか？
• RQ4 XAI が RAI の基盤として扱われる場合、今後のAI研究と展開にどのような提言が生まれるか？

主な発見

• XAI は公正性、堅牢性、プライバシー、安全性、透明性、説明責任というすべての RAI の柱を支援し、強化することができる。
• XAI は透明性を提供し、解釈性と理解を向上させ、金融や法務などの分野で説明責任を支援する。
• XAI はプライバシー保護技術と組み合わせることで、他のRAIの要件を損なうことなくプライバシー要件に対応できる。
• 著者らは XAI は単なる別の柱ではなく RAI の基盤であるべきだと提案し、実世界のユースケースでこれを例示する。
• 本研究は統一された枠組みの中で XAI と RAI を結びつけ、医療、交通、生成AI における実用的な応用を強調することでギャップを埋める。

Figure 2 . Overview of the key contents of this paper