[論文レビュー] Towards a Praxis for Intercultural Ethics in Explainable AI

Chinasa T. Okolo|arXiv (Cornell University)|Apr 24, 2023

Explainable Artificial Intelligence (XAI)被引用数 6

ひとこと要約

本論文は、説明可能AI（XAI）の文化的包摂性と文化的関連性を高めるために、文化的多様性を考慮した倫理枠組みを提案する。特にグローバルサウスのユーザーを想定し、文化的価値観、現地知識、参加型デザインを統合することで、技術的側面に偏ったXAIから、倫理的根拠と文脈感受性を持つ説明へと進化させ、多様な人々に公平に配分される説明を実現する。

ABSTRACT

Explainable AI (XAI) is often promoted with the idea of helping users understand how machine learning models function and produce predictions. Still, most of these benefits are reserved for those with specialized domain knowledge, such as machine learning developers. Recent research has argued that making AI explainable can be a viable way of making AI more useful in real-world contexts, especially within low-resource domains in the Global South. While AI has transcended borders, a limited amount of work focuses on democratizing the concept of explainable AI to the "majority world", leaving much room to explore and develop new approaches within this space that cater to the distinct needs of users within culturally and socially-diverse regions. This article introduces the concept of an intercultural ethics approach to AI explainability. It examines how cultural nuances impact the adoption and use of technology, the factors that impede how technical concepts such as AI are explained, and how integrating an intercultural ethics approach in the development of XAI can improve user understanding and facilitate efficient usage of these methods.

研究の動機と目的

• 既存のXAIシステムには西洋的・技術的リテラシーを持つユーザーに主に適合しているため、文化的包摂性の欠如を是正すること。
• 文化的バイアスや文脈理解の不足が、リソースが限られた地域やグローバルサウスの文脈における効果的なAI説明を妨げることを強調すること。
• 説明可能性手法の設計と評価において、地域の価値観、世界観、認識論的伝統を核とする文化的多様性を考慮したXAIの倫理的アプローチを提唱すること。
• 技術的XAI開発と多様な社会文化的文脈における実際の使いやすさのギャップを埋めること。
• XAIにおける倫理的で参加型かつ脱植民地的実践を促進し、公平なアクセスと意味のあるユーザー主導の実現を図ること。

提案手法

• 文化的多様性の倫理理論をXAI開発と統合し、文化的感受性を持つ説明の設計をガイドする。
• 多様な文化的・地域的背景を持つステークホルダーと共同で参加型デザインや共同創造の手法を用い、説明フレームワークを形成する。
• 後向き（post-hoc）および事前（pre-hoc）の説明可能性技術を、文化的に意味のあるたとえ、比喩、視覚化手法に適応する。
• 植民地的・批判的テクノロジースタディーズの視点を活用し、AI説明設計における権力の不均衡を検証する。
• モデルの解釈可能性に加え、文化的適切性と文脈ごとのユーザー信頼を評価する基準を開発する。
• 計算科学、人類学、社会学、デジタル・ヒューマニティーズの分野を横断的に連携させ、XAIを生きた文化的経験に基づくものにする。

実験結果

リサーチクエスチョン

• RQ1 文化的差異がAI説明の受容性、解釈、信頼性にどのように影響するか。
• RQ2 現在のXAI手法が、リソースが限られた地域、非西洋的、文化的に多様な文脈において効果的または利用可能でない主な障壁は何か。
• RQ3 文化的多様性の倫理が、XAIシステムの設計と評価にどのように実装可能になるか。
• RQ4 歴史的・植民地的権力構造が現在のXAI実践をどのように形作っているか。また、それらをどのように是正できるか。
• RQ5 異なる文化的・地域的文脈において、文化的多様性を考慮したXAIをどのように意味的に評価できるか。

主な発見

• 既存のXAI手法は、西洋的認識論的枠組みと技術用語に依存しているため、グローバルサウスの非技術的ユーザーにはほとんど利用できない。
• 文化的ニュアンスが説明の受容に大きく影響し、異なる背景を持つユーザーは、それぞれ異なる価値観体系と世界観を通じてAI意思決定を解釈する。
• 文化的多様性を考慮したXAIの倫理的アプローチにより、説明が地域の文化的規範、比喩、意思決定慣習と整合することで、ユーザーの信頼と理解が向上する。
• 多様な認識論と権力構造を尊重する文化的に根拠のある説明可能性へと、技術的解釈可能性を超えて移行する必要がある。
• 文化的多様性を考慮したXAIは、AI設計におけるマイノリティコミュニティの声と価値観を核とするため、文化的な被害を軽減し、ユーザーの自律性を高めることができる。
• XAIの評価は、モデルのパフォーマンスを超えて、文化的関連性、倫理的整合性、現実世界のユーザー中心の成果を含むべきである。