[論文レビュー] Cultural Bias in Explainable AI Research: A Systematic Analysis

Uwe Peters, Mary Carman|arXiv (Cornell University)|Feb 28, 2024

Computational and Text Analysis Methods被引用数 4

ひとこと要約

この論文は、200件以上のXAIユーザーストディおよび30件の文献レビューを体系的に分析することで、説明可能AI（XAI）研究における顕著な文化的バイアスを特定している。多くの研究が西欧的・個人主義的集団に限定してサンプリングしている一方で、その結果を文化的に普遍的であると一般化している。著者らは、XAIの設計が西欧的説明嗜好が普遍的であると暗黙のうちに仮定していることを示しており、心理的証拠が西欧的・非西欧的・集団主義的文化間で説明ニーズに顕著な違いがあることを示している。これにより、文化的多様性を考慮しないXAI研究における重大な有効性のギャップが浮き彫りになっている。

ABSTRACT

For synergistic interactions between humans and artificial intelligence (AI) systems, AI outputs often need to be explainable to people. Explainable AI (XAI) systems are commonly tested in human user studies. However, whether XAI researchers consider potential cultural differences in human explanatory needs remains unexplored. We highlight psychological research that found significant differences in human explanations between many people from Western, commonly individualist countries and people from non-Western, often collectivist countries. We argue that XAI research currently overlooks these variations and that many popular XAI designs implicitly and problematically assume that Western explanatory needs are shared cross-culturally. Additionally, we systematically reviewed over 200 XAI user studies and found that most studies did not consider relevant cultural variations, sampled only Western populations, but drew conclusions about human-XAI interactions more generally. We also analyzed over 30 literature reviews of XAI studies. Most reviews did not mention cultural differences in explanatory needs or flag overly broad cross-cultural extrapolations of XAI user study results. Combined, our analyses provide evidence of a cultural bias toward Western populations in XAI research, highlighting an important knowledge gap regarding how culturally diverse users may respond to widely used XAI systems that future work can and should address.

研究の動機と目的

• XAI研究が人間の説明ニーズにおける文化的差を考慮しているかどうかを調査すること。
• XAIユーザーストディが西欧的集団からの知見を、より広範な文化的文脈に一般化している範囲を特定すること。
• XAI研究の文献レビューが、西欧中心の研究から得られた知見の文化的一般化について、認識しているか、批判的であるかを検討すること。
• 多様なユーザー集団をカバーしない文化的に限定された仮定に基づいてXAIシステムを設計するリスクを強調すること。

提案手法

• 2016年から2023年に発表された207件のXAIユーザーストディを体系的にレビューし、文化的サンプリングおよび説明ニーズの報告状況を評価した。
• XAI研究の文献レビューを32件分析し、説明嗜好の文化的差が認識されているか、議論されているかを評価した。
• 個人主義的（西欧的）と集団主義的（非西欧的）文化間の説明行動の文化的差に関する心理的研究の知見を統合した。
• 定性的および定量的コンテンツ分析を用いて、XAI研究およびレビューにおける代表性、一般化の主張、文化的認識の有無を評価した。
• XAI設計において普遍的な説明嗜好を仮定する方法論的含意を評価した。
• XAI研究エコシステム全体において、サンプリングおよび解釈の文脈で文化的多様性の欠如と過剰一般化のパターンを同定した。

実験結果

リサーチクエスチョン

• RQ1 XAIユーザーストディは、人間の説明嗜好における文化的変異をどの程度考慮しているか？
• RQ2 XAI研究は、西欧的・個人主義的集団に限定してサンプリングしながら、一般的適用性を主張する頻度はどの程度か？
• RQ3 XAI研究の文献レビューは、西欧中心の研究から得られた知見の文化的一般化について、認識しているか、批判的であるか？
• RQ4 XAIシステム設計において、西欧的説明ニーズがグローバルユーザー集団の代表的であると仮定することは、どのような意味を持つのか？
• RQ5 心理的証拠としての文化的差に起因する説明行動の違いは、現在のXAI研究実践とどのように関連しているか？

主な発見

• レビューした207件のXAIユーザーストディのうち、87％が西欧的集団に限定してサンプリングしており、参加者選定における文化的多様性の言及が一切なかった。
• 個人主義的・集団主義的文化間で説明嗜好に顕著な差があるという強い心理的証拠があるにもかかわらず、XAI研究のうち3％しか文化的差を明示的に考慮または検証していなかった。
• 分析した32件の文献レビューの90％以上が、説明ニーズにおける文化的差異を言及せず、西欧中心の研究からの一般化過剰の主張を警告しなかった。
• XAI研究の大多数は、西欧的説明嗜好、特に透明性および個人責任の重視が普遍的に適用可能であると暗黙のうちに仮定している。
• 本研究は、XAI研究に体系的な文化的バイアスが存在することを明らかにした。西欧的サンプルからの知見が、グローバルな人間-AIインタラクションニーズの代表とみなされている。
• このバイアスは、非西欧的文脈におけるXAIシステムの公平性、使いやすさ、実世界への展開に顕著なリスクをもたらしている。