[論文レビュー] Mediation Challenges and Socio-Technical Gaps for Explainable Deep Learning Applications

Rafael Brandão, Joel Luís Carbonera+4 more|arXiv (Cornell University)|Jul 16, 2019

Explainable Artificial Intelligence (XAI)参考文献 50被引用数 4

ひとこと要約

この論文は、深層学習モデルに埋め込まれた技術的意味と、ユーザーがそれらに割り当てる社会的意味の間の、重要な社会的・技術的格差を特定し、この溝を埋めるために3つの「XAIメディエーションチャレンジ」を提案している。産業研究開発ラボに所属するDL専門家を対象とした定性的ケーススタディを通じて、実務者が社会的影響を考慮するインセンティブを内省的に持たないことが明らかになった。したがって、規制的・社会的要請に応えるために、中間者と多分野連携による説明可能性の実現が不可欠である。

ABSTRACT

The presumed data owners' right to explanations brought about by the General Data Protection Regulation in Europe has shed light on the social challenges of explainable artificial intelligence (XAI). In this paper, we present a case study with Deep Learning (DL) experts from a research and development laboratory focused on the delivery of industrial-strength AI technologies. Our aim was to investigate the social meaning (i.e. meaning to others) that DL experts assign to what they do, given a richly contextualized and familiar domain of application. Using qualitative research techniques to collect and analyze empirical data, our study has shown that participating DL experts did not spontaneously engage into considerations about the social meaning of machine learning models that they build. Moreover, when explicitly stimulated to do so, these experts expressed expectations that, with real-world DL application, there will be available mediators to bridge the gap between technical meanings that drive DL work, and social meanings that AI technology users assign to it. We concluded that current research incentives and values guiding the participants' scientific interests and conduct are at odds with those required to face some of the scientific challenges involved in advancing XAI, and thus responding to the alleged data owners' right to explanations or similar societal demands emerging from current debates. As a concrete contribution to mitigate what seems to be a more general problem, we propose three preliminary XAI Mediation Challenges with the potential to bring together technical and social meanings of DL applications, as well as to foster much needed interdisciplinary collaboration among AI and the Social Sciences researchers.

研究の動機と目的

• 産業的文脈における深層学習専門家が、自らのモデルに社会的意味をどのように割り当てるかを調査すること。
• 技術的開発手法と説明可能性に関する社会的期待との間の乖離を特定すること。
• 深層学習専門家が自らの仕事の社会的影響を考慮するインセンティブが欠如していることへの対処。
• AI研究者と社会科学研究者との協働を促進する具体的なメディエーションチャレンジを提言すること。
• GDPRの説明要求権といった規制的要請に応えるために、技術的意味と社会的意味を一致させること。

提案手法

• 産業系研究開発ラボに所属する12名の深層学習専門家を対象とした定性的ケーススタディを実施した。
• 半構造化インタビューと主題分析を用いて、専門家の説明可能性および社会的意味に関する認識を探った。
• 初期の自発的関与が得られなかった状況を踏まえ、社会的影響についての考察を促す特定の質問を提示した。
• 技術的ワークフローに社会的配慮が欠如しているという繰り返しテーマを同定した。
• 技術的意味と社会的意味を統合するための3つのXAIメディエーションチャレンジを提言した。
• 社会的意味と技術的意味の溝を埋めるために、AI研究者と社会科学者との多分野連携を提唱した。

実験結果

リサーチクエスチョン

• RQ1 産業的文脈における深層学習専門家は、自らが開発するモデルにどのように社会的意味を割り当てるか？
• RQ2 規制的・社会的要請があるにもかかわらず、なぜDL専門家は自発的にモデルの社会的影響を考慮しないのか？
• RQ3 AIシステムにおける技術的意味と社会的意味の溝を埋めるために、どのような中間者や協働フレームワークが必要か？
• RQ4 深層学習分野における現在の研究インcentiveと価値観は、説明可能なAIの目標とどのように食い違うか？
• RQ5 AI研究者と社会科学研究者との間で、協働を促進する具体的な課題は何か？

主な発見

• 深層学習専門家は、現実世界の応用文脈にあっても、モデルの社会的意味を自発的に考慮しなかった。
• 明示的に促されると、専門家は技術的意味と社会的意味を結ぶ中間者を強く期待した。
• 深層学習分野における現在の研究インcentiveと価値観は、説明可能なAIの発展ニーズと一致していない。
• 本研究は、DL開発の技術的焦点と、説明可能性に対する社会的要請との間にある根本的な社会的・技術的格差を特定した。
• 技術的意味と社会的意味の統合を実現するための具体的な道筋として、3つのXAIメディエーションチャレンジを提言した。
• 研究結果は、規制的・倫理的要請に応えるために、AIの透明性を実現するための多分野連携の緊急の必要性を浮き彫りにした。