[論文レビュー] Trends in Explainable AI (XAI) Literature

Alon Jacovi|arXiv (Cornell University)|Jan 13, 2023

Explainable Artificial Intelligence (XAI)被引用数 8

ひとこと要約

この論文は大規模で整ったXAI論文コレクション（5199本）を作成・分析し、Explainable AIにおける成長、分野横断的協力、引用動向を示します。

ABSTRACT

The XAI literature is decentralized, both in terminology and in publication venues, but recent years saw the community converge around keywords that make it possible to more reliably discover papers automatically. We use keyword search using the SemanticScholar API and manual curation to collect a well-formatted and reasonably comprehensive set of 5199 XAI papers, available at https://github.com/alonjacovi/XAI-Scholar . We use this collection to clarify and visualize trends about the size and scope of the literature, citation trends, cross-field trends, and collaboration trends. Overall, XAI is becoming increasingly multidisciplinary, with relative growth in papers belonging to increasingly diverse (non-CS) scientific fields, increasing cross-field collaborative authorship, increasing cross-field citation activity. The collection can additionally be used as a paper discovery engine, by retrieving XAI literature which is cited according to specific constraints (for example, papers that are influential outside of their field, or influential to non-XAI research).

研究の動機と目的

• XAI文献の経験的洞察を得るために、大規模で整ったコーパスを組み立てる。
• XAIにおける成長傾向とリーダーシップ領域を特徴づける。CSを超える分野横断的拡張を含む。
• XAI分野間および非XAI領域間の協力と引用パターンを探る。
• 分野を横断して影響力のある論文を特定するデータリソースと発見ツールを提供する。

提案手法

• 精度を確保するための2つ以上キーワード照合戦略を用いたキーワードベースの収集。
• 厳選されたXAIコレクションおよび高引用論文からの手動キュレーションと拡張。
• 手動フィルタリングと自動キーワードフィルタリングを組み合わせた反復的引用木の拡張。
• 誤 attributed論文の除去と5,119論文データセットの確定を含む品質管理。
• 分野別分布、成長傾向、協力グラフ、分野横断的引用パターンの分析。

実験結果

リサーチクエスチョン

• RQ1 堅牢なキーワードとキュレーションパイプラインで収集したときのXAI文献の規模と構成はどうなるか。
• RQ2 XAI文献は時間とともにどのように成長してきたか、CSを除外した場合の成長はどう異なるか。
• RQ3 XAIにおける分野横断的協力パターンはどのように進化しているか、引用で他の分野に影響を与えるのはどの分野か。
• RQ4 XAIと非XAI領域間の分野横断的引用ダイナミクスはどうなるか。
• RQ5 分野を超えて影響力のある論文はどれか、また学際的境界を越える論文の特徴は何か。

主な発見

• XAI文献は厳選データセットで2022年12月時点で5,199本。
• XAIはCSの外で2016年、2018年、2021年に最大の成長スパイクを示し、学際的拡大を示唆。
• 2つ以上の分野で発表する著者は時間とともに増加し、分野横断的協力の高まりを示す。
• XAI‐CS引用はXAI‐MathematicsおよびXAI‐Psychologyによって強く影響を受け、分野ごとに影響の方向が異なる。
• 一部の非CS分野（例：Biology、生物学、Engineering、Law）は非-XAI引用に sizable を寄与する一方、Psychology、Business、Philosophyは非-XAIソースへの寄与が小さい。
• 分野内引用分布は分野ごとに異なり、顕著なアウトライヤーがある（例：一つのLaw論文がXAI‑CS引用を支配）。
• このデータセットは、XAIと非XAI領域を横断する影響力のある論文や境界横断的論文を特定する論文発見エンジンとして機能する。