[논문 리뷰] Trends in Explainable AI (XAI) Literature

Alon Jacovi|arXiv (Cornell University)|2023. 01. 13.

Explainable Artificial Intelligence (XAI)인용 수 8

한 줄 요약

이 논문은 대규모의 잘 형식화된 XAI 논문 모음집(5199편)을 구축하고 분석하여 Explainable AI가 다양한 학문 분야에 걸쳐 성장, 교차 분야 협력, 인용 경향을 드러낸다.

ABSTRACT

The XAI literature is decentralized, both in terminology and in publication venues, but recent years saw the community converge around keywords that make it possible to more reliably discover papers automatically. We use keyword search using the SemanticScholar API and manual curation to collect a well-formatted and reasonably comprehensive set of 5199 XAI papers, available at https://github.com/alonjacovi/XAI-Scholar . We use this collection to clarify and visualize trends about the size and scope of the literature, citation trends, cross-field trends, and collaboration trends. Overall, XAI is becoming increasingly multidisciplinary, with relative growth in papers belonging to increasingly diverse (non-CS) scientific fields, increasing cross-field collaborative authorship, increasing cross-field citation activity. The collection can additionally be used as a paper discovery engine, by retrieving XAI literature which is cited according to specific constraints (for example, papers that are influential outside of their field, or influential to non-XAI research).

연구 동기 및 목표

• 대규모의 잘 형식화된 말뭉치를 구성하여 XAI 문헌에 대한 실증적 통찰을 동기 부여하고 가능하게 한다.
• XAI의 성장 추세와 선도 분야를 특징지으며 CS를 넘어선 교차 분야 확장을 포함한다.
• XAI 분야 간 협력 및 인용 패턴과 XAI가 아닌 영역 간의 협력 및 인용 패턴을 탐구한다.
• 다양한 분야에서 영향력 있는 논문을 식별하기 위한 데이터 자원과 발견 도구를 제공한다.

제안 방법

• 정밀도를 보장하기 위한 2개 이상 키워드 매칭 전략을 활용한 키워드 기반 수집.
• curated XAI 컬렉션 및 고인용 논문으로부터의 수동 선별 및 보강.
• 수동 필터링과 자동 키워드 필터링을 포함한 반복적 인용 트리 확장.
• 오 인용 논문을 제거하고 5,119편 데이터세트를 최종화하는 품질 관리.
• 필드 분포, 성장 추세, 협력 그래프 및 교차 분야 인용 패턴 분석.

실험 결과

연구 질문

• RQ1 강력한 키워드 및 선별 파이프라인으로 수집했을 때 XAI 문헌의 크기와 구성은 어떻게 되는가?
• RQ2 XAI 문헌은 시간에 따라 어떻게 성장했으며 CS를 제외했을 때 성장 차이가 있는가?
• RQ3 XAI에서 분야 간 협력 패턴은 어떻게 진화하며 어떤 분야가 인용에서 다른 분야에 영향을 주는가?
• RQ4 XAI와 비-XAI 영역 간의 교차 분야 인용 역학은 어떤가?
• RQ5 어떤 XAI 논문이 여러 분야에 걸쳐 가장 영향력이 있으며 학제 간 경계를 넘는 논문의 특징은 무엇인가?

주요 결과

• XAI 문헌은 2022년 12월 기준 큐레이션된 데이터세트에 5,199편으로 구성되어 있다.
• XAI는 CS 외부에서 2016, 2018, 2021년에 가장 큰 성장 급증을 보이며 다학제적 확장을 시사한다.
• 두 개 이상의 분야에 걸쳐 논문을 발표하는 저자 수가 시간이 지남에 따라 증가하여 교차 분야 협력이 증가하고 있음을 시사한다.
• XAI-CS 인용은 XAI-수학, XAI-심리학의 인용 영향에 의해 강하게 좌우되며 분야 간 방향성 영향이 다르게 나타난다.
• 일부 비-CS 분야(예: Biology, Engineering, Law)는 비-XAI 인용에 상당한 기여를 하는 반면, Psychology, Business, Philosophy는 비-XAI 소스에 덜 기여한다.
• Within-field 인용 분포는 분야에 따라 다르며, 주목할 만한 예외(예: 한 개의 법학 논문이 XAI-CS 인용을 지배하는 경우)도 있다.
• 데이터세트는 XAI와 비-XAI 영역 간 영향력 있는 논문이나 교차 경계 논문을 식별하는 논문 발견 엔진으로 활용될 수 있다.