[논문 리뷰] OmniXAI: A Library for Explainable AI

Wenzhuo Yang, Hung Lê외 3명|arXiv (Cornell University)|2022. 06. 01.

Explainable Artificial Intelligence (XAI)인용 수 23

한 줄 요약

OmniXAI는 다양한 데이터 유형과 모델에 대해 omni-방향 설명 가능성을 제공하는 오픈 소스 Python 라이브러리로, 통합 인터페이스와 여러 XAI 방법을 시각화하기 위한 GUI 대시보드를 제공합니다.

ABSTRACT

We introduce OmniXAI (short for Omni eXplainable AI), an open-source Python library of eXplainable AI (XAI), which offers omni-way explainable AI capabilities and various interpretable machine learning techniques to address the pain points of understanding and interpreting the decisions made by machine learning (ML) in practice. OmniXAI aims to be a one-stop comprehensive library that makes explainable AI easy for data scientists, ML researchers and practitioners who need explanation for various types of data, models and explanation methods at different stages of ML process (data exploration, feature engineering, model development, evaluation, and decision-making, etc). In particular, our library includes a rich family of explanation methods integrated in a unified interface, which supports multiple data types (tabular data, images, texts, time-series), multiple types of ML models (traditional ML in Scikit-learn and deep learning models in PyTorch/TensorFlow), and a range of diverse explanation methods including "model-specific" and "model-agnostic" ones (such as feature-attribution explanation, counterfactual explanation, gradient-based explanation, etc). For practitioners, the library provides an easy-to-use unified interface to generate the explanations for their applications by only writing a few lines of codes, and also a GUI dashboard for visualization of different explanations for more insights about decisions. In this technical report, we present OmniXAI's design principles, system architectures, and major functionalities, and also demonstrate several example use cases across different types of data, tasks, and models.

연구 동기 및 목표

• 데이터 유형과 모델 전반에 걸쳐 설명 가능한 AI를 위한 원스톱, 사용이 쉬운 라이브러리를 제공합니다.
• 통합 인터페이스 아래에 모델 무관, 모델 특정, 그리고 반사실적(counterfactual) 설명 방법의 풍부한 세트를 통합합니다.
• 포괄적인 XAI 분석을 위한 표 형식, 이미지, 텍스트 및 시계열 데이터를 지원합니다.
• 방법 간 비교 및 시각화를 위한 GUI 대시보드를 제공합니다.
• 일반 ML 프레임워크(Scikit-learn, PyTorch, TensorFlow)와의 손쉬운 확장 및 통합을 촉진합니다.

제안 방법

• 통합 인터페이스, 손쉬운 확장, 손쉬운 시각화를 포함한 OmniXAI 디자인 원칙을 소개합니다.
• 데이터 클래스, 전처리, 설명자, 설명 및 시각화 도구의 다섯 가지 핵심 구성요소를 설명합니다.
• 데이터 분석, 표 형식, 비전, NLP의 네 가지 설명기 그룹을 제공합니다(시계열은 별도의 설명기가 포함됩니다).
• 설명기를 모델 무관, 모델 특정 또는 반사실적으로 분류하고, 그 적용 가능성 및 한계를 설명합니다.
• 적용 가능한 설명기를 선택하고 ExplainerBase로 연결하는 통합 AutoExplainerBase 아키텍처를 제시합니다.
• 데이터 유형에 걸쳐 LIME, SHAP, PDP, Morris, L2X, Gradient-based methods, Grad-CAM, CEM, MACE, Polyjuice 등과 같은 인기 있는 방법들의 통합을 시연합니다.
• GUI 대시보드(Plotly Dash)와 설명을 생성하고 시각화하기 위한 코드 예제를 제공합니다.
• Tabular/NLP/Vision/Timeseries 설명기를 초기화하고 로컬/글로벌 설명을 검색하기 위한 실용적인 사용 패턴을 제공합니다.

실험 결과

연구 질문

• RQ1 하나의 라이브러리가 다양한 데이터 유형과 모델에 걸쳐 포괄적인 XAI 방법 세트를 어떻게 제공할 수 있을까?
• RQ2 여러 설명의 손쉬운 확장, 비교 및 시각화를 가능하게 하는 어떤 구조적 결정들이 있는가?
• RQ3 모델 무관 및 모델 특정 설명을 하나의 API 아래 얼마나 효과적으로 통합할 수 있는가?
• RQ4 단일 프레임워크 내에서 표 형식, 이미지 및 시계열 데이터에 대해 반사실적 설명을 효율적으로 통합할 수 있는가?
• RQ5 실제 ML 워크플로우(데이터 탐색, 특징 엔지니어링, 모델 평가, 의사 결정)에서 OmniXAI의 영향은 무엇인가?

주요 결과

• OmniXAI는 통합 인터페이스를 갖춘 표 형식(tabular), 이미지, 텍스트, 시계열 등 광범위한 데이터 유형과 ML 프레임워크(예: scikit-learn, PyTorch, TensorFlow)를 지원합니다.
• LIME, SHAP, PDP, Morris, L2X, Gradient-based methods, Grad-CAM, CEM, MACE, Polyjuice 등과 같은 대다수의 인기 있는 설명 방법을 모델 무관 및 모델 특정 카테고리를 포함하여 통합합니다.
• 이 라이브러리는 로컬 및 글로벌 설명을 모두 제공하고, 반사실적 설명 컴포넌트도 제공합니다(MACE는 표 형식/시계열, CE는 이미지, Polyjuice는 텍스트용).
• GUI 대시보드는 동일한 인스턴스나 데이터세트에 대한 여러 설명의 시각적 비교 및 탐색을 가능하게 합니다.
• 실험은 네 가지 데이터 규칙에서의 설명 가능성을 보여줍니다(표 형식 소득 예측, 이미지 분류, NLP 감정 분석, 시계열 이상 탐지).
• 설계는 사용 편의성, 확장성 및 시각화를 강조하여 실용적인 AI 디버깅 및 감사를 지원합니다.