[논문 리뷰] Explainable Artificial Intelligence and Multicollinearity : A Mini Review of Current Approaches

Ahmed Salih|arXiv (Cornell University)|2024. 06. 17.

Statistical and Computational Modeling인용 수 5

한 줄 요약

이 논문은 다중공선성 맥락에서 현재의 XAI 접근법을 조사하고, 특징 의존성을 해결하기 위한 일곱 가지 방법을 검토하며 한계와 향후 방향을 논의한다.

ABSTRACT

Explainable Artificial Intelligence (XAI) methods help to understand the internal mechanism of machine learning models and how they reach a specific decision or made a specific action. The list of informative features is one of the most common output of XAI methods. Multicollinearity is one of the big issue that should be considered when XAI generates the explanation in terms of the most informative features in an AI system. No review has been dedicated to investigate the current approaches to handle such significant issue. In this paper, we provide a review of the current state-of-the-art approaches in relation to the XAI in the context of recent advances in dealing with the multicollinearity issue. To do so, we searched in three repositories that are: Web of Science, Scopus and IEEE Xplore to find pertinent published papers. After excluding irrelevant papers, seven papers were considered in the review. In addition, we discuss the current XAI methods and their limitations in dealing with the multicollinearity and suggest future directions.

연구 동기 및 목표

• 실세계의 상관된 특징 설정에서 다중공선성이 XAI 설명에 어떤 영향을 미치는지 이해하려는 동기.
• 특성이 의존적일 때 특징 중요도를 올바르게 귀속하는 능력에 대해 현재 XAI 방법들을 평가한다.
• 특성 의존성을 반영하기 위해 XAI 방법을 수정하거나 확장하는 접근법을 식별하고 요약한다.
• 다중공선성에 강한 설명의 샘플링, 분포 추정 및 시각화에 관한 한계점을 강조하고 향후 연구 방향을 제시한다.

제안 방법

• 정보에 유용한 특징 목록이나 의존성 플롯을 생성하는 XAI 방법들에 대한 검토(SHAP, LIME, PDP, ALE, Anchor).
• 특성들이 서로 상관될 때 다중공선성이 설명에 편향을 주거나 오도할 수 있는지에 대한 논의.
• 설명에서 의존성 효과를 완화하는 일곱 가지 접근법의 제시(글로벌/로컬 적용성 여부 및 방법 특화 여부 또는 비특이성 포함).
• 구현 가능성에 대한 요약(예: Python/R Github 저장소) 및 실용적 고려사항.
• 고차원 설정과 혼합 특징 유형에서 현재 접근법의 한계 평가.

Figure 1: Literature review search.

실험 결과

연구 질문

• RQ1 다중공선성이 일반적인 XAI 설명의 신뢰성 및 해석에 어떤 영향을 미치는가?
• RQ2 XAI에서 특징 의존성 효과를 완화하기 위한 현재의 접근법은 무엇이며, 글로벌/로컬이고 방법 특화/비특이성인가?
• RQ3 XAI 설명에서 다중공선성 처리가 가진 한계점과 해결해야 할 과제는 무엇인가?
• RQ4 다중공선성 인식 설명의 견고성 및 시각화를 향상시키기 위한 향후 방향은 무엇인가?

주요 결과

Method	Global or Local	Specific or Agnostic
Modified Index Position : MIP	Global & Local	Agnostic
Extended Kernel SHAP	Local	Specific to SHAP
Normal ized Movement Rate (NMR)	Global & Local	Agnostic
SHAP Cohort Refinement (SCR)	Local	Specific to SHAP
Multi - collinearity Corrected (MCC)	Global	Specific to SHAP
Conditional Subgroups (CS)	Global	Agnostic
Conditional Inference Trees (CIT)	Local	Specific to SHAP

• 피처가 공선일 때 SHAP 설명이 중요도를 잘못 귀속할 수 있어 의존성 처리를 위한 여러 확장이 촉발된다.
• SHAP 및 다른 XAI 기법을 조정하거나 보완하기 위해 MIP, MCC, SCR, CS, CIT, 확장 SHAP 변형 등을 포함한 여러 제안 방법이 존재한다.
• 일부 방법은 글로벌하고 일부는 로컬이며, SHAP에 특화된 것들도 있고 다른 방법은 비특이적이다.
• 다중공선성을 본질적으로 완화하는 XAI 방법은 없으며, 조건부 분포와 샘플링의 도전이 고차원에서 현재 접근을 제한한다.
• 확장 기법은 종종 조건부 분포 추정이나 특징 중요도 계산의 조정을 기반으로 하며 적용 가능성과 가용성이 다양하다.
• 검토는 다중공선성 하의 특징 간 상호작용을 반영하는 새로운 플롯과 시각화 도구의 필요성을 강조한다.