[논문 리뷰] Explainable AI: current status and future directions

Prashant Gohel, Priyanka Singh외 1명|arXiv (Cornell University)|2021. 07. 12.

Explainable Artificial Intelligence (XAI)참고 문헌 55인용 수 78

한 줄 요약

멀티미디어 데이터(텍스트, 이미지, 오디오, 비디오)에 걸친 Explainable AI(XAI) 기법에 대한 조사로, 투명한 방법과 사후(post-hoc) 방법을 비교하고, 신뢰 가능한 AI 응용을 위한 이점, 한계, 향후 방향을 논의한다.

ABSTRACT

Explainable Artificial Intelligence (XAI) is an emerging area of research in the field of Artificial Intelligence (AI). XAI can explain how AI obtained a particular solution (e.g., classification or object detection) and can also answer other "wh" questions. This explainability is not possible in traditional AI. Explainability is essential for critical applications, such as defense, health care, law and order, and autonomous driving vehicles, etc, where the know-how is required for trust and transparency. A number of XAI techniques so far have been purposed for such applications. This paper provides an overview of these techniques from a multimedia (i.e., text, image, audio, and video) point of view. The advantages and shortcomings of these techniques have been discussed, and pointers to some future directions have also been provided.

연구 동기 및 목표

• 신뢰성과 투명성을 위한 중요 애플리케이션에서 AI의 설명 가능성 필요성을 촉진한다.
• 멀티미디어 데이터(텍스트, 이미지, 오디오, 비디오)에 걸친 기존 XAI 기법을 요약한다.
• XAI 방법의 장점과 단점을 논의하고 향후 연구 방향에 대한 제안을 제공한다.
• 투명한 XAI 접근 방식과 사후(post-hoc) XAI 접근 방식을 구분하는 분류 프레임워크를 제시한다.
• 방위, 보건의료, 법률, 산업 분야의 응용 사례를 강조하여 실용적 관련성을 보여준다.

제안 방법

• XAI 기법을 투명한 범주와 사후(post-hoc) 범주로 분류한다.
• 모델-무관적(model-agnostic)과 모델-특정 설명 및 이를 다양한 데이터 유형에 대한 적용 가능성을 평가한다.
• 주의도 맵(saliency maps), LIME, SHAP, LRP, 및 기원 기반(provenance) 접근법의 강점과 약점을 논의한다.
• 데이터 유형(텍스트, 이미지, 비디오, 오디오)에 따른 XAI 방법의 분류 트리를 개요한다.
• 현실 세계 도메인에서 XAI를 배포하기 위한 사례 연구와 실용적 고려사항을 제공한다.

실험 결과

연구 질문

• RQ1 멀티미디어 데이터(텍스트, 이미지, 오디오, 비디오)에 제안된 주요 XAI 기법은 무엇이며 어떻게 비교되는가?
• RQ2 다양한 데이터 모달리티에서 투명한 XAI 방법과 사후(post-hoc) XAI 방법의 장점과 한계는 무엇인가?
• RQ3 의료, 방위, 법집행 등 중요한 응용에서 XAI가 신뢰, 투명성, 공정성에 어떻게 기여할 수 있는가?
• RQ4 다중 모달 AI 시스템의 설명 가능성을 향상시키기 위한 향후 방향과 연구 기회는 무엇인가?

주요 결과

• XAI 방법은 투명한(intrinsically interpretable) 접근과 사후(post-hoc) 접근으로 분류된다.
• 주의도 기반 설명, LIME, SHAP, LRP, 및 기원/provenance/분류법 방법은 서로 다른 해석 가능성을 제공하며 충실도와 복잡성에 trade-off가 있다.
• 모델-무관적 방법(LIME, SHAP 등)은 광범위한 적용성을 제공하지만 불안정성 및 특징 의존성과 같은 문제에 직면한다.
• 반사실 설명(SEDC/SEDC-T)은 규제 맥락에 유용한 인간 중심의 대조적 정당화를 제공한다.
• 설명 가능성 개념은 텍스트, 이미지, 오디오, 비디오 전반으로 확장되며 모달리티별로 특정한 도전과 기회가 있다.