[논문 리뷰] Explainable Machine Learning with Prior Knowledge: An Overview

Katharina Beckh, Sebastian Müller외 7명|arXiv (Cornell University)|2021. 05. 21.

Explainable Artificial Intelligence (XAI)참고 문헌 84인용 수 30

한 줄 요약

선행 지식을 활용하여 설명 가능한 ML을 향상시키는 방법에 관한 조사로, 학습 파이프라인에 지식을 통합하는 것, 설명 가능성 방법에 통합하는 것, 또는 설명으로부터 지식을 도출하는 것으로 분류한다.

ABSTRACT

This survey presents an overview of integrating prior knowledge into machine learning systems in order to improve explainability. The complexity of machine learning models has elicited research to make them more explainable. However, most explainability methods cannot provide insight beyond the given data, requiring additional information about the context. We propose to harness prior knowledge to improve upon the explanation capabilities of machine learning models. In this paper, we present a categorization of current research into three main categories which either integrate knowledge into the machine learning pipeline, into the explainability method or derive knowledge from explanations. To classify the papers, we build upon the existing taxonomy of informed machine learning and extend it from the perspective of explainability. We conclude with open challenges and research directions.

연구 동기 및 목표

• 데이터에만 의존한 설명 가능성의 한계를 극복하기 위해 선행 지식 사용을 촉진한다.
• 설명 가능성을 위한 ML에서 지식 통합을 분류하는 분류체계(IML)을 제시한다.
• 지식 주도형 설명 가능 ML의 세 가지 주요 경로를 설명하고 예시로 설명한다.
• 이 분야의 미해결 과제를 강조하고 향후 연구 방향을 제안한다.

제안 방법

• 세 가지 통합 패러다임에 따라 기존 연구를 분류한다: ML 파이프라인에 통합, 설명 가능성 방법에 통합, 또는 설명으로부터 지식을 도출.
• 설명 가능성과 관련하여 지식 통합의 프레이밍을 위해 정보화 머신러닝(IML) 분류체계를 채택하고 확장한다.
• 교육 데이터, 가설 집합, 학습 알고리즘 및 최종 가설 단계에 걸친 적용 사례를 조사한다.
• 설명에 대한 형식화된 사전 지식과 도메인 지식과의 정합성을 높이는 메커니즘으로서의 인터랙티브한 설명을 논의한다.
• 지식에서 도출된 통찰이 파이프라인으로 역전(feedback)되는 것을 반영하도록 IML 프레임워크를 확장하는 것을 제안한다.

실험 결과

연구 질문

• RQ1 선행 지식을 어떻게 통합하여 ML 설명의 질과 유용성을 향상시킬 수 있는가?
• RQ2 설명 가능 ML에 대한 지식 주도적 접근 방식의 주요 범주는 무엇이며, 실무에서 어떻게 차이가 있는가?
• RQ3 선행 지식을 통해 설명을 맥락 인식적으로 만들고 다양한 사용자에 맞게 맞춤화하는 방법은?
• RQ4 설명 가능성을 위한 선행 지식 활용에서 남아 있는 주요 과제는 무엇이며, 이를 어떻게 해결할 수 있는가?

주요 결과

• 선행 지식을 도입하면 모델을 도메인 개념과 정렬시켜 ML 파이프라인 전반에서 설명 가능성을 향상시킬 수 있다.
• 지식은 여러 단계(학습 데이터, 가설 집합, 학습 알고리즘, 최종 가설)에서 통합되어 해석 가능성을 높일 수 있다.
• 설명 가능성 방법 자체가 선행 지식(형식화된 설명과 인터랙티브한 설명)을 포함할 수 있어 전통적 파이프라인을 넘어 확장된다.
• 설명을 통해 새로운 지식을 도출하고 이를 학습 과정에 재통합하여 피드백 루프를 만든다.
• 본 논문은 맥락 민감성 및 사용자 중심 설명을 강조하며 연구의 개방적 과제와 방향을 제시한다.