[논문 리뷰] Knowledge-based Transfer Learning Explanation

Jiaoyan Chen, Freddy Lécué외 3명|arXiv (Cornell University)|2018. 07. 22.

Explainable Artificial Intelligence (XAI)참고 문헌 2인용 수 31

한 줄 요약

이 논문은 OWL 2 EL++ 온톨로지와 DBpedia와 같은 외부 지식 기반을 사용하여 인간 중심의 전이 학습 설명을 위한 온톨로지 기반 프레임워크를 제안한다. 이 프레임워크는 일반적 요인, 특정 서술자, 핵심 맥락의 세 가지 유형의 설명적 근거를 추론한다. 컨볼루션 신경망의 특징 표현을 활용하여 항공기 이륙 지연 예측에서 정확하고 해석 가능한 긍정적 전이와 부정적 전이의 이유를 비전문가도 이해할 수 있도록 한다.

ABSTRACT

Machine learning explanation can significantly boost machine learning's application in decision making, but the usability of current methods is limited in human-centric explanation, especially for transfer learning, an important machine learning branch that aims at utilizing knowledge from one learning domain (i.e., a pair of dataset and prediction task) to enhance prediction model training in another learning domain. In this paper, we propose an ontology-based approach for human-centric explanation of transfer learning. Three kinds of knowledge-based explanatory evidence, with different granularities, including general factors, particular narrators and core contexts are first proposed and then inferred with both local ontologies and external knowledge bases. The evaluation with US flight data and DBpedia has presented their confidence and availability in explaining the transferability of feature representation in flight departure delay forecasting.

연구 동기 및 목표

• 비전문가를 대상으로 한 전이 학습의 인간 중심 설명의 부족을 해결하기 위해.
• 기계에서 읽을 수 있는 인사이트에 의존하지만 배경 지식이나 일반 지각 지식이 결여된 현재의 머신러닝 설명 방법의 한계를 극복하기 위해.
• 지역 온톨로지와 외부 지식 기반을 통합하여 전이 학습 결과에 대한 풍부하고 이해하기 쉬운 설명을 생성하는 프레임워크를 개발하기 위해.
• 머신러닝 전문 지식이 없는 사용자가 예측 작업에서 어떤 지식 전이가 성공(긍정적 전이)하거나 실패(부정적 전이)하는지 이유를 이해할 수 있도록 하기 위해.
• 지역 지식과 외부 지식을 모두 지원하는 일반 목적의 표현력 있는 지식 표현 및 추론 시스템을 개발하여 전이 학습 설명에 활용하기 위해.

제안 방법

• 각 학습 도메인(데이터셋 및 예측 작업)을 표현력 있는 OWL 2 EL++ 온톨로지로 모델링하여 개념, 역할, 개별 개체를 표현하기 위해.
• 효율적인 개체 매칭 및 지식 수입 알고리즘을 통해 지역 온톨로지에 DBpedia와 같은 외부 지식을 보완하기 위해.
• 상관관계 기반 추론 알고리즘을 적용하여 일반적 요인, 특정 서술자, 핵심 맥락의 세 가지 유형의 설명적 근거를 추론하기 위해.
• TBox에서 일반형 제약(예: GCI, RI)과 ABox에서의 진술을 사용하여 도메인 특화 지식과 일반 지각 지식을 표현하기 위해.
• 특징 전이 가능성 측정 및 핵심 맥락(함의 하위집합) 식별과 같은 기술적 과제를 논리적 추론을 통해 해결하기 위해.
• OWL 2 EL++의 의미적 표현력을 활용하여 지역 지식과 외부 지식을 모두 추론하여 설명 생성에 활용하기 위해.

실험 결과

연구 질문

• RQ1 어떤 학습 도메인에서 특징 표현을 다른 도메인으로 전이하면 항공기 이륙 지연 예측에서 왜 긍정적 또는 부정적 전이가 발생하는가?
• RQ2 일반적 요인, 특정 서술자, 핵심 맥락을 자동으로 추론하여 인간이 이해할 수 있는 방식으로 전이 결과를 설명할 수 있는가?
• RQ3 DBpedia와 같은 외부 지식이 일반 지각과 맥락적 배경 지식을 풍부하게 하여 전이 학습 설명에 어떤 역할을 하는가?
• RQ4 지역 온톨로지와 외부 지식 기반을 효과적으로 통합하여 전이 가능성에 대한 추론을 지원할 수 있는가?
• RQ5 제안된 프레임워크가 긍정적 전이와 부정적 전이의 경우 모두 신뢰할 수 있고 활용 가능한 설명 근거를 얼마나 잘 생성할 수 있는가?

주요 결과

• 프레임워크는 CNN으로 학습된 특징을 사용하여 미국 항공기 이륙 지연 예측에서 긍정적 전이와 부정적 전이에 대해 모두 확신 있는 설명 근거를 성공적으로 생성하였다.
• 주요 항공사가 운영하는 항공편의 특징을 전이하는 것이 긍정적 전이를 뒷받침하는 일반적 요인으로 확인되었으며, 이는 모델이 의미 있는 패턴을 탐지할 수 있음을 보여준다.
• SFO에서 이륙하는 항공편의 특징을 전이하는 것이 부정적 전이를 설명하는 핵심 맥락으로 규명되었으며, 이는 도메인 특화의 부적합성을 시사한다.
• DBpedia와 지역 온톨로지를 활용하여 일반 지각과 배경 지식을 통합한 풍부하고 맥락 인식 가능한 설명을 추론할 수 있었다.
• 이 프레임워크는 이질적인 지식 소스에 대해 효과적인 추론을 수행하여 인간 중심의 전이 학습 설명에 대한 실현 가능성을 입증하였다.
• 평가 결과, 제안된 방법이 비전문가 사용자에게도 접근 가능한 의미론적으로 기반을 둔 해석 가능한 설명을 지원함을 확인하였다.