[논문 리뷰] Human-centric Transfer Learning Explanation via Knowledge Graph [Extended Abstract]

Yuxia Geng, Jiaoyan Chen외 2명|arXiv (Cornell University)|2019. 01. 20.

Domain Adaptation and Few-Shot Learning참고 문헌 10인용 수 4

한 줄 요약

이 논문은 인간이 이해할 수 있는 용어로 전이 학습을 설명하기 위해 지식 그래프(KG) 기반의 프레임워크 두 가지를 제안한다: 하나는 사전 훈련 및 미세조정을 통한 도메인 간 CNN 특징 전이를 위한 것이고, 다른 하나는 다수의 소스 도메인을 활용한 제로샷 학습 모델의 정당화를 위한 것이다. 지식 그래프 추론을 활용함으로써, 비전문가 사용자에게 투명성을 높이는 해석 가능하고 의미적으로 풍부한 설명을 제공한다.

ABSTRACT

Transfer learning which aims at utilizing knowledge learned from one problem (source domain) to solve another different but related problem (target domain) has attracted wide research attentions. However, the current transfer learning methods are mostly uninterpretable, especially to people without ML expertise. In this extended abstract, we brief introduce two knowledge graph (KG) based frameworks towards human understandable transfer learning explanation. The first one explains the transferability of features learned by Convolutional Neural Network (CNN) from one domain to another through pre-training and fine-tuning, while the second justifies the model of a target domain predicted by models from multiple source domains in zero-shot learning (ZSL). Both methods utilize KG and its reasoning capability to provide rich and human understandable explanations to the transfer procedure.

연구 동기 및 목표

• 비기계학습 전문가를 대상으로 한 전이 학습 방법의 해석 가능성 부족 문제를 해결하기 위해.
• 지식 그래프를 사용하여 CNN의 특징 전이에 대한 인간 중심의 설명을 개발하기 위해.
• 다수의 소스 도메인 지식을 융합하여 제로샷 학습에서 모델 예측을 정당화하기 위해.
• 지식 그래프 추론을 활용하여 전이 학습 과정의 의미적으로 유의미한 자연어 설명을 생성하기 위해.

제안 방법

• 소스 도메인 및 타겟 도메인 개념, 그리고 학습된 특징 간의 의미 관계를 모델링하는 지식 그래프를 구축하기 위해.
• 사전 훈련된 CNN을 사용하여 소스 도메인에서 특징을 추출하고, 이를 지식 그래프에 통합된 개념으로 매핑하여 해석 가능성 향상시키기 위해.
• 특정 특징이 도메인 간에 잘 전이되는 이유를 설명하기 위해 지식 그래프 추론(예: 경로 기반 추론)을 적용하기 위해.
• 제로샷 학습에서, 다수의 소스 도메인 모델의 예측을 집계하고, 지식 그래프를 활용하여 타겟 도메인 예측을 의미적 일치를 통해 정당화하기 위해.
• 전이 가능성은 지식 그래프 내 논리적 경로로 표현하여 자연어 설명 생성 가능하게 하기 위해.
• 지식 그래프 추론을 딥러닝 파이프라인과 통합하여 설명이 의미 지식에 기반하도록 보장하기 위해.

실험 결과

연구 질문

• RQ1 지식 그래프는 서로 다른 도메인 간에 CNN이 학습한 특징의 전이 가능성에 대해 어떻게 설명할 수 있는가?
• RQ2 지식 그래프 추론은 전이 학습에 대한 인간이 이해할 수 있는 설명을 생성하는 데 어떤 역할을 하는가?
• RQ3 공통 지식 그래프를 사용하여 다수의 소스 도메인 모델을 어떻게 통합하고 정당화할 수 있는가?
• RQ4 지식 그래프 기반 설명은 사용자의 신뢰도 및 전이 학습 결정에 대한 이해도를 어느 정도 향상시킬 수 있는가?
• RQ5 지식 그래프 추론은 성공적인 특징 전이의 의미적 관계를 효과적으로 모델링할 수 있는가?

주요 결과

• 제안된 지식 그래프 기반 프레임워크는 비전문가 사용자에게 해석 가능한 의미적으로 풍부한 자연어 설명을 생성한다.
• 지식 그래프 추론을 통해 논리적 경로를 통해 전이 가능한 특징를 식별함으로써, CNN 특징 전이의 투명성이 향상된다.
• 제로샷 학습에서, 타겟 개념을 지식 그래프 내 의미적으로 관련된 소스 개념과 일치시켜 예측을 정당화한다.
• 지식 그래프 추론을 딥러닝 모델과 통합함으로써 성능 저하 없이 모델의 해석 가능성을 향상시킨다.
• 이러한 접근은 복잡한 전이 학습 절차에 대한 인간 중심의 설명을 생성하는 데 실현 가능성을 입증한다.