[논문 리뷰] Knowledge-aware Zero-Shot Learning: Survey and Perspective

Jiaoyan Chen, Yuxia Geng외 4명|arXiv (Cornell University)|2021. 02. 26.

Domain Adaptation and Few-Shot Learning참고 문헌 30인용 수 5

한 줄 요약

이 논문은 지식 인식형 제로샷 러닝(ZSL)에 대한 종합적인 서베이를 제시하며, 외부 지식을 텍스트, 특성, 지식 그래프(KGs), 온톨로지/규칙로 분류한다. 컴퓨터 비전, 자연어 처리(NLP), 지식 그래프 보완 등 분야에서의 방법, 벤치마크, 비교적 우월한 점을 검토하며, 샘플 부족 문제를 해결하는 데 있어 상징적 지식의 역할이 점점 더 중요해지고 있음을 강조한다.

ABSTRACT

Zero-shot learning (ZSL) which aims at predicting classes that have never appeared during the training using external knowledge (a.k.a. side information) has been widely investigated. In this paper we present a literature review towards ZSL in the perspective of external knowledge, where we categorize the external knowledge, review their methods and compare different external knowledge. With the literature review, we further discuss and outlook the role of symbolic knowledge in addressing ZSL and other machine learning sample shortage issues.

연구 동기 및 목표

• 학습 샘플이 없는 경우에도 미사용 클래스를 예측할 수 있도록 하는 데 핵심적인 외부 지식의 관점에서 제로샷 러닝(ZSL)을 체계적으로 검토하기 위해.
• 데이터 구조, 표현력, 자료원 기반으로 텍스트, 특성, 지식 그래프(KGs), 온톨로지/규칙의 네 가지 유형의 외부 지식을 분류하고 비교하기 위해.
• 최근 몇 년 간 중요성이 증가하고 있음에도 불구하고 기존 서베이에서 KGs와 온톨로지가 부족하게 다뤄지고 있다는 점을 규명하기 위해.
• 상징적 지식 표현 방식(예: KGs, 논리적 규칙)이 ZSL 및 더 넓은 기계학습의 샘플 부족 문제 해결에 어떻게 기여할 수 있는지 분석하기 위해.
• ZSL 환경에서 다양한 지식 자원의 강점과 한계를 비교함으로써 향후 연구의 기반을 마련하기 위해.

제안 방법

• 데이터 구조, 표현력, 자료원 기반으로 외부 지식을 텍스트, 특성, 지식 그래프(KGs), 온톨로지/규칙의 네 가지 유형으로 분류한다.
• ZSL의 기술적 해결책을 검토하며, 입력 공간에서 의미 표현 공간으로의 매핑 함수 기반 방법(가장 가까운 이웃 분류를 위한)을 포함한다.
• 클래스 의미 표현 함수 $ h: y \rightarrow z $ 를 분석한다. 이는 상징적 지식(예: 클래스 이름, 설명, 관계 등)을 모델 입력을 위한 벡터 표현으로 변환한다.
• 컴퓨터 비전, NLP, 지식 그래프 구축 및 보완 분야에서의 ZSL 방법을 작업 특화 벤치마크와 평가 프로토콜을 사용해 비교한다.
• 최근 몇 년 간 KGs와 온톨로지가 ZSL에서 어떻게 사용되고 있는지 사례 연구를 통해 평가한다. NELL, Wikidata, 규칙 기반 시스템을 포함한다.
• 심화 학습과 상징적 지식(예: KGs, 규칙)을 통합하는 신경-기호 파라다임을 제안하여 샘플 부족 환경에서의 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 텍스트, 특성, KGs, 온톨로지/규칙와 같은 다양한 유형의 외부 지식는 제로샷 러닝을 지원하는 데 있어 어떤 차이를 보이는가?
• RQ2 각 유형의 외부 지식를 사용하는 ZSL 접근법 간의 주요 방법론적 차이점과 성능 상의 상충 관계는 무엇인가?
• RQ3 최근 몇 년 간 그 중요성이 증가하고 있음에도 불구하고 지식 그래프와 온톨로지가 이전의 ZSL 서베이에서 왜 부족하게 다뤄졌는가?
• RQ4 KGs와 논리적 규칙를 통한 상징적 지식 표현 방식은 제로샷 및 패기샷 러닝에서 일반화 능력을 어떻게 향상시킬 수 있는가?
• RQ5 샘플 부족 문제를 다루는 ZSL 및 더 넓은 기계학습에 상징적 지식을 통합하는 데 있어 열려 있는 과제와 향후 연구 방향은 무엇인가?

주요 결과

• 지식 그래프(KGs)와 온톨로지는 특히 NLP 및 지식 그래프 보완 작업에서 매우 표현력이 뛰어나 효과적인 외부 지식 자원으로 부상하고 있다.
• 초기 ZSL는 주로 속성과 텍스트 기반 설명을 사용한 이미지 분류에 집중했지만, 최근 연구에서는 더 큰 규모의 지식 그래프(예: Wikidata, NELL)를 활용해 일반화 능력을 향상시키는 경향이 강해지고 있다.
• 관계적 추론이 필요한 작업(예: 지식 그래프 링크 예측, 관계 분류)에서는 KG 기반 ZSL 방법이 속성 기반 및 텍스트 전용 방법보다 뛰어난 성능을 보인다.
• growing 관심에도 불구하고, NLP 및 정보 추출 분야에서 KG 기반 및 온톨로지 기반 ZSL에 대한 표준화된 벤치마크가 아직 부족한 상황이다.
• 신경 모델과 상징적 지식(예: 온톨로지, 규칙)을 통합하는 것은 샘플 부족 학습 환경에서 해석 가능성과 일반화 능력을 향상시키는 데 유망한 신경-기호 파라다임을 형성한다.
• ZSL는 점점 컴퓨터 비전을 넘어 NLP 및 지식 그래프 작업으로 확장되고 있으며, rich한 상징적 지식 자원의 가용성과 새로운 클래스를 다뤄야 하는 필요성 덕분이다.