[논문 리뷰] Automatic Synonym Discovery with Knowledge Bases

Meng Qu, Xiang Ren외 1명|arXiv (Cornell University)|2017. 06. 25.

Topic Modeling참고 문헌 30인용 수 13

한 줄 요약

이 논문은 분포적 특징과 국소적 텍스트 패턴을 동시에 활용하면서 지식 기반 엔티티를 의미 해석이 확실한 쿼리로 사용하는, 자동 동의어 발견을 위한 새로운 프레임워크인 DPE를 제안한다. 정제된 지식 기반 동의어로부터의 원거리 지도 학습을 통합함으로써 DPE는 단일 신호 유형에 의존하는 기존 방법보다 더 높은 정확도를 달성한다.

ABSTRACT

Recognizing entity synonyms from text has become a crucial task in many entity-leveraging applications. However, discovering entity synonyms from domain-specific text corpora (e.g., news articles, scientific papers) is rather challenging. Current systems take an entity name string as input to find out other names that are synonymous, ignoring the fact that often times a name string can refer to multiple entities (e.g., "apple" could refer to both Apple Inc and the fruit apple). Moreover, most existing methods require training data manually created by domain experts to construct supervised-learning systems. In this paper, we study the problem of automatic synonym discovery with knowledge bases, that is, identifying synonyms for knowledge base entities in a given domain-specific corpus. The manually-curated synonyms for each entity stored in a knowledge base not only form a set of name strings to disambiguate the meaning for each other, but also can serve as "distant" supervision to help determine important features for the task. We propose a novel framework, called DPE, to integrate two kinds of mutually-complementing signals for synonym discovery, i.e., distributional features based on corpus-level statistics and textual patterns based on local contexts. In particular, DPE jointly optimizes the two kinds of signals in conjunction with distant supervision, so that they can mutually enhance each other in the training stage. At the inference stage, both signals will be utilized to discover synonyms for the given entities. Experimental results prove the effectiveness of the proposed framework.

연구 동기 및 목표

• 도메인 특화 텍스트 코퍼스에서 지식 기반 엔티티의 누락된 동의어를 발견하는 데 도전한다.
• 수동으로 정제된 학습 데이터에 의존하거나 동의어 검출 시 문자열의 다의어성 문제로 인해 제한을 받는 기존 방법의 한계를 극복한다.
• 동일한 표면 형태가 여러 의미를 가질 수 있는 경우의 혼동을 방지하기 위해 지식 기반 엔티티를 의미 해석이 확실한 쿼리로 활용한다.
• 분포적 특징과 국소적 텍스트 패턴 신호를 공동 최적화하여 동의어 발견 성능을 향상시킨다.
• 최소한의 인간 레이블링 데이터로 효과적으로 학습하기 위해 지식 기반 동의어로부터의 제한된 원거리 지도 학습을 활용한다.

제안 방법

• 의미가 다를 수 있는 표면 형태(예: '워싱턴'을 인물 또는 주로 해석)를 정확히 해석하기 위해 지식 기반 엔티티를 쿼리 엔티티로 사용한다.
• 도메인 코퍼스에서 후보 문자열의 공현 통계를 기반으로 분포적 특징을 추출한다.
• 동의어 관계를 표현하는 국소적 텍스트 패턴(예: '또는 알려져 있듯이', '일반적으로 불리는')을 식별하기 위한 패턴 분류기를 학습한다.
• 지식 기반 동의어로부터의 원거리 지도 학습을 통해 분포적 특징과 패턴 기반 신호를 공동 최적화한다.
• 기존 동의어 간의 투표 메커니즘을 적용하여 가짜 양성(false positive)을 걸러내고 신뢰도를 향상시킨다.
• 분포적 특징과 패턴 기반 신호를 모두 통합한 통합 임베딩 모델을 학습하여 동의어 예측을 위한 의미적 표현을 향상시킨다.

실험 결과

연구 질문

• RQ1 지식 기반에서 유래한 원거리 지도 학습이 의미가 다중인 엔티티 이름의 동의어 발견에서 다의어성을 효과적으로 줄일 수 있는가?
• RQ2 분포적 특징과 국소적 텍스트 패턴은 어떻게 상호 보완적으로 엔티티 동의어를 식별하는 데 기여하는가?
• RQ3 분포적 특징과 패턴 기반 신호를 공동 최적화함으로써 고립된 접근 방식에 비해 동의어 발견 성능이 얼마나 향상되는가?
• RQ4 제안된 프레임워크는 레이블이 제한된 다양한 도메인 특화 코퍼스에 일반화될 수 있는가?
• RQ5 기존 동의어 간의 투표 메커니즘이 동의어 발견 과정에서 가짜 양성을 걸러내는 데 얼마나 효과적인가?

주요 결과

• DPE 프레임워크는 분포적 특징 또는 패턴 기반 특징만을 사용하는 베이스라인 방법보다 뚜렷이 뛰어난 성능을 보였다.
• 공동 최적화를 통해 두 신호를 통합함으로써 F1 점수에 유의미한 향상이 있었으며, DPE는 패턴을 배제한 DPE-NoP보다 더 높은 정밀도와 재현율을 달성했다.
• 패턴 분류기가 '또는 알려져 있듯이', '일반적으로 불리는'과 같은 의미 있는 고정밀도 패턴을 성공적으로 학습하여 맥락 내에서 동의어 관계를 표현했다.
• 지식 기반 동의어를 원거리 지도 학습으로 활용함으로써 인간 레이블링이 필요한 시드 데이터에 대한 의존도를 줄이고, 제한된 학습 데이터로도 효과적인 학습이 가능했다.
• 기존 동의어 간의 투표 메커니즘이 RMB나 WW I와 같이 패턴 필터링 없이 잘못 동의어로 식별되는 경우를 효과적으로 걸러내어 성능을 향상시켰다.
• DPE에서 학습된 임베딩은 분포적 특징과 패턴 신호 양쪽에서 유도된 지도 학습 덕분에 표준 텍스트 임베딩보다 의미 상관관계를 더 잘 유지했다.