[논문 리뷰] Integrating Multiple Knowledge Sources to Disambiguate Word Sense: An Exemplar-Based Approach

Hwee Tou Ng, Hian Beng Lee|ArXiv.org|1996. 06. 29.

Natural Language Processing Techniques인용 수 78

한 줄 요약

이 논문은 다수의 지식 소스—품사 태그, 형태소 형태, 주변 단어 집합, 국소적 어구, 동사-목적어 문법적 관계—를 통합하여 정확도를 향상시키는 예시 기반 단어 의미 해석 시스템인 Lexas를 제시한다. WordNet에서 수집한 표준 데이터셋과 대규모 수작업 의미 태깅 코퍼스에서 평가한 결과, 이전 방법보다 더 높은 정확도를 기록하였으며, 특히 다의어성이 높은 단어에서 뛰어난 성능을 보였다. 이는 가장 흔한 의미 기반 기준보다 뛰어난 성능을 보이며, 유사한 평가 중에서 최초로 대규모 평가를 수행한 사례이다.

ABSTRACT

In this paper, we present a new approach for word sense disambiguation (WSD) using an exemplar-based learning algorithm. This approach integrates a diverse set of knowledge sources to disambiguate word sense, including part of speech of neighboring words, morphological form, the unordered set of surrounding words, local collocations, and verb-object syntactic relation. We tested our WSD program, named {\sc Lexas}, on both a common data set used in previous work, as well as on a large sense-tagged corpus that we separately constructed. {\sc Lexas} achieves a higher accuracy on the common data set, and performs better than the most frequent heuristic on the highly ambiguous words in the large corpus tagged with the refined senses of {\sc WordNet}.

연구 동기 및 목표

• 다양한 언어학적 지식 소스를 효과적으로 통합하는 견고한 단어 의미 해석(WSD) 시스템을 개발하는 것.
• 표준 벤치마크를 넘어서 대규모 수작업 의미 태깅 코퍼스에서 시스템의 확장성과 성능을 평가하는 것.
• 구문적, 형태학적, 맥락적 특징을 활용하여 다의어성이 높은 단어에서 정확도를 향상시키는 것.
• 실제 대규모 WSD 작업에서 예시 기반 학습이 전통적 히ュ리스틱 기반 기준을 능가할 수 있음을 보여주는 것.
• 향후 WSD 연구를 위해 공개 가능한 대규모 의미 태깅 코퍼스를 제공하는 것.

제안 방법

• 각 단어 의미는 학습 데이터에서 유도된 프로토타입 예시로 표현되는 예시 기반 학습을 사용한다.
• 각 내용어에 대해, 이웃 단어의 품사(POS), 형태소 형태, 주변 단어의 순서 없는 집합, 국소적 어구, 동사-목적어 문법적 관계 등의 특징을 사용하여 별도의 예시 기반 분류기 학습을 수행한다.
• 의미 할당 이전에, 단어를 WordNet의 형태소 분석기로 기본 형태로 정규화한다.
• 기호적 특징에 기반한 가중치가 부여된 근접 이웃 접근 방식을 사용하는 PEBL(프로토타입 기반 예시 기반 학습 시스템) 프레임워크를 분류에 활용한다.
• 학습 코퍼스는 단어가 올바른 의미로 사전 태깅된 문장들로 구성되어 있어, 지도 학습이 가능하다.
• 입력 단어 맥락과 예시 간의 유사도를 가중치가 부여된 특징 거리 측도를 사용하여 계산하고, 가장 적절한 의미를 선택한다.

실험 결과

연구 질문

• RQ1 예시 기반 학습 접근 방식은 다수의 언어학적 지식 소스를 효과적으로 통합하여 단어 의미 해석에 활용할 수 있는가?
• RQ2 대규모 코퍼스에서 다의어성이 높은 단어에 대해 예시 기반 시스템의 성능은 가장 흔한 의미 기반 히ュ리스틱 기준보다 어떻게 비교되는가?
• RQ3 기존의 표준 벤치마크 데이터셋에서 이전 방법보다 더 높은 정확도를 달성할 수 있는가?
• RQ4 WSD 시스템을 대규모 수작업 의미 태깅 코퍼스에 확장하는 것이 가능한가? 기대되는 성능은 어떠한가?
• RQ5 구문적 및 형태학적 특징의 통합이 의미 해석 정확도를 상당히 향상시키는가?

주요 결과

• Lexas는 표준 벤치마크 데이터셋에서 평균 정확도 87.4%를 기록하여 Bruce와 Wiebe가 이전에 보고한 80%를 초월하였다.
• WordNet에서 수집한 12,000개의 단어 발생 수를 포함하는 대규모 수작업 의미 태깅 코퍼스에서, Lexas는 가장 흔한 의미 기반 기준 전략을 뛰어넘는 성능을 보였다.
• 특히 WordNet의 정교한 의미 구분을 활용했을 때, 다의어성이 높은 단어에서 뛰어난 성능을 보였다.
• 이것은 유사한 대규모 수작업 태깅 코퍼스에서 WSD 시스템을 평가한 최초의 사례로, 확장성과 성능 측면에서 새로운 기준을 설정하였다.
• 구문적 관계, 어구, 형태소 형태를 포함한 다수의 지식 소스 통합이 의미 해석 정확도를 상당히 향상시켰다.
• 예시 기반 접근 방식은 특히 복잡하거나 다의어성이 높은 언어 맥락에서 미묘한 맥락 패턴을 효과적으로 포착하는 데 성공하였다.