[논문 리뷰] Sense Tagging: Semantic Tagging with a Lexicon

Yorick Wilks, Mark Stevenson|ArXiv.org|1997. 05. 29.

Natural Language Processing Techniques참고 문헌 16인용 수 32

한 줄 요약

이 논문은 Longman Dictionary of Contemporary English (LDOCE)를 사용하여 품사 태깅과 사전 정의의 겹침을 결합함으로써 어감을 해석하는 의미 태깅 시스템을 제안한다. 독립적인 언어 신호들 사이에서 의미 선택을 최적화하기 위해 시뮬레이티드 어닐링을 적용함으로써, 이 시스템은 소규모 테스트 세트에서 이형동음어의 의미 해석 정확도가 86%에 이를 수 있었으며, 단순하고 모듈화된 방법들을 조합함으로써 단일 방법 접근 방식보다 성능 향상을 이룰 수 있음을 보여준다.

ABSTRACT

Sense tagging, the automatic assignment of the appropriate sense from some lexicon to each of the words in a text, is a specialised instance of the general problem of semantic tagging by category or type. We discuss which recent word sense disambiguation algorithms are appropriate for sense tagging. It is our belief that sense tagging can be carried out effectively by combining several simple, independent, methods and we include the design of such a tagger. A prototype of this system has been implemented, correctly tagging 86% of polysemous word tokens in a small test set, providing evidence that our hypothesis is correct.

연구 동기 및 목표

• 사전에 정의된 어휘집에 기반하여 넓은 의미 범주가 아닌 상대적인 맥락에서 작동하는 실용적이고 확장 가능한 의미 태깅 방법을 개발하기 위해.
• 희소하게 수동으로 태깅된 코퍼스나 특수한 의미 구분에 의존하는 기존의 단어의 의미 해석(WSD) 방법의 한계를 해결하기 위해.
• 품사와 사전 정의와 같은 독립적인 언어 정보의 여러 출처를 통합함으로써 의미 해석 정확도를 향상시키기 위해.
• 간단하고 재사용 가능한 구성 요소로 이루어진 모듈화된 하이브리드 시스템이 단일 방법 WSD 접근 방식보다 뛰어난 성능을 낼 수 있음을 보여주기 위해.

제안 방법

• 시스템은 Longman Dictionary of Contemporary English (LDOCE)의 기계 가공 가능한 버전을 단어의 의미와 이형동음어를 위한 근거로 사용한다.
• 텍스트는 어간 추출, 불용어 제거, 문장 분할을 통해 분석 대상이 되는 어휘어들을 분리하기 위해 사전 처리된다.
• 텍스트에 브릴 태거(Brill tagger)를 적용하고, 그 결과를 LDOCE의 품사 카테고리에 매핑하여 일치하지 않는 의미를 걸러낸다.
• 각 단어 의미의 사전 정의는 불용어 제거와 어간 추출을 통해 처리되어 의미 겹침 계산이 가능하도록 한다.
• 시뮬레이티드 어닐링 알고리즘을 사용하여 주변 문맥 정의와의 최대 겹침을 기반으로 각 단어 토큰에 대해 가장 일관된 의미 하나를 선택한다.
• 시스템은 확장 가능하도록 설계되어, 향후 어울림 패턴이나 공현 통계와 같은 추가적인 독립적인 자료원의 통합이 가능하도록 한다.

실험 결과

연구 질문

• RQ1 복잡하고 통합된 모델에 의존하는 대신, 다수의 독립적이고 단순한 방법을 조합함으로써 의미 태깅을 효과적으로 달성할 수 있는가?
• RQ2 품사 정보와 사전 정의 겹침의 통합은 의미 해석 정확도 향상에 얼마나 효과적인가?
• RQ3 LDOCE와 같은 사전에 기반한 사전 정의된 어휘집을 사용하는 시스템은 소규모 전문 분야 테스트 세트에서 비지도 또는 지도 학습 기반 WSD 방법보다 뛰어나게 성능을 낼 수 있는가?
• RQ4 최소한의 학습을 요구하는 모듈화된 규칙 기반 구성 요소는 순수 통계적 또는 히وري스틱 접근 방식에 비해 성능 향상에 얼마나 기여하는가?

주요 결과

• Wall Street Journal의 209단어 테스트 세트에서 이형동음어에 대한 정확한 의미 태깅 정확도가 86%에 도달하였다.
• 의미 수준의 의미 해석 정확도는 57%에 이르렀으며, 이는 동일한 테스트 세트에서 단독으로 시뮬레이티드 어닐링을 사용한 기준선 방법의 47%보다 뛰어났다.
• 품사 필터링과 사전 정의 겹침의 조합은 단독으로 시뮬레이티드 어닐링을 사용하는 것보다 의미 해석 성능 향상에 크게 기여하였다.
• 결과는 LDOCE와 같은 어휘 기반 의미 목록과 다수의 독립적인 언어 신호를 통합함으로써 더 신뢰성 있고 정확한 의미 태깅이 가능하다는 것을 시사한다.
• 성능 향상은 임의의 의미 클러스터보다 더 정밀한 의미 범주를 제공하는 LDOCE의 구조화되고 도메인 기반의 의미 구분 덕분으로 기인한다.
• 작은 테스트 크기에도 불구하고, 결과는 모듈화되고 지식 기반의 시스템이 의미 태깅 문제를 효과적으로 해결할 수 있다는 가설을 지지한다.