[논문 리뷰] Extracting Noun Phrases from Large-Scale Texts: A Hybrid Approach and Its Automatic Evaluation

Kuang‐Hua Chen, Hsin‐Hsi Chen|ArXiv.org|1994. 06. 01.

Natural Language Processing Techniques참고 문헌 7인용 수 11

한 줄 요약

이 논문은 대규모 텍스트에서 명사구를 추출하기 위한 하이브리드 접근법을 제시한다. 문법 규칙에 따라 유한 상태 기계를 이용해 명사구를 추출하는 데 지도되는 확률적 토크너를 사용하여 구성요소 경계를 식별하고, 이를 바탕으로 하여 추출을 수행한다. SUSANNE 코퍼스에서 평가한 결과, 통계적 기법과 규칙 기반 기법을 통합하는 것이 효과적임을 입증하며, 완전 자동 평가 프레임워크에서 명사구 추출에 있어 유의미한 성능을 보였다.

ABSTRACT

To acquire noun phrases from running texts is useful for many applications, such as word grouping,terminology indexing, etc. The reported literatures adopt pure probabilistic approach, or pure rule-based noun phrases grammar to tackle this problem. In this paper, we apply a probabilistic chunker to deciding the implicit boundaries of constituents and utilize the linguistic knowledge to extract the noun phrases by a finite state mechanism. The test texts are SUSANNE Corpus and the results are evaluated by comparing the parse field of SUSANNE Corpus automatically. The results of this preliminary experiment are encouraging.

연구 동기 및 목표

• 대규모 연속 텍스트에서 명사구를 효과적으로 추출하는 방법을 개발하기 위해.
• 순수하게 확률적 또는 규칙 기반 접근법의 한계를 보완하기 위해 그들의 강점을 융합하기 위해.
• 언어 지식과 통계적 경계 탐지 기법을 활용하여 정확도를 향상시키는 시스템을 설계하기 위해.
• SUSANNE 코퍼스의 파서 필드를 골드 표준으로 사용하여 접근법을 완전 자동으로 평가하기 위해.
• 하이브리드 아키텍처가 명사구 추출에 있어 실현 가능하고 효과적인가를 입증하기 위해.

제안 방법

• 연속 텍스트 내 문법적 구성요소의 암묵적 경계를 결정하기 위해 확률적 토크너를 사용한다.
• 언어학적 규칙을 유한 상태 기계에 코딩하여 토크닝 결과에서 명사구를 식별하고 추출한다.
• 통계적 경계 탐지와 규칙 기반 어구 식별을 통합하여 정밀도를 향상시킨다.
• 이 방법은 대규모로 수작업으로 주석이 달린 텍스트 컬렉션인 SUSANNE 코퍼스에 적용된다.
• 평가 과정은 시스템의 출력을 직접적으로 SUSANNE 코퍼스의 파서 필드와 비교하여 수행된다.
• 수작업 주석 없이도 완전 자동 평가가 가능하도록 한다.

실험 결과

연구 질문

• RQ1 확률적 토크닝과 규칙 기반 파싱을 융합한 하이브리드 접근법이 명사구 추출 정확도를 향상시킬 수 있는가?
• RQ2 언어학적 지식과 통계적 경계 탐지의 통합이 추출 성능에 어떤 영향을 미치는가?
• RQ3 SUSANNE 코퍼스의 파서 필드를 사용한 자동 평가가 시스템 출력을 얼마나 신뢰할 수 있는 기준으로 삼을 수 있는가?
• RQ4 제안된 방법이 순수하게 확률적 또는 순수하게 규칙 기반 접근법보다 명사구 추출에서 뛰어난 성능을 보일 수 있는가?
• RQ5 대규모 텍스트 코퍼스에 적용했을 때 이 하이브리드 시스템은 얼마나 강건하고 효과적인가?

주요 결과

• 하이브리드 접근법은 명사구 추출에 있어 확률적 토크닝과 규칙 기반 파싱의 장점을 성공적으로 융합하였다.
• SUSANNE 코퍼스에서의 초도 평가에서 시스템은 유망한 결과를 도출하였다.
• SUSANNE 코퍼스의 파서 필드를 사용한 자동 평가가 성능 평가를 위한 신뢰할 수 있는 기준이 되었다.
• 언어학적 지식의 통합은 단순히 확률 모델만으로는 달성할 수 없는 정밀도 향상에 기여하였다.
• 결과적으로 하이브리드 시스템은 단일한 확률적 또는 규칙 기반 접근법에 비해 실현 가능하고 효과적인 대안임을 시사한다.
• 최소한의 수작업 간섭으로 대규모 명사구 추출이 가능함을 입증하였다.