[논문 리뷰] An Efficient Implementation of the Head-Corner Parser

Gertjan van Noord|University of Groningen research database (University of Groningen / Centre for Information Technology)|1997. 01. 17.

Natural Language Processing Techniques참고 문헌 30인용 수 74

한 줄 요약

이 논문은 제약 기반 문법을 위한 효율적이고 메모이제이션된 헤드코너 파서를 제안하며, 목표 약화 기법을 통해 기존 차트 파서에 비해 속도와 메모리 효율성을 크게 향상시킨다. 실험 결과, 복잡한 문법에서 특히 어휘적 모호성이 낮을 경우, 왼쪽코너 및 하향식 차트 파서를 모두 능가하며, OVIS 시스템에서 복잡하고 모호한 네덜란드어 대화 문장을 처리하는 데 있어 뛰어난 성능을 보여준다.

ABSTRACT

This paper describes an efficient and robust implementation of a bi-directional, head-driven parser for constraint-based grammars. This parser is developed for the OVIS system: a Dutch spoken dialogue system in which information about public transport can be obtained by telephone. After a review of the motivation for head-driven parsing strategies, and head-corner parsing in particular, a non-deterministic version of the head-corner parser is presented. A memoization technique is applied to obtain a fast parser. A goal-weakening technique is introduced which greatly improves average case efficiency, both in terms of speed and space requirements. I argue in favor of such a memoization strategy with goal-weakening in comparison with ordinary chart-parsers because such a strategy can be applied selectively and therefore enormously reduces the space requirements of the parser, while no practical loss in time-efficiency is observed. On the contrary, experiments are described in which head-corner and left-corner parsers implemented with selective memoization and goal weakening outperform `standard' chart parsers. The experiments include the grammar of the OVIS system and the Alvey NL Tools grammar. Head-corner parsing is a mix of bottom-up and top-down processing. Certain approaches towards robust parsing require purely bottom-up processing. Therefore, it seems that head-corner parsing is unsuitable for such robust parsing techniques. However, it is shown how underspecification (which arises very naturally in a logic programming environment) can be used in the head-corner parser to allow such robust parsing techniques. A particular robust parsing model is described which is implemented in OVIS.

연구 동기 및 목표

• 말하기 대화 시스템에서 사용되는 제약 기반 문법을 위한 빠르고 메모리 효율적인 파서를 개발하기 위해.
• 표준 차트 파서가 모호성과 중복된 규칙 적용을 다룰 때 나타나는 비효율성 문제를 해결하기 위해.
• 선택적 메모이제이션과 목표 약화 기법을 통해 파싱 성능을 향상시키기 위해.
• 실제로 존재하는, 모호한 네덜란드어 문법(_ovis_ 시스템에서 유래)을 대상으로 파서의 강건성과 효율성을 평가하기 위해.
• 헤드코너 파싱이 부족한 정보가 있는, 논리 프로그래밍 환경에서 강건한 파싱을 지원할 수 있는지 탐구하기 위해.

제안 방법

• 헤드를 먼저 식별한 후 그 종속어들을 파싱하는 방식으로 상향식과 하향식 처리를 융합한 비결정적 헤드코너 파서를 설계하였다.
• 해당 파싱 상태 중 관련 있는 것들만 캐시하는 선택적 메모이제이션을 적용하여 공간 사용량을 줄였으며, 속도 손실 없이도 가능했다.
• 비효율적인 파싱 경로를 조기에 잘라내기 위해 목표 약화 기법을 도입하여 평균적인 효율성을 향상시켰다.
• 불확실성 하에서 강건한 파싱을 가능하게 하기 위해, 불확실성 표현을 자연스럽게 구현할 수 있는 논리 프로그래밍 환경(Prolog)을 사용하였다.
• 두 가지 문법을 대상으로 구현을 테스트하였다: MiMo2 문법(네덜란드어 대화)과 Alvey NL Tools 문법(복잡하고 모호한 문법).
• 파싱 결과로는 전체 파싱 트리 구축 및 메모리 사용량 메트릭이 포함되었으며, 표준 왼쪽코너 및 하향식 차트 파서와의 비교 분석이 이루어졌다.

실험 결과

연구 질문

• RQ1 선택적 메모이제이션과 목표 약화 기법을 적용한 헤드코너 파서는 속도와 메모리 효율성 측면에서 표준 차트 파서를 능가할 수 있는가?
• RQ2 헤드코너 파서는 높은 어휘적 모호성 상황에서 어떻게 대응하는가? 하향식 접근 방식보다 더 잘 스케일링되는가?
• RQ3 논리 프로그래밍 환경에서의 불확실성 표현이 헤드코너 파싱에서 강건한 파싱을 얼마나 잘 지원하는가?
• RQ4 헤드코너 파서가 Alvey NL Tools 문법에서는 MiMo2 문법보다 성능이 열 劣하는 이유는 무엇인가?
• RQ5 목표 약화와 선택적 메모이제이션으로 얻는 성능 향상은 다양한 문법적 구조와 문장 복잡도에서 일관되게 유지되는가?

주요 결과

• 선택적 메모이제이션과 목표 약화 기법을 적용한 헤드코너 파서는 100개 문장으로 구성된 테스트 세트(MiMo2 문법)에서 문장당 195.9ms의 성능을 기록하여, 왼쪽코너 파서(216.2ms)를 능가했으며, 하향식 차트 파서보다도 뚜렷한 성능 우위를 보였다.
• 하향식 활성 차트 파서는 매우 모호한 문장에서 메모리 한계에 도달하여 65,000 KB를 초과했으나, 헤드코너 파서는 단지 10,955 KB만을 사용하였다.
• Alvey NL Tools 문법에서는 헤드코너 파서가 왼쪽코너 파서보다 느렸으며, 이는 너무 많은 어휘적 항목이 헤드로 사용될 수 있어 비결정성이 증가했기 때문에, 이 기법의 유용성이 제한됨을 시사한다.
• 파서 성능은 단어 문자열보다는 단어 그래프에서 열 劣한 것으로 나타났으며, 이는 어휘적 모호성이 증가함에 따라(예: 단어 그래프에서) 헤드코너 파싱의 효율성이 떨어짐을 의미한다.
• 목표 약화 기법은 불필요한 탐색 경로를 줄여 시간과 공간 효율성을 향상시켰으며, 실질적인 파싱 시나리오에서는 완전성 손실 없이도 성능 향상을 이끌어냈다.
• 결과적으로, 표준 차트 파싱보다 선택적 메모이제이션과 목표 약화 기법이 더 효과적임을 확인하였으며, 특히 낮은 모호성과 헤드 중심의 문법 환경에서 뛰어난 성능을 발휘한다.