[논문 리뷰] Statistical Machine Translation by Parsing

I. Dan Melamed, Wei Wang|arXiv (Cornell University)|2004. 07. 01.

Natural Language Processing Techniques인용 수 2

한 줄 요약

이 논문은 전통적인 구문 분석을 문자열 튜플과 다차원 문법을 처리할 수 있도록 확장하여 문법 인식 기반 통계적 기계 번역(SMT)을 가능하게 하는 일반화된 구문 분석 프레임워크를 제안한다. 세 가지 핵심 추상화—동기 구문 분석기(synchronous parsers), 번역기(translators), 동기화기(synchronizers)—를 제안하여 문법적 구조 추론과 정렬을 통합하여, 문법 인식 기반 SMT 시스템을 훈련하고 구현하는 체계적인 방법을 제공한다.

ABSTRACT

Designers of statistical machine translation (SMT) systems have begun trying to exploit tree-structured syntactic information. This article offers a coherent algorithmic framework to facilitate such efforts. Our main contribution is a generalization of the common notion of parsing. In an ordinary parser, the input is a single string, and the grammar ranges over strings. In order to use syntactic information, an SMT system requires generalizations of ordinary parsing algorithms that allow the input to consist of string tuples and/or the grammar to range over string tuples. Three particular generalizations, connected by some trivial glue, are all that is necessary for syntax-aware SMT: • A synchronous parser is an algorithm that can infer the syntactic structure of each component text in a multitext and simultaneously infer the correspondence relation between these structures. • When a parser’s input can have fewer dimensions than the parser’s grammar, it is a translator. • When a parser’s grammar can have fewer dimensions than the parser’s input, it is a synchronizer. This article offers a guided tour of these generalized parsing algorithms. It culminates with a recipe for using generalized parsing algorithms to train and apply a syntax-aware SMT system.

연구 동기 및 목표

• 통계적 기계 번역 시스템에 문법적 구조를 통합하기 위한 통합된 알고리즘 프레임워크의 부재를 해결하기 위해.
• 기존의 구문 분석을 다중 입력 문자열과 다차원 문법을 처리할 수 있도록 일반화하여, 공동의 문법적 분석과 정렬을 가능하게 하기 위해.
• 구문 분석, 번역, 동기화의 역할을 문법 인식 기반 SMT에서 형식화하기 위해 세 가지 일반화된 구문 분석 추상화를 통해 통합하기 위해.
• 제안된 일반화된 구문 분석 알고리즘을 사용하여 문법 인식 기반 SMT 시스템을 훈련하고 적용하는 데 실용적이고 체계적인 방법을 제공하기 위해.

제안 방법

• 다중 텍스트의 문법적 구조와 그 구조적 대응 관계를 동시에 추론하는 동기 구문 분석기를 도입한다.
• 입력의 차원 수가 문법보다 적은 구문 분석기를 번역기로 정의하여, 한 언어에서 다른 언어로의 번역과 함께 문법적 정렬을 가능하게 한다.
• 문법의 차원 수가 입력보다 적은 구문 분석기를 동기화기로 정의하여, 서로 다른 텍스트 차원 간의 구조 정렬을 가능하게 한다.
• 이 세 가지 일반화된 구문 분석 유형이 공통된 이론적 기반과 공유된 알고리즘 원칙을 바탕으로 연결된 통합 프레임워크를 수립한다.
• SMT에 프레임워크를 적용하여 다국어 텍스트 쌍의 정렬된 문법적 구조 위에서 번역을 구문 분석 작업으로 모델링한다.
• 일반화된 구문 분석 프레임워크를 사용하여 문법적 구조를 활용하여 번역 성능을 향상시키는 문법 인식 기반 SMT 시스템을 훈련하고 적용한다.

실험 결과

연구 질문

• RQ1 기존의 구문 분석은 어떻게 다중 텍스트의 공동 문법적 분석과 그들의 구조적 정렬을 지원할 수 있도록 일반화될 수 있는가?
• RQ2 문법 인식 기반 기계 번역에서 구문 분석, 번역, 동기화를 통합하기 위해 필요한 형식적 추상화는 무엇인가?
• RQ3 어떻게 문법이 문자열 튜플을 범위로 삼아 기계 번역에서 다차원 문법적 분석을 지원할 수 있는가?
• RQ4 입력과 문법 간의 차원 불일치가 번역 및 동기화 작업을 정의하는 데 어떤 역할을 하는가?
• RQ5 시스템적인 훈련과 적용이 가능한 문법 인식 기반 SMT 시스템을 구축하기 위해 통합된 구문 분석 프레임워크를 구성할 수 있는가?

주요 결과

• 제안된 프레임워크는 기존의 구문 분석을 문자열 튜플과 다차원 문법을 처리할 수 있도록 일반화하여, 문법 인식 기반 SMT를 가능하게 했다.
• 동기 구문 분석, 번역, 동기화는 명확한 의미적 역할을 가진 단일 알고리즘 프레임워크 아래에서 공식적으로 통합되었다.
• 프레임워크는 일반화된 구문 분석 알고리즘을 사용하여 문법 인식 기반 SMT 시스템을 훈련하고 적용하는 데 체계적인 방법을 제공한다.
• 입력과 문법 간의 차원 불일치 추상화가 구문 분석, 번역, 동기화 작업 간의 명확한 구분을 가능하게 한다.
• 이 방법은 추가적인 특수 조치 없이도 문법적 구조를 통계적 기계 번역에 통합하기 위한 일관되고 확장 가능한 기반을 제공한다.