[논문 리뷰] Using Inverse lambda and Generalization to Translate English to Formal Languages

Chitta Baral, Juraj Dzifcak외 2명|arXiv (Cornell University)|2011. 08. 18.

Natural Language Processing Techniques참고 문헌 12인용 수 11

한 줄 요약

이 논문은 역 람다 규칙과 일반화 기법을 사용하여 영어 문장을 형식적 언어 표현으로 번역하는 새로운 시스템을 제시한다. CCG 파서와 람다 규칙를 통한 의미 조합을 활용함으로써, 문법적 구조와 알려진 의미 표현에서 단어의 의미를 학습하며, 수동으로 제작된 의미 규칙이 필요로 하지 않고도 로봇 명령어 및 데이터베이스 쿼리 코퍼스에서 더 높은 정확도를 달성한다.

ABSTRACT

We present a system to translate natural language sentences to formulas in a formal or a knowledge representation language. Our system uses two inverse lambda-calculus operators and using them can take as input the semantic representation of some words, phrases and sentences and from that derive the semantic representation of other words and phrases. Our inverse lambda operator works on many formal languages including first order logic, database query languages and answer set programming. Our system uses a syntactic combinatorial categorial parser to parse natural language sentences and also to construct the semantic meaning of the sentences as directed by their parsing. The same parser is used for both. In addition to the inverse lambda-calculus operators, our system uses a notion of generalization to learn semantic representation of words from the semantic representation of other words that are of the same category. Together with this, we use an existing statistical learning approach to assign weights to deal with multiple meanings of words. Our system produces improved results on standard corpora on natural language interfaces for robot command and control and database queries.

연구 동기 및 목표

• 자연어에서 형식적 지식 표현(KR) 언어로의 번역을 위한 일반적인 방법론을 개발하는 것.
• 역 람다 규칙을 사용하여 문법적 분석에서 의미 표현을 유도함으로써 수동으로 제작된 의미 조합 규칙의 필요성을 제거하는 것.
• 다양한 단어 의미의 일반화 및 통계적 가중치를 통한 의미 어휘 학습을 향상시키는 것.
• 언어별 맞춤 설정 없이도 일阶 논리, ASP, 데이터베이스 쿼리 언어와 같은 다양한 형식적 언어 간의 번역을 가능하게 하는 것.
• 최소한의 초깃의어 항목과 확장 가능한 학습 데이터를 사용하여 높은 정확도의 구문 분석 및 의미 표현을 달성하는 것.

제안 방법

• 시스템은 조합적 카테고리어 문법(CCG) 파서를 사용하여 문법적 분석을 수행하고 동시에 람다 규칙을 통한 의미 의미를 구성한다.
• 알려진 G와 H가 주어졌을 때 F@G = H 또는 G@F = H를 만족하는 알려지지 않은 의미 표현 F를 계산하기 위해 두 개의 역 람다 연산자를 도입한다.
• 역 람다 연산자는 일阶 논리, 데이터베이스 쿼리 언어, ASP, 시간 논리와 같은 다양한 형식적 언어에 걸쳐 적용된다.
• 일반화 기법은 같은 문법적 카테고리에 속하는 다른 단어들로부터 의미 표현을 유추함으로써 대규모 주석 처리된 사전에 대한 의존도를 줄인다.
• 통계적 학습은 다수의 가능한 의미 표현에 가중치를 할당하고 가능성에 기반해 분석 결과를 순위 매긴다.
• 시스템은 알려진 의미 표현과 문법적 구조를 활용하여 추가적인 의미 문법 규칙 없이도 복잡한 의미 공식을 도출한다.

실험 결과

연구 질문

• RQ1 다양한 형식적 언어에서 알려진 의미 표현으로부터 알려지지 않은 의미 표현을 역 람다 규칙을 사용해 도출할 수 있는가?
• RQ2 유사한 문법적 카테고리에 속하는 단어들의 의미 표현을 일반화 기법으로 얼마나 효과적으로 학습할 수 있는가?
• RQ3 CCG 파서와 람다 규칙 조합이 의미 분석에서 수동으로 제작된 의미 규칙을 얼마나 효과적으로 대체할 수 있는가?
• RQ4 기존 접근 방식과 비교해 표준 코퍼스에서 로봇 명령어 및 데이터베이스 쿼리 작업에서 시스템의 성능은 어떠한가?
• RQ5 시스템은 답변 집합 프로그래밍과 시간 논리와 같은 새로운 형식적 언어로 일반화될 수 있는가?

주요 결과

• 시스템은 표준 로봇 명령어 및 제어, 데이터베이스 쿼리 코퍼스에서 기존 방법들을 능가하며, 특히 짧고 문법적 형태가 유사한 문장에서 뛰어난 성능을 보인다.
• 소규모 학습 데이터를 사용해 신문 기사 코퍼스를 답변 집합 프로그래밍으로 번역한 예비 코퍼스에서 정밀도 77%, 재현율 82%, F-측정치 80%의 성능을 달성한다.
• 조건문과 같이 문장이 더 작은 독립적으로 분석 가능한 단위로 분해될 수 있는 경우, 문장 길이에 관계없이 시스템이 강건하게 작동한다.
• 학습 데이터 크기를 늘리면 드물게 나타나는 문법적 카테고리의 커버리지가 향상되지만, 전체 성능에 미치는 영향은 미미하며, 대부분의 일반적인 카테고리는 초기에 학습되기 때문이다.
• 시스템의 성능은 주로 테스트 데이터에서의 미리보지 못한 문법적 카테고리와 의미 표현 순위의 모호성에 의해 제한되며, 일반화 능력 부족 때문은 아니다.
• 분석 결과의 재순위 매김은 의미 표현의 모호성 문제를 완화시킬 수 있으며, 향후 성능 향상의 길을 제시한다.