[論文レビュー] Using Inverse lambda and Generalization to Translate English to Formal Languages

Chitta Baral, Juraj Dzifcak+2 more|arXiv (Cornell University)|Aug 18, 2011

Natural Language Processing Techniques参考文献 12被引用数 11

ひとこと要約

本論文は、逆ラムダ記法と一般化技術を用いて、英語文を形式的言語表現に翻訳する新しいシステムを提示する。CCG解析器とラムダ記法による意味的合成を活用することで、文法構造と既知の意味的表現から語の意味を学習し、手作業で作成された意味規則を必要とせずに、ロボット命令およびデータベースクエリのコーパスにおいて高い正確性を達成する。

ABSTRACT

We present a system to translate natural language sentences to formulas in a formal or a knowledge representation language. Our system uses two inverse lambda-calculus operators and using them can take as input the semantic representation of some words, phrases and sentences and from that derive the semantic representation of other words and phrases. Our inverse lambda operator works on many formal languages including first order logic, database query languages and answer set programming. Our system uses a syntactic combinatorial categorial parser to parse natural language sentences and also to construct the semantic meaning of the sentences as directed by their parsing. The same parser is used for both. In addition to the inverse lambda-calculus operators, our system uses a notion of generalization to learn semantic representation of words from the semantic representation of other words that are of the same category. Together with this, we use an existing statistical learning approach to assign weights to deal with multiple meanings of words. Our system produces improved results on standard corpora on natural language interfaces for robot command and control and database queries.

研究の動機と目的

• 自然言語から形式的知識表現（KR）言語への翻訳のための一般化された手法を開発すること。
• 逆ラムダ記法を用いて文法解析から意味的表現を導出することで、手作業で作成された意味的合成規則の必要性を排除すること。
• 一般化と複数の語の意味に対する統計的重み付けを用いて、意味語彙の学習を向上させること。
• 言語固有のチューニングを必要とせず、一階論理、ASP、データベースクエリ言語などの多様な形式的言語に翻訳を可能とすること。
• 最小限の初期語彙エントリとスケーラブルな訓練データを用いて、高精度な解析と意味的表現を達成すること。

提案手法

• システムは、組み合わせ的カテゴリカル文法（CCG）解析器を用いて文法的解析を実行すると同時に、ラムダ記法による意味的意味を構築する。
• 未知の意味的表現 F を、既知の G と H から F@G = H または G@F = H を満たすように計算する2つの逆ラムダ演算子を導入する。
• 逆ラムダ演算子は、一階論理、データベースクエリ言語、ASP、時系列論理を含む、複数の形式的言語に適用される。
• 一般化技術により、同じ文法的カテゴリに属する他の語からの意味的表現を推定し、大規模なアノテート済み辞書への依存を軽減する。
• 統計的学習により、複数の可能な意味的表現に重みを付与し、尤もらしさに基づいて解析の順序をランク付けする。
• 既知の意味的表現と文法構造を活用して、追加の意味的文法規則なしに、複雑な意味式を導出する。

実験結果

リサーチクエスチョン

• RQ1 逆ラムダ記法を用いて、多様な形式的言語において既知の表現から未知の意味的表現を導出できるか？
• RQ2 同じ文法的カテゴリに属する語の意味的表現を学習する際、一般化技術はどの程度効果的か？
• RQ3 CCG解析器とラムダ記法による合成が、意味解析における手作業で作成された意味規則をどの程度代替できるか？
• RQ4 既存のアプローチと比較して、本システムはロボット命令およびデータベースクエリの標準コーパスでどの程度の性能を発揮するか？
• RQ5 本システムは、答え集合プログラミングや時系列論理などの新しい形式的言語へ一般化できるか？

主な発見

• 本システムは、ロボット命令および制御、データベースクエリの標準コーパスにおいて、既存の手法を上回る性能を発揮し、特に短く構造が類似した文において顕著である。
• 小さな訓練データセットを用いて新聞本文のコーパスを答え集合プログラミングに翻訳した予備のコーパスにおいて、正確度（precision）77%、再現度（recall）82%、F1スコア80%を達成した。
• 文が条件文など、より小さな独立可能な解析可能な単位に分解可能な場合、文の長さにかかわらずシステムは頑健である。
• 訓練データのサイズを増やすことで、まれな文法的カテゴリのカバー範囲が広がるが、全体の性能に与える影響は最小限であり、ほとんどの共通カテゴリは初期段階で学習される。
• システムの性能は、主にテストデータにおける未確認の文法的カテゴリと、意味的表現のランク付けにおける曖昧さに起因しており、一般化能力の不足によるものではない。
• 解析の再ランク付けにより、曖昧な意味的表現に起因する問題を緩和できる可能性があるため、さらなる改善の道筋が示された。