[論文レビュー] Prague Dependency Treebank -- Consolidated 1.0

Jan Hajič, Eduard Bejček+5 more|arXiv (Cornell University)|Jun 5, 2020

Natural Language Processing Techniques被引用数 9

ひとこと要約

プラハ依存木構造語彙集 - 統合版 1.0 (PDT-C 1.0) は、書記体、翻訳、話者発話、ユーザ生成テキストの4つの多様なジャンルにまたがる18万語のチェコ語文を統合的に手動でアノテートした、一貫性のある形態素、表層、深層構文的アノテーションを備えた統合的で手動でアノテートされた語彙集です。この統合的で自由に利用可能なリソースは、ジャンルに多様なデータにおける標準化された高品質なマルチレイヤーのアノテーションを通じて、自然言語処理および言語学的研究を強化します。

ABSTRACT

We present a richly annotated and genre-diversified language resource, the Prague Dependency Treebank-Consolidated 1.0 (PDT-C 1.0), the purpose of which is - as it always been the case for the family of the Prague Dependency Treebanks - to serve both as a training data for various types of NLP tasks as well as for linguistically-oriented research. PDT-C 1.0 contains four different datasets of Czech, uniformly annotated using the standard PDT scheme (albeit not everything is annotated manually, as we describe in detail here). The texts come from different sources: daily newspaper articles, Czech translation of the Wall Street Journal, transcribed dialogs and a small amount of user-generated, short, often non-standard language segments typed into a web translator. Altogether, the treebank contains around 180,000 sentences with their morphological, surface and deep syntactic annotation. The diversity of the texts and annotations should serve well the NLP applications as well as it is an invaluable resource for linguistic research, including comparative studies regarding texts of different genres. The corpus is publicly and freely available.

研究の動機と目的

• 4つの異なるチェコ語依存木構造語彙集を、1つの統合的で一貫性のあるアノテーション済みリソースに統合すること。
• すべてのデータセットにわたる形態素および深層構文的アノテーションの品質と一貫性を向上させること。
• 自然言語処理システムの学習および評価、および言語学的研究のための自由に利用可能なジャンルに多様な言語リソースを提供すること。
• 元の語彙集におけるアノテーションの誤りを是正し、特に形態素および価値関係（valency）の分野で標準化すること。
• 共通のアノテーションフレームワークを通じて、テキストジャンル間の比較言語学的研究を支援すること。

提案手法

• 書記体、翻訳、話者発話、ユーザ生成チェコ語テキストの4つの既存のPDTスタイル語彙集を、1つの統合データセットに統合すること。
• すべての4つのデータセットにおいて、形態素層（語彙素化と品詞タグ付け）を完全に手動でアノテートすること。
• すべてのデータセットにおいて、構造、機能、および動詞の価値関係（valency）を含む、コアな深層構文的特徴を手動でアノテートすること。
• 統一された価値関係語彙集と更新された形態素辞書を作成し、語彙集全体で一貫して使用できるようにすること。
• アノテーションスキームの標準化と、手動による再アノテート中に特定された誤りの是正。
• LINDAT/CLARINリポジトリを通じて、公開され、オープンアクセスのデジタルリソースとして語彙集を発行すること。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、多様なジャンルにまたがる、異なるチェコ語依存木構造語彙集を、1つの一貫性のあるアノテーション済みリソースに統合できるか？
• RQ2 手動による再アノテートは、既存の語彙集における形態素および深層構文的アノテーションの品質と一貫性をどの程度向上させるか？
• RQ3 統合的でマルチレイヤーの語彙集は、自然言語処理の応用およびジャンルを越えた言語学的研究の両方を効果的に支援できるか？
• RQ4 形態素および深層構文的レイヤーの完全な手動再アノテートによって、どの程度アノテーションの品質と信頼性が向上するか？
• RQ5 ユーザ生成および話者発話の言語データの統合は、依存木構造語彙集の代表性および有用性にどのように影響を与えるか？

主な発見

• PDT-C 1.0 には、書記体、翻訳、話者発話、ユーザ生成テキストという4つの明確に異なるジャンルにまたがる、約18万文の均一にアノテートされた文が含まれている。
• 形態素層は、すべてのデータセットで完全に手動で再アノテートされ、正確性と一貫性が顕著に向上した。
• 構造、機能、および動詞の価値関係（valency）を含む深層構文的特徴は、すべての4つのデータセットで手動でアノテートされ、高品質な意味的および構文的表現が保証された。
• 共通の価値関係語彙集と更新された形態素辞書が作成され、語彙集全体で一貫した語彙的意味的分析が可能になった。
• 統合プロセスにより、元の語彙集に存在した多数の誤りが是正され、特に形態素および構文的アノテーション分野で顕著であった。
• 最終的なリソースは、LINDAT/CLARINを通じて公開されており、自然言語処理および言語学的研究のための広範なアクセス性を確保している。