[論文レビュー] A Corpus for Automatic Readability Assessment and Text Simplification of German

Alessia Battisti, Sarah Ebling|arXiv (Cornell University)|Sep 19, 2019

Text Readability and Simplification被引用数 9

ひとこと要約

本論文は、テキスト構造、タイプセット、画像に関するメタデータで独自に豊かにされた、約211,000文の大型ドイツ語コーパスを紹介する。このコーパスは、文の数、フォントタイプ、画像配置といった言語的でない特徴を活用できるように機械学習モデルを支援し、実証的にこれらの要素がテキストの複雑さを予測できることを示しており、アクセシビリティ分野における多言語NLPにおける画期的な貢献である。

ABSTRACT

In this paper, we present a corpus for use in automatic readability assessment and automatic text simplification of German. The corpus is compiled from web sources and consists of approximately 211,000 sentences. As a novel contribution, it contains information on text structure, typography, and images, which can be exploited as part of machine learning approaches to readability assessment and text simplification. The focus of this publication is on representing such information as an extension to an existing corpus standard.

研究の動機と目的

• 自動読みやすさ評価およびテキスト簡略化のためのドイツ語リソースの不足に対処すること。
• これまで機械学習モデルであまり活用されていなかった、テキスト構造、タイプセット、画像情報といった非言語的特徴を統合したコーパスの開発。
• 再現可能な研究を可能にするために、TCF形式で標準化され、アノテートされたドイツ語NLP用のコーパスを提供すること。
• 構造的および視覚的特徴がテキスト複雑さを予測する力を持つことを実証的に検証すること。
• 将来的な神経機械翻訳ベースのドイツ語テキスト簡略化システムの開発を支援すること。

提案手法

• コーパスは、単一言語のドイツ語テキストおよび並列の簡略化ドイツ語ドキュメントを含むウェブソースから収集された。
• テキスト構造メタデータ（段落、行、文の区切り）は、ドキュメントレイアウト解析とパースィングヒューリスティクスを用いて抽出された。
• タイプセット特徴（フォント名、スタイル、サイズ、太さ、埋め込み状態）は、PDFおよびHTMLソースから抽出された。
• 画像メタデータ（位置、寸法、内容）は、レイアウトおよびOCR解析ツールを用いてアノテートされた。
• 言語的アノテーション（品詞、語形、依存構造解析、活用形）は、ParZu、TreeTagger、ZmorgeなどのNLPツールを用いて自動生成された。
• すべてのデータは、相互運用性および拡張性を考慮して、TCF（Text Corpus Format）標準でエンコードされた。

実験結果

リサーチクエスチョン

• RQ1 テキスト構造、タイプセット、画像配置といった非言語的特徴が、ドイツ語においてテキストの複雑さを予測できるか？
• RQ2 段落数、フォント太さ、画像密度といった特徴が、ドイツ語テキストの読みやすさレベルとどの程度相関しているか？
• RQ3 構造的および視覚的特徴を組み込むことで、言語的特徴のみを用いる場合と比較して、読みやすさ評価のための機械学習モデルの性能がどの程度向上するか？
• RQ4 このコーパスは、ドイツ語テキスト簡略化のための神経機械翻訳システムの開発を支援できるか？
• RQ5 このコーパスには複数の明確に区別できる簡略化レベルが存在するか、そして構造的メタデータを用いてそれらを検出できるか？

主な発見

• コーパスには6,217件のドキュメントが含まれ、210,966文、250万トークンが含まれており、378組の並列単語ドイツ語／簡略化ドイツ語ドキュメントが含まれる。
• コーパス内の簡略化ドイツ語テキストは語彙サイズが51％削減されており（33,384語 vs. 16,352語）、他の簡略化コーパスと同等の削減率を示している。
• 非教師あり学習を用いた実証的検証により、画像数、段落数、行数、フォント固有の語数といった構造的特徴がテキスト難易度レベルを予測できることを確認した。
• レイアウトおよび視覚的メタデータの組み込みにより、従来の言語的特徴を超える読みやすさモデリングのための新たな信号が得られた。
• このコーパスは、将来的な神経機械翻訳を用いたテキスト簡略化の研究を支援するが、現在は文のアラインメントが欠落しており、CATSツールを用いて後で追加される予定である。
• 本研究は、レイアウトおよび視覚的特徴がドイツ語においてテキスト複雑さを予測可能であるという実証的証拠を初めて提供しており、アクセシビリティ研究における理論的主張を裏付けた。