[論文レビュー] Sentence segmentation for classical Chinese based on LSTM with radical embedding

Xu Han, Hongsu Wang+3 more|arXiv (Cornell University)|Apr 30, 2019

Natural Language Processing Techniques参考文献 9被引用数 5

ひとこと要約

本稿では、古典中国語テキストにおける文分割のための新たなLSTM-CRFモデルを提案する。このモデルは、漢字の部首特徴を統合することで、特に唐時代の碑文において優れた精度を達成し、3つの王朝にまたがる150部の前近代中国書籍からなる多様なデータセットにおいて、先行手法を上回る性能を示した。

ABSTRACT

In this paper, we develop a low than character feature embedding called radical embedding, and apply it on LSTM model for sentence segmentation of pre modern Chinese texts. The datasets includes over 150 classical Chinese books from 3 different dynasties and contains different literary styles. LSTM CRF model is a state of art method for the sequence labeling problem. Our new model adds a component of radical embedding, which leads to improved performances. Experimental results based on the aforementioned Chinese books demonstrates a better accuracy than earlier methods on sentence segmentation, especial in Tang Epitaph texts.

研究の動機と目的

• 文体が異なる前近代中国語テキストにおける文分割の課題に取り組む。
• 自然言語処理タスクにおける低レベルの文字表現としての部首レベル特徴の有効性を検討する。
• 序列ラベル付けフレームワークに部首埋め込みを統合することで、文分割の精度を向上させる。
• 3つの中国王朝にわたる多様で大規模なデータセット上でモデルを評価する。

提案手法

• 漢字の形態的構造を捉える文字レベル特徴表現としての部首埋め込みを提案する。
• LSTM-CRFモデルの入力特徴として部首埋め込みを統合し、序列ラベル付けに応用する。
• 唐代、宋代、元代にまたがる150部以上の古典中国語書籍から成るデータセットを用いる。
• 序列ラベル付けの最先端手法であるLSTM-CRFアーキテクチャに、部首特徴を追加して強化する。
• 文分割タスクをエンドツーエンドで学習し、部首からの文脈的・構造的情報を活用する。
• CRF層を用いてトークン間のラベル依存関係をモデル化する共同学習アプローチを採用する。

実験結果

リサーチクエスチョン

• RQ1 標準的な文字レベル埋め込みと比較して、部首埋め込みは古典中国語テキストの文分割性能を向上させるか？
• RQ2 提案されたモデルは、古典中国語の異なる文体や時代ごとの文書において、どのように性能を発揮するか？
• RQ3 部首レベルの特徴の統合は、構文的・表記的に複雑なケース（例：唐時代の碑文）の文分割能力を向上させるか？
• RQ4 大規模で多様な前近代中国語テキストデータセットにおいて、モデルは既存手法をどの程度上回るか？

主な発見

• 提案モデルは、古典中国語テキストの文分割において、以前の手法よりも高い精度を達成した。
• 特に、構文的・表記的に複雑なことで知られる唐時代の碑文において、顕著な高い性能を示した。
• 部首埋め込みは意味のある言語的情報を提供し、文境界を識別するモデルの能力を向上させた。
• LSTM-CRFフレームワークへの部首特徴の統合により、データセット全体で測定可能な性能向上が得られた。