[論文レビュー] A Chinese Dataset with Negative Full Forms for General Abbreviation Prediction

Yi Zhang, Xu Sun|arXiv (Cornell University)|Dec 18, 2017

Natural Language Processing Techniques参考文献 19被引用数 4

ひとこと要約

本稿は、有効な省略語が存在しない語（NFFs）を含む、中国語一般省略語予測のための新規データセットを紹介している。これは、既存のコーパスにおいて深刻な欠落が生じている分野を補完するものである。このデータセットは信頼できるNLPリソースに基づき構築され、語の区切りと品詞タグの付与を含む前処理が施されており、CRF、MEMM、パーセプトロン、双方向LSTMなどのモデルの学習および評価を可能にしている。特に、双方向LSTMが、正解率およびNFF識別タスクの両方で最高の性能を示した。

ABSTRACT

Abbreviation is a common phenomenon across languages, especially in Chinese. In most cases, if an expression can be abbreviated, its abbreviation is used more often than its fully expanded forms, since people tend to convey information in a most concise way. For various language processing tasks, abbreviation is an obstacle to improving the performance, as the textual form of an abbreviation does not express useful information, unless it's expanded to the full form. Abbreviation prediction means associating the fully expanded forms with their abbreviations. However, due to the deficiency in the abbreviation corpora, such a task is limited in current studies, especially considering general abbreviation prediction should also include those full form expressions that do not have valid abbreviations, namely the negative full forms (NFFs). Corpora incorporating negative full forms for general abbreviation prediction are few in number. In order to promote the research in this area, we build a dataset for general Chinese abbreviation prediction, which needs a few preprocessing steps, and evaluate several different models on the built dataset. The dataset is available at https://github.com/lancopku/Chinese-abbreviation-dataset

研究の動機と目的

• 中国語の省略語予測において、実世界のテキストに一般的に見られるが、既存のコーパスで不足している負の完全形（NFFs）を含むデータセットの欠落を是正すること。
• 有効な省略語を持つ語と持たない語の両方を含む包括的かつ信頼性の高い中国語完全形データセットを構築し、一般省略語予測研究を支援すること。
• CRF、MEMM、平均化パーセプトロン、および双方向LSTMを含む複数の機械学習モデルを、この新規データセット上で評価し、正の完全形および負の完全形予測の両方における性能を評価すること。
• 特に、双方向LSTMを含むニューラルネットワークが、一般省略語予測の複雑さ、特にNFFの識別を含めて、従来のモデルを上回ることを示すこと。

提案手法

• データセットは、人民日報など確立された中国語NLPコーパスから構築され、有効な省略語を持つ完全形（正例）と、有効な省略語を持たない完全形（負例）の両方を含む。
• 前処理として、語の区切りと品詞（POS）タグの付与が行われ、モデル入力のための言語的特徴が提供される。
• 完全形の各文字に対して、区切りタグと品詞タグが割り当てられ、これらは20次元のベクトルに埋め込まれ、50次元の文字埋め込みと連結され、系列モデルの入力として構成される。
• 双方向LSTM（BLSTM）は、過去と未来の文脈を捉えるために用いられ、隠れ層サイズは200（前向き100、後向き100）であり、条件付きラベル付け機構を通じて省略語の文字を予測する。
• CRFモデルは系列ラベリングのベースラインとして用いられ、グローバルな特徴依存関係を活用する。一方、MEMMと平均化パーセプトロンは、比較のための従来の判別モデルとして使用される。
• モデル評価には2つの指標が用いられる：全一致正解率（予測された省略語を正解基準と比較）と、文字単位正解率（各文字の予測正解率）。

実験結果

リサーチクエスチョン

• RQ1 負の完全形（NFFs）を含む大規模な中国語データセットが、一般省略語予測モデルの性能向上に寄与するか？
• RQ2 従来の系列モデル（CRF、MEMM、平均化パーセプトロン）と深層学習モデル（BLSTM）とを比較した場合、特にNFFの識別において、どちらが優れているか？
• RQ3 品詞情報および区切り情報の統合が、省略語予測性能にどの程度向上効果をもたらすか？
• RQ4 双方向LSTMが、中国語における不規則な省略語パターンを扱うにあたり、文脈的依存関係を捉える能力において、他のモデルを上回るか？

主な発見

• 双方向LSTMモデルが、全一致正解率および文字単位正解率の両方で、CRF、MEMM、平均化パーセプトロンを上回る最高の全体的性能を達成した。
• CRFモデルは特に文字単位正解率で優れた性能を示し、省略語予測における系列的依存関係のモデル化効果を示している。
• 単純なヒューリスティックベースライン（各語の最初の文字を使用）は、性能が低く、中国語の不規則な省略語パターンを扱うにあたり、洗練されたモデルの必要性を浮き彫りにしている。
• 負の完全形（NFFs）の導入により、タスクの難易度が顕著に上昇しており、特に正の完全形とNFFの識別において、すべてのモデルで性能が低下していることが示された。
• データセットは https://github.com/lancopku/Chinese-abbreviation-dataset で公開されており、NFFsを含む中国語省略語予測分野における今後の研究の貴重なベンチマークを提供する。