[論文レビュー] From Word Segmentation to POS Tagging for Vietnamese

Dat Quoc Nguyen, Thanh Vu+3 more|arXiv (Cornell University)|Nov 14, 2017

Natural Language Processing Techniques被引用数 9

ひとこと要約

本稿は、語彙分割が提供されない状況下でのベトナム語品詞（POS）タギングにおいて、パイプライン戦略とジョイント戦略を実験的に比較し、特徴ベースのモデルとニューラルネットワークモデルの両方を用いて検証している。結果として、パイプライン戦略がジョイントアプローチを上回り、限定的な学習データにもかかわらず、伝統的な特徴ベースのモデル（MarMoT）が最も高い正確性を示し、ニューラルネットワークを上回った。

ABSTRACT

This paper presents an empirical comparison of two strategies for Vietnamese Part-of-Speech (POS) tagging from unsegmented text: (i) a pipeline strategy where we consider the output of a word segmenter as the input of a POS tagger, and (ii) a joint strategy where we predict a combined segmentation and POS tag for each syllable. We also make a comparison between state-of-the-art (SOTA) feature-based and neural network-based models. On the benchmark Vietnamese treebank (Nguyen et al., 2009), experimental results show that the pipeline strategy produces better scores of POS tagging from unsegmented text than the joint strategy, and the highest accuracy is obtained by using a feature-based model.

研究の動機と目的

• 語彙分割が提供されない状況下で、パイプライン戦略とジョイント戦略の両方がベトナム語POSタギングに与える有効性を評価すること。
• 最新の特徴ベースモデル（例：MarMoT）とニューラルネットワークベースのモデル（例：BiLSTM-CRF）を、ベトナム語POSタギングにおいて比較すること。
• 学習データ量と言語的特徴が、ベトナム語のような低リソース環境におけるモデル性能に与える影響を評価すること。
• 正確性と速度のトレードオフに基づき、実用的なベトナム語NLPシステムへの推奨事項を提示すること。

提案手法

• パイプライン戦略は、まず語彙分割器（例：RDRsegmenter）を用いて非分割のベトナム語テキストを分割し、その後で得られた語にPOSタガーを適用する。
• ジョイント戦略は、各音節に対して統合された分割とPOSタグを予測し、B-N（語の開始、名詞）やI-N（語内、名詞）のようなラベルを用いる。
• 5つのモデルが評価された：RDRPOSTagger、MarMoT、および文字レベルのCNNとLSTMエンコーダーを備えた3種類のBiLSTM-CRFバリエーション。
• ハイパーパramータは開発セットにおける早期停止を用いて調整され、最適な設定は2層のBiLSTMと100〜250ユニットのLSTMユニットで得られた。
• 語彙分割とPOSタギングの両方のF1スコアが計算され、POSタギングの正確性のベースラインとして真値分割が使用された。
• 本研究では、ベンチマーク用のベトナム語ツリー・バンク（Nguyen et al., 2009）が使用され、学習に27,000文が使用され、標準的なテスト分割が採用された。

実験結果

リサーチクエスチョン

• RQ1 語彙分割が提供されない状況下でのベトナム語POSタギングにおいて、パイプライン戦略がジョイント戦略を上回る正確性を示すか？
• RQ2 限定的な学習データ下で、伝統的な特徴ベースのモデルがニューラルネットワークベースのモデルを上回るか？
• RQ3 真値分割ではなく予測された語彙分割を使用した場合、POSタギングの性能はどの程度低下するか？
• RQ4 文字レベルの埋め込みを用いたベトナム語POSタギングにおけるBiLSTM-CRFモデルの最適な構成は何か？
• RQ5 実用的なベトナム語NLPアプリケーションにおいて、正確性と推論速度の両立を最もよく果たすモデルは何か？

主な発見

• パイプライン戦略は、語彙分割とPOSタギングの両方で、ジョイント戦略よりも顕著に高いF1スコアを達成し、平均してPOSタギングF1で4.2%の向上を示した。
• 真値分割が利用可能な状況で、MarMoT特徴ベースモデルが95.88%の最高のPOSタギング正確性を達成し、すべてのニューラルネットワークモデルを上回った。
• 文字レベルのLSTM埋め込みを用いたBiLSTM-CRFモデルは95.31%の正確性を達成したが、依然としてMarMoTを下回った。これは、このデータセットではニューラルモデルが特徴ベースモデルを上回らなかったことを示している。
• 予測された分割を使用した場合、すべてのモデルでPOSタギング正確性が約2%低下したが、パイプライン戦略はジョイント戦略よりもより頑健であった。
• RDRPOSTaggerは1秒間に18万語の処理速度で最も速く、MarMoTは高精度を求めるアプリケーションにおいて正確性と速度のバランスが最良であった。
• 本研究では、特徴ベースモデルに言語的特徴を組み込むことで、現在のベトナム語NLPにおけるデータ不足を補うために性能向上がさらに可能であることが判明した。