[論文レビュー] An Open-Source Dataset and A Multi-Task Model for Malay Named Entity Recognition

Yingwen Fu, Nankai Lin+2 more|arXiv (Cornell University)|Sep 3, 2021

Topic Modeling参考文献 24被引用数 5

ひとこと要約

本稿では、相同言語データと反復最適化を活用するフレームワークを用いて構築された、28,991文および384,000トークンを超える大規模なオープンソース・マレー語名前エンティティ認識（NER）データセットであるMYNERを紹介する。さらに、境界検出のためのバイディレクショナル・リビジョン機構とゲート付き無視機構を備えたマルチタスク学習モデルを提案し、MYNER上で最先端の性能を達成し、低リソース言語向けNLPのベンチマークを確立した。

ABSTRACT

Named entity recognition (NER) is a fundamental task of natural language processing (NLP). However, most state-of-the-art research is mainly oriented to high-resource languages such as English and has not been widely applied to low-resource languages. In Malay language, relevant NER resources are limited. In this work, we propose a dataset construction framework, which is based on labeled datasets of homologous languages and iterative optimization, to build a Malay NER dataset (MYNER) comprising 28,991 sentences (over 384 thousand tokens). Additionally, to better integrate boundary information for NER, we propose a multi-task (MT) model with a bidirectional revision (Bi-revision) mechanism for Malay NER task. Specifically, an auxiliary task, boundary detection, is introduced to improve NER training in both explicit and implicit ways. Furthermore, a gated ignoring mechanism is proposed to conduct conditional label transfer and alleviate error propagation by the auxiliary task. Experimental results demonstrate that our model achieves comparable results over baselines on MYNER. The dataset and the model in this paper would be publicly released as a benchmark dataset.

研究の動機と目的

• マレー語のような低リソース言語向けに、高品質で大規模なNERリソースが不足している問題に対処すること。
• 低リソース環境下でも高品質なNERデータセットを構築できるスケーラブルでデータ効率の良いフレームワークを開発すること。
• マルチタスク学習の枠組み内で境界検出を補助タスクとして統合することで、マレー語NERのパフォーマンスを向上させること。
• 条件付きラベル転送機構を用いて、補助タスクからの誤り伝搬を軽減すること。
• 今後のマレー語NLP研究のための公開可能なベンチマークデータセットとモデルを確立すること。

提案手法

• 関連する高リソース言語からのラベル付きデータを活用し、反復的最適化を適用することで、マレー語NERデータセットを精緻化・拡張するフレームワーク。
• 6種類のエンティティタイプでアノテートされた、28,991文および384,000トークンを超える最終的なデータセットであるMYNERの作成。
• NERと境界検出を同時に最適化できるバイディレクショナル・リビジョン（Bi-revision）機構を備えたマルチタスクモデルの設計。
• 境界検出タスクからのラベルを、誤り伝搬を低減するための選択的転送を可能にするゲート付き無視機構の統合。
• 共有エンコーダとタスク固有のヘッドを用いてエンドツーエンドでモデルを訓練し、境界検出タスクが明示的および暗黙的监督を通じてNERを向上。
• 順序依存性をモデル化し、タグ精度を向上させるために、バイディレクショナルLSTMおよびCRF層の使用。

実験結果

リサーチクエスチョン

• RQ1 相同言語リソースと反復的精緻化に基づくデータ構築フレームワークは、マレー語のような低リソース言語向けに高品質で大規模なNERデータセットを生成できるか？
• RQ2 補助タスクとして境界検出を導入することで、マレー語NERモデルのパフォーマンスが向上するか？
• RQ3 ゲート付き無視機構は、マルチタスク学習中の補助境界検出タスクからの誤り伝搬を効果的に低減できるか？
• RQ4 提案されたバイディレクショナル・リビジョンを備えたマルチタスクモデルは、新しく構築されたMYNERデータセット上で強力なベースラインと比較して優れているか？
• RQ5 提案されたモデルとデータセットは、今後のマレー語NLP研究のための実用的ベンチマークとしてどの程度有効であるか？

主な発見

• 提案されたデータ構築フレームワークは、28,991文および384,000トークンを超える高品質で大規模なマレー語NERデータセットであるMYNERを効果的に生成した。
• バイディレクショナル・リビジョンとゲート付き無視機構を備えたマルチタスクモデルは、MYNERデータセットにおいてF1スコアの面で強力なベースラインモデルを上回った。
• 補助タスクである境界検出は、明示的および暗黙的の両方の監視メカニズムを通じて、NERパフォーマンスの向上に寄与した。
• ゲート付き無視機構は、補助タスクからの誤り伝搬を効果的に低減し、全体の学習安定性とパフォーマンスを向上させた。
• モデルはMYNERベンチマークで最先端の結果を達成し、低リソースマレー語NLPにおける有効性を裏付けた。
• データセットとモデルは公開されており、今後のマレー語NER研究における新たなベンチマークを確立した。