[論文レビュー] Modelling Verbal Morphology in Nen

Saliha Muradoğlu, Nicholas Evans+1 more|arXiv (Cornell University)|Nov 30, 2020

Natural Language Processing Techniques参考文献 18被引用数 5

ひとこと要約

本稿は、1つの及物動詞に対して最大1,740通りの屈折形をもつ、極めて複雑なパプア語族言語であるNenの動詞態素構造を、初めてニューラルネットワークベースでモデル化した。最先端の形態素再変形モデルを用いて、限られたデータから合成的特徴（syncretism）のような非自明なパターンを学習できることを示したが、アロモルフィー（allomorphy）や自由変異（free variation）に起因する誤りにより、まれな形態素の予測に頻繁に失敗することが明らかになった。

ABSTRACT

Nen verbal morphology is remarkably complex; a transitive verb can take up to 1,740 unique forms. The combined effect of having a large combinatoric space and a low-resource setting amplifies the need for NLP tools. Nen morphology utilises distributed exponence - a non-trivial means of mapping form to meaning. In this paper, we attempt to model Nen verbal morphology using state-of-the-art machine learning models for morphological reinflection. We explore and categorise the types of errors these systems generate. Our results show sensitivity to training data composition; different distributions of verb type yield different accuracies (patterning with E-complexity). We also demonstrate the types of patterns that can be inferred from the training data through the case study of syncretism.

研究の動機と目的

• 代表的でないパプア語族言語のNLPリソース不足を解消するため、Nenの極めて複雑な動詞態素構造をモデル化すること。
• 分散的徴候を示す低リソース・高複雑度言語において、最先端のニューラルモデルがどのように機能するかを調査すること。
• 形態素再変形システムにおける誤りパターン、特にアロモルフィーと自由変異の関係を分析し、モデルの頑健性を評価すること。
• 訓練データの構成、特に動詞の語類分布がモデルの正確性と一般化能力に与える影響を検討すること。
• モデルが明示的なアノテーションなしに、スパarsなデータから、合成的特徴のような暗黙の言語的パターンをどのように推論できるかを評価すること。

提案手法

• 低リソースのNenコーパス上で、複数の最先端ニューラル形態素再変形モデル（Aharoni & Goldberg 2017；Makarov & Clematide 2018）を訓練する。
• 動詞語類分布の影響を評価するために、ランダムおよびZipfianの2つのデータサンプリング戦略を用いる。
• 予測失敗を分類するための詳細な誤り分類法（Gorman et al. 2019）を適用し、新たに「自由変異」をサブカテゴリとして追加する。
• 未学習の第二人称単数過去完了形に対して、合成的特徴のテストを実施し、第三人称単数形と対比する。
• 接頭語型、中置型、両端接頭辞型といった異なる動詞語類ごとにモデルの正確性を測定し、E-複雑度に基づく性能差を分析する。
• 段階的な訓練データ構成を用いて、動詞語類頻度の影響を分離し、モデルの正確性と一般化能力への影響を特定する。

実験結果

リサーチクエスチョン

• RQ1 最先端のニューラル形態素再変形モデルは、極めて複雑でリソースが限られたNen言語において、どのように性能を発揮するか？
• RQ2 訓練データの構成、特に動詞タイプの分布が、モデルの正確性と一般化能力にどの程度影響を及ぼすか？
• RQ3 ニューラルモデルは、明示的なアノテーションなしに、スパースなデータから合成的特徴のような暗黙の言語的パターンを推論できるか？
• RQ4 形態素再変形システムにおけるNen言語の誤りの主なタイプは何か？また、それらは形態音声規則やコーパス特性とどのように関連しているか？
• RQ5 モデルの予測行動は、最小限の訓練例がある状況でも、人間の一般化に類似した挙動を示すか？

主な発見

• 動詞語類の分布が均一なデータで訓練されたモデルは、より高い正確性を示し、E-複雑度が最小の接頭語型動詞が最も優れた性能を発揮した。
• Aharoni & Goldberg（2017）モデルは、100件中81件で第二人称単数過去完了形を第三人称単数形と同一視して予測し、暗黙のパターン推論能力が強いことを示した。
• Makarov & Clematide（2018）モデルは、合成的特徴へのバイアスがさらに強く、未学習の第二人称単数形の90件中90件で第三人称単数形と同一と予測した。
• アロモルフィー誤りが最も頻出する誤りタイプであり、これは形態音声規則や特徴マッピングの誤った適用に起因する。
• 自由変異は、コーパスが自然な会話由来であることに起因する新しい誤りサブカテゴリとして特定され、モデルの失敗とは無関係であった。
• ランダムサンプリングとZipfianサンプリングの間に有意差は認められなかったが、Zipfianサンプリングはやや頻出する接頭語型動詞を過剰に代表しており、全体の正確性パターンに影響を与えていた。