[論文レビュー] Word Segmentation and Morphological Parsing for Sanskrit

Jingwen Li, Leander Girrbach|arXiv (Cornell University)|Jan 30, 2022

Natural Language Processing Techniques被引用数 10

ひとこと要約

本稿では、編集操作によるシーケンスラベル付けとしての分割をモデル化し、変形形から語幹を導出するための語彙的規則を予測することで、サンスクリット語の語の分割と語彙解析のための新規アプローチを提示する。著者らは、エンド・ツー・エンドで学習可能なパイプラインを導入し、WSMPハッカソン2021において、統合的分割と解析で最高のF1スコア（80.018）を達成した。

ABSTRACT

We describe our participation in the Word Segmentation and Morphological Parsing (WSMP) for Sanskrit hackathon. We approach the word segmentation task as a sequence labelling task by predicting edit operations from which segmentations are derived. We approach the morphological analysis task by predicting morphological tags and rules that transform inflected words into their corresponding stems. Also, we propose an end-to-end trainable pipeline model for joint segmentation and morphological analysis. Our model performed best in the joint segmentation and analysis subtask (80.018 F1 score) and performed second best in the individual subtasks (segmentation: 96.189 F1 score / analysis: 69.180 F1 score). Finally, we analyse errors made by our models and suggest future work and possible improvements regarding data and evaluation.

研究の動機と目的

• サンスクリット語における砂置現象と高い語彙的複雑性による、語の分割と語彙解析の課題に対処すること。
• 変形形における音声的スムージングと同音異義語の影響による、分割と解析のあいまいさを克服すること。
• 分割と解析の間で表現を共有することで、モデルの耐性を高める統合学習フレームワークを開発すること。
• 既知の活用パラダイムの補間を用いて、未知語彙（OOV）形への一般化を向上させること。
• 現在の評価指標の限界を特定し、より言語学的に適切な評価戦略を提案すること。

提案手法

• 正しい分割を導くために、挿入、削除、置換の編集操作を予測することで、語の分割をシーケンスラベル付けのタスクとしてモデル化する。
• 変形形から語幹へのマッピングを可能にする語彙的タグと変換規則を予測することで、語彙解析にアプローチする。
• 共有エンコーダ表現を用いて、分割と語彙解析を同時に最適化するエンド・ツー・エンドで学習可能なパイプラインを設計する。
• 既知の活用パラダイムの補間を用いて、ルールベースの語幹再構築により、未知語彙（OOV）形への一般化を実現する。
• デコード段階で語彙的知識を活用し、辞書照会を実施することで、誤った予測（例：性別、語根形）を是正する。
• 言語学的に意味のあるテストサブセット（例：反復語、あいまいなケース）を分析するために、サブセットベースの評価戦略を提案する。

実験結果

リサーチクエスチョン

• RQ1 編集操作の予測による分割が、砂置に影響を受けるあいまいなサンスクリット語テキストの性能向上に寄与するか？
• RQ2 学習された語彙的規則が、サンスクリット語の未知語彙（OOV）形にどの程度一般化可能か？
• RQ3 分割と語彙解析の統合的学習は、逐次パイプラインと比較して、誤差伝搬をどの程度軽減するか？
• RQ4 現在のモデルの語彙解析における主な失敗モードは何か？ そして、評価をより言語学的に意味のあるものにするにはどうすればよいか？
• RQ5 ルールベースの語幹再構築は、低リソース語彙解析におけるモデルの頑健性と解釈可能性を向上させることができるか？

主な発見

• 提案されたエンド・ツー・エンド統合モデルは、WSMPハッカソンにおける統合的分割と解析サブタスクで最高のF1スコア80.018を達成し、他のすべての参加者を上回った。
• モデルは、分割タスクでF1スコア96.189、解析タスクでF1スコア69.180を達成し、両方の個別サブタスクで第2位となった。
• 誤差分析の結果、汚染された訓練データが誤った語彙的規則を生じさせ、性別の予測誤りが頻発していたことが判明し、辞書統合による改善の余地があることが示された。
• 著者らは、公式の評価指標の欠陥を特定した。この指標は、意味的・構文的正しさではなく、重複する文字数を数えるため、誤った類似度スコアを生じさせている。
• 言語学的複雑性（例：反復語、あいまいさ）に基づいてテストセットのサブセットに分類した結果、性能の不一致が明らかになり、細分化された評価の必要性が浮き彫りになった。
• ルールベースの語幹補間によるOOV形への一般化能力が妥当性を確認され、低リソース語彙学習における可能性が示された。