[論文レビュー] Named Entity Recognition and Classification on Historical Documents: A Survey

Maud Ehrmann, Ahmed Hamdi+3 more|arXiv (Cornell University)|Sep 23, 2021

Topic ModelingComputer Science参考文献 178被引用数 20

ひとこと要約

このサーベイは、歴史的文書における名前付きエンティティ認識（NER）と分類のための課題、リソース、手法を統合的に検討し、OCRの誤り、言語的変異、標準化されたデータセットの不足といった問題を強調している。従来の機械学習から深層学習に至るまでの既存のNLPアプローチを評価し、研究上のギャップを特定。デジタル・ヒューマニティーズ研究の前進のため、データキュレーションの向上、多言語対応、ドメイン特化型の適応を提言している。

ABSTRACT

After decades of massive digitisation, an unprecedented amount of historical documents is available in digital format, along with their machine-readable texts. While this represents a major step forward with respect to preservation and accessibility, it also opens up new opportunities in terms of content mining and the next fundamental challenge is to develop appropriate technologies to efficiently search, retrieve and explore information from this 'big data of the past'. Among semantic indexing opportunities, the recognition and classification of named entities are in great demand among humanities scholars. Yet, named entity recognition (NER) systems are heavily challenged with diverse, historical and noisy inputs. In this survey, we present the array of challenges posed by historical documents to NER, inventory existing resources, describe the main approaches deployed so far, and identify key priorities for future developments.

研究の動機と目的

• デジタイズされた歴史的文書における意味的インデキシングの増大するニーズに対応し、効率的な情報検索と探索を可能にする。
• OCRノイズ、言語的変異、標準化されたアノテーションの欠如といった、歴史的テキストにおけるNERの中心的課題を特定する。
• 歴史的文書処理に特化した既存のデータセット、ツール、NLP技術をリストアップする。
• 特に深層学習およびトランスファー学習のアプローチが、歴史的コーパス上でどのように機能するか、その性能と限界を評価する。
• 今後の研究における主な優先事項を提示する。例：データキュレーションの改善、多言語対応、ドメイン特化型の適応。

提案手法

• 2000年から2021年までの、歴史的文書におけるNERに関連する査読付き論文、データセット、ツールを体系的にサーベイする。
• その背後にある技術に基づいてNERアプローチを分類・分析する：ルールベース、機械学習（例：CRF、SVM）、深層学習（例：BERT、BiLSTM-CRF）。
• OCR品質とHTRの誤りがNER性能に与える影響を評価し、特に後処理と正規化技術の重要性を強調する。
• トランスファー学習と事前学習済み言語モデルが、リソースが乏しい歴史的言語におけるNERをどのように向上させるかを検討する。
• 多言語およびクロスリンガルNERが、特に言語が乏しく代表されていない言語において歴史的文脈でどれほど有効であるかを評価する。
• 研究結果を統合し、今後のNER開発のためのフレームワークを提示する。特に、データ品質、アノテーション基準、ツールの相互運用性に焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 OCRの誤りや言語的変異に起因する、歴史的文書へのNER適用における主な課題は何か？
• RQ2 どの既存のデータセットとツールが歴史的テキストにおけるNERに最も効果的であり、それらの制限は何であるか？
• RQ3 特に深層学習モデルが、現代テキストと比較して歴史的文書コーパス上でどのように機能するか？
• RQ4 トランスファー学習および多言語事前学習モデルが、リソースが乏しい歴史的言語におけるNER性能をどの程度向上させるか？
• RQ5 デジタル・ヒューマニティーズ分野における歴史的文書のNER分野における主なギャップと今後の研究の優先事項は何か？

主な発見

• OCRおよびHTRの誤りはNER性能を著しく低下させ、研究では、転写誤りによって最大30％の名前付きエンティティが誤認識されていると示されている。
• CRF や SVM といった従来の機械学習モデルは、整備されノイズの少ないデータセットでは依然として有効であるが、ノイズが多い、または著しく変異が激しい歴史的テキストでは困難をきたす。
• 特に微調整された BERT ベースのアーキテクチャは、ほとんどの歴史的 NER ベンチマークで古典的手法を上回り、関連する歴史的コーパスで事前学習された場合に顕著である。
• 多言語およびクロスリンガルモデルは有望であるが、特に現代でないか、まれな言語形態を扱うにあたり、注意深い適応が必要である。
• 標準化され、高品質で多言語対応のアノテート済みデータセットの欠如が、歴史的文書における堅牢な NER システムの訓練と評価の主なバッテリーとなっている。
• OCR出力の後処理は、一部のケースでは NER の性能を最大20％向上させることが示されており、前処理が信頼性の高いエンティティ認識に不可欠であることを示している。