[論文レビュー] American Stories: A Large-Scale Structured Text Dataset of Historical U.S. Newspapers

Melissa Dell, Jake Carlson+8 more|arXiv (Cornell University)|Aug 24, 2023

Web Data Mining and Analysis被引用数 7

ひとこと要約

本論文では、2000万枚の歴史的米国新聞スキャンから、独創的なディーブラーニングパイプラインを用いて抽出された大規模かつ高品質な構造化テキストデータセット『American Stories』を紹介する。このパイプラインは、レイアウト検出、読み取り可能かどうかの分類、カスタムOCR、マルチボックステキスト関連付けを組み合わせ、綺麗な記事単位のテキストを抽出する。これにより、従来のデータセットよりも精度が向上した歴史的言語モデリングや高度な自然言語処理（NLP）タスクが可能になる。

ABSTRACT

Existing full text datasets of U.S. public domain newspapers do not recognize the often complex layouts of newspaper scans, and as a result the digitized content scrambles texts from articles, headlines, captions, advertisements, and other layout regions. OCR quality can also be low. This study develops a novel, deep learning pipeline for extracting full article texts from newspaper images and applies it to the nearly 20 million scans in Library of Congress's public domain Chronicling America collection. The pipeline includes layout detection, legibility classification, custom OCR, and association of article texts spanning multiple bounding boxes. To achieve high scalability, it is built with efficient architectures designed for mobile phones. The resulting American Stories dataset provides high quality data that could be used for pre-training a large language model to achieve better understanding of historical English and historical world knowledge. The dataset could also be added to the external database of a retrieval-augmented language model to make historical information - ranging from interpretations of political events to minutiae about the lives of people's ancestors - more widely accessible. Furthermore, structured article texts facilitate using transformer-based methods for popular social science applications like topic classification, detection of reproduced content, and news story clustering. Finally, American Stories provides a massive silver quality dataset for innovating multimodal layout analysis models and other multimodal applications.

研究の動機と目的

• 既存の公開ドメイン米国新聞データセットには、レイアウト認識が不十分でOCR品質が低いため、テキストが乱雑に並べ替えられるという問題があるため、これを是正すること。
• 歴史的新聞スキャンから構造的で高精度な記事テキストを抽出する、スケーラブルで費用対効果に優れたディープラーニングパイプラインの開発。
• 歴史的言語モデルのトレーニングや、歴史的研究のためのリtrieval-Augmented言語モデルの強化を支援する、大規模で公開可能なデータセットの作成。
• 構造化された記事単位のデータを活用した、トピック分類、ストーリークラスタリング、再利用コンテンツの検出といった高度な社会科学的応用の実現。

提案手法

• YOLOv8を用いてレイアウト検出を行い、新聞スキャン内の記事、見出し、著者情報、広告などのコンテンツ領域を特定。
• 不鮮明なテキスト領域をフィルタリングするためのカスタム画像分類器を活用し、OCRの入力品質を向上。
• モバイルデプロイメントに最適化された新規で効率的なOCRアーキテクチャを実装し、スケーラビリティとコスト効率を確保。
• 複数のバウンディングボックスにまたがる完全な記事テキストを再構成するために、マルチボックス関連付け技術を適用。
• 外国語のスクリプトではOCR性能が著しく低下するため、英語新聞に限定して処理。
• パイプラインをChronicling Americaコレクション全体に展開し、11億4000万件のコンテンツ領域を抽出。地理的・時間的カバレッジが広範である。

実験結果

リサーチクエスチョン

• RQ1 スケーラブルでディープラーニングベースのパイプラインは、複雑なレイアウトと変動するOCR品質を有する歴史的新聞スキャンから、高品質で構造化された記事テキストを抽出できるか？
• RQ2 American Storiesデータセットは、トピックモデリングやクラスタリングといった下流NLPタスクにおいて、Chronicling Americaの生OCRと比較してどの程度性能が優れているか？
• RQ3 構造化された記事テキストは、政治的出来事の分析や家系図調査といった歴史的NLPアプリケーションにおけるトランスフォーマー基盤モデルの性能をどの程度向上できるか？
• RQ4 得られたデータセットは、マルチモーダルレイアウト分析モデルのトレーニングや評価に用いる高品質な銀標準リソースとして機能できるか？
• RQ5 レイアウトに配慮したテキスト抽出は、歴史的メディアの社会科学的分析における精度と解釈可能性にどのような影響を与えるか？

主な発見

• American Storiesデータセットには11億4000万件のコンテンツ領域が含まれており、17世紀までさかのぼる資料も含め、広範な地理的・時間的カバレッジを持つ。
• パイプラインはレイアウト検出およびテキスト抽出において高い正確性を達成しており、下流NLPタスクにおいてChronicling Americaの生OCRを著しく上回っている。
• 本データセットにより、パンチョ・ビラ遠征などの出来事に基づいて記事埋め込みでニュースストーリーをクラスタリングするといった、新たな分析能力が可能になった。
• 本データセットは、歴史的英語および世界知識の理解を深めるために、大規模言語モデルの事前学習を支援する。
• パイプラインは非常にスケーラブルで効率的であり、モバイル最適化アーキテクチャを採用しているため、計算リソースが限られた研究者にも利用可能である。
• データセットはHuggingFaceにホスティングされており、新しいスキャンが処理されるたびに更新される。バージョニングと通知機能は、プラットフォームを通じて利用可能である。