[論文レビュー] DocParser: Hierarchical Structure Parsing of Document Renderings

Johannes Rausch, Octavio Martínez+3 more|arXiv (Cornell University)|Nov 5, 2019

Topic Modeling参考文献 38被引用数 4

ひとこと要約

DocParser は、逆ラベルティングによる弱教師付き枠組みと深層学習を組み合わせることで、レンダリング済みドキュメント（例：PDF）から完全な階層的ドキュメント構造を推論するエンドツーエンドのシステムである。弱教師付きベースラインと比較して、階層的関係分類の平均平均適合率（mAP）が39.1%向上し、F1スコアが35.8%向上した。

ABSTRACT

Translating renderings (e. g. PDFs, scans) into hierarchical document structures is extensively demanded in the daily routines of many real-world applications. However, a holistic, principled approach to inferring the complete hierarchical structure of documents is missing. As a remedy, we developed "DocParser": an end-to-end system for parsing the complete document structure - including all text elements, nested figures, tables, and table cell structures. Our second contribution is to provide a dataset for evaluating hierarchical document structure parsing. Our third contribution is to propose a scalable learning framework for settings where domain-specific data are scarce, which we address by a novel approach to weak supervision that significantly improves the document structure parsing performance. Our experiments confirm the effectiveness of our proposed weak supervision: Compared to the baseline without weak supervision, it improves the mean average precision for detecting document entities by 39.1 % and improves the F1 score of classifying hierarchical relations by 35.8 %.

研究の動機と目的

• PDF などのレンダリング済みドキュメントから完全な階層的ドキュメント構造を推論する包括的で原理的である手法の不足に対処する。
• 逆ラベルティングを用いたスケーラブルな弱教師付き枠組みを開発することで、ドキュメント構造解析におけるデータ不足を克服する。
• arXivdocs データセットを導入することで、多様なドキュメントエンティティとその階層的関係を含む包括的な評価ベンチマークを提供する。
• PDF などのレンダリング形式で失われる構造的情報（例：表、図、数式）を回復させることで、下流の自然言語処理タスクを可能にする。
• 限られたアノテート済みトレーニングデータにもかかわらず、標準的なOCRや既存の解析手法を上回る正確性と頑健性を示すシステムを開発する。

提案手法

• レンダリング済みドキュメント画像内のドキュメントエンティティ（テキスト、表、図、数式）の検出と局所化に、マスクR-CNNに基づくインスタンスセグメンテーションモデルを活用する。
• 2段階の関係検出パイプラインを適用する：まず、検出されたエンティティ間の階層的関係を予測し、次にグラフニューラルネットワークや同様の構造に注意を払うモジュールを用いて予測を精緻化する。
• 逆ラベルティングにより弱いラベルを生成する。この手法は、元のLaTeXファイルからバウンディングボックスとエンティティカテゴリを抽出可能であり、正確さに欠ける場合やノイズを含む場合でも有効である。
• 微調整（WS+FT）を用いて、弱教師付きラベルと少量の高品質なアノテート例の両方を用いたマルチタスク学習モデルを訓練する。
• LaTeXソースの構造的一致性を活用し、多様なドキュメントタイプをサポートするスケーラブルで自動化されたラベリングパイプラインを構築する。
• 将来の拡張では、レイアウト特徴量（例：単語埋め込み）を統合して、関係分類と構造的推論の精度を向上させる。

実験結果

リサーチクエスチョン

• RQ1 逆ラベルティングに基づく弱教師付き学習枠組みは、ドキュメント構造解析における高コストな手動ラベリングの必要性を著しく低減できるか？
• RQ2 弱教師付き学習は、完全に教師ありまたは教師なしのベースラインと比較して、ドキュメントエンティティの検出およびその階層的関係分類の性能をどの程度向上させるか？
• RQ3 本手法は、表の中の表や、テキスト領域内の図のような深くネストされた構造を効果的に回復できるか？
• RQ4 arXivdocs データセットは、表のような孤立したコンポONENTSにとどまらず、完全なドキュメント構造解析の評価に耐えうる堅牢なベンチマークとして機能できるか？
• RQ5 情報抽出などの下流のNLPタスクに不可欠な構造的意味を保持する観点から、本システムは標準的なOCRパイプラインを上回っているか？

主な発見

• 提案された弱教師付き枠組みにより、弱教師付き学習なしのベースラインと比較して、ドキュメントエンティティ検出の平均平均適合率（mAP）が39.1%向上した。
• 微調整を用いた弱教師付き学習を適用した場合、ドキュメントエンティティ間の階層的関係分類のF1スコアは35.8%向上した。
• DocParser は、1枚のGPU上で1ドキュメントあたり約340 msの推論速度を達成しており、関係検出の追加処理はCPU上で1ドキュメントあたりわずか5.67 msである。
• F1スコアが0.5未満であっても、定性的な評価では最終的なドキュメント構造が極めて正確であることが示され、微小な検出誤差に対しても頑健であることが示された。
• 厳密な評価基準（わずかな不一致に対してもペナルティが課される）を適用しても、本システムは最先端のOCRシステムを上回り、構造的意味を効果的に保持している。
• arXivdocs データセットは127,472編の科学論文から抽出され、主要なドキュメントエンティティとその階層的関係を網羅しており、多様で豊富なベンチマークを提供する。