[論文レビュー] Document AI: Benchmarks, Models and Applications

Lei Cui, Yiheng Xu+2 more|arXiv (Cornell University)|Nov 16, 2021

Handwritten Text Recognition Techniques参考文献 101被引用数 34

ひとこと要約

本論文はDocument AIを概観し、タスク、ベンチマークデータセット、代表的なモデル、事前学習アプローチをレビューする。特にマルチモーダルなレイアウトと視覚情報に焦点を当て、今後の展望を論じる。

ABSTRACT

Document AI, or Document Intelligence, is a relatively new research topic that refers to the techniques for automatically reading, understanding, and analyzing business documents. It is an important research direction for natural language processing and computer vision. In recent years, the popularity of deep learning technology has greatly advanced the development of Document AI, such as document layout analysis, visual information extraction, document visual question answering, document image classification, etc. This paper briefly reviews some of the representative models, tasks, and benchmark datasets. Furthermore, we also introduce early-stage heuristic rule-based document analysis, statistical machine learning algorithms, and deep learning approaches especially pre-training methods. Finally, we look into future directions for Document AI research.

研究の動機と目的

• Document AIの研究を動機づける—金融、医療、物流の産業的重要性を強調する。
• ヒューリスティック・古典的MLから深層学習まで、Document AIの代表的なタスク、データセット、モデルファミリーを要約する。
• 事前学習とマルチモーダル情報（レイアウトとビジュアル）が下流タスクの改善に果たす役割を分析する。
• 現在の課題を特定し、Document AIの将来の研究の方向性を提案する。

提案手法

• ヒューリスティックなルールベースの方法から統計的ML、深層学習までの歴史的・現代的アプローチを分類・要約する。
• ドキュメントレイアウト分析、視覚情報抽出、ドキュメントVQAのタスク特化型モデルについて論じる。
• テキストと2-Dレイアウトおよび画像特徴を統合する汎用マルチモーダル事前学習アーキテクチャ（LayoutLMなど）を紹介する。
• 自己教師付き事前学習タスク（マスクされた視覚-言語モデリング）と、事前学習のためのオプションのマルチラベル文書分類損失を記述する。
• 主要なベンチマークデータセットと、それらが文書理解タスクの進展に果たす役割を要約する。

実験結果

リサーチクエスチョン

• RQ1 今日のDocument AIを定義する主要なタスクとベンチマークは何か？
• RQ2 Document AIにおいて、ヒューリスティック・古典的MLから深層学習とマルチモーダル事前学習へ模型はどのように進化してきたか？
• RQ3 実世界の長く多様な文書への適用における現在の課題は何か？
• RQ4 LayoutLMのようなマルチモーダル事前学習アプローチは下流のDocument AIタスクをどう改善するか？
• RQ5 進展を促進するデータセットは何か、著者が特定する将来の方向性は何か？

主な発見

• Document AIのタスクにはレイアウト分析、視覚情報抽出、ドキュメントVQA、画像分類が含まれ、拡大するベンチマークデータセットによって支えられている。
• CNNベースのレイアウト分析、視覚的に豊かな文書向けのGNN、Transformerベースのマルチモーダル事前学習（LayoutLM）は、下流タスクの性能を大幅に向上させている。
• LayoutLMは2-Dレイアウトと画像埋め込みをテキストとともにTransformerフレームワークに統合し、下流タスクへの効果的な知識伝達を可能にする。
• レイアウトと視覚情報を用いた事前学習は複数の下流タスクで顕著な改善をもたらし、マルチモーダル事前学習アプローチを検証している。
• 長文ドキュメントやページ間理解、スキャニング由来のデータ品質ギャップ、マルチタスク学習とリソース効率の良いモデルの必要性にはまだ課題が残る。