[論文レビュー] Deep Learning for Technical Document Classification

Shuo Jiang, Jie Hu+2 more|arXiv (Cornell University)|Jun 27, 2021

Text and Document Classification Technologies被引用数 4

ひとこと要約

本論文では、CNN、RNN、GNNを用いてテキスト、画像、文書間関係を統合するマルチモーダル深層学習アーキテクチャであるTechDocを提案する。特許データセットを用いた階層的IPCシステムを用いた評価で、単モーダルおよび最先端のベンチマークを上回る高い正確性を達成し、産業的知識管理におけるスケーラビリティを示している。

ABSTRACT

In large technology companies, the requirements for managing and organizing technical documents created by engineers and managers have increased dramatically in recent years, which has led to a higher demand for more scalable, accurate, and automated document classification. Prior studies have only focused on processing text for classification, whereas technical documents often contain multimodal information. To leverage multimodal information for document classification to improve the model performance, this paper presents a novel multimodal deep learning architecture, TechDoc, which utilizes three types of information, including natural language texts and descriptive images within documents and the associations among the documents. The architecture synthesizes the convolutional neural network, recurrent neural network, and graph neural network through an integrated training process. We applied the architecture to a large multimodal technical document database and trained the model for classifying documents based on the hierarchical International Patent Classification system. Our results show that TechDoc presents a greater classification accuracy than the unimodal methods and other state-of-the-art benchmarks. The trained model can potentially be scaled to millions of real-world multimodal technical documents, which is useful for data and knowledge management in large technology companies and organizations.

研究の動機と目的

• 大規模な技術組織における技術文書のスケーラブルで正確かつ自動化された分類の増大するニーズに対応する。
• テキストにのみ焦点を当てる従来の単モーダル手法の限界を乗り越え、技術文書内のマルチモーダル情報を活用する。
• テキスト、視覚的、関係的情報を効果的に統合する深層学習アーキテクチャを構築し、分類性能を向上させる。
• 産業的環境における数百万件の実世界の技術文書にわたる文書分類モデルのスケーラブルな展開を可能にする。
• 高度なマルチモーダル文書理解を通じて、大手技術企業における知識およびデータ管理を改善する。

提案手法

• 画像処理に畳み込みニューラルネットワーク（CNN）を、テキスト符号化に再帰的ニューラルネットワーク（RNN）を、文書関係のモデリングにグラフニューラルネットワーク（GNN）を組み合わせた、新しいマルチモーダル深層学習アーキテクチャであるTechDocを提案する。
• 自然言語テキスト、説明的画像、文書間関連性の3つのモダリティを、統一された学習フレームワークに統合する。
• すべての3つのモダリティからの特徴を同時に最適化するエンドツーエンドの学習プロセスを採用し、分類性能を向上させる。
• 階層的国際特許分類（IPC）システムをベンチマークとして用い、文書の分類にモデルを適用する。
• 注意メカニズムと特徴統合戦略を活用し、モダリティ間の表現を的確に一致・統合する。
• スケーラビリティと実世界の適用可能性を確保するため、大規模なマルチモーダル技術文書データベース上でモデルを学習する。

実験結果

リサーチクエスチョン

• RQ1 テキスト、画像、文書関係の複数モダリティを統合することで、単モーダル手法と比較して技術文書分類の正確性が向上するか？
• RQ2 提案されたマルチモーダルアーキテクチャ、TechDocは、大規模な技術文書分類タスクにおいて最先端のモデルと比較してどのように性能を発揮するか？
• RQ3 数百万件の実世界の技術文書にスケーリングできるか、同時に高い分類正確性を維持できるか？
• RQ4 マルチモーダル設定における各モダリティ（テキスト、画像、グラフ）が全体の分類性能に果たす寄与度はどの程度か？
• RQ5 CNN、RNN、GNNコンポーネントの共同学習は、技術文書からの補完的情報を効果的に捉えているか？

主な発見

• TechDocは、テキストや画像のみを処理する単モーダルモデルと比較して、顕著に高い分類正確性を達成する。
• 階層的国際特許分類（IPC）システムにおいて、多数の最先端ベンチマークを上回る性能を示す。
• GNNによる文書関係の統合が、性能向上に有意に寄与している。
• マルチモーダルアプローチは、産業環境における数百万件の技術文書への展開に適した、頑健性とスケーラビリティを示している。
• CNN、RNN、GNNコンポーネントの共同学習により、モデルの性能が向上しており、マルチモーダル信号の有効な統合が示されている。
• 結果から、テキストに加え、視覚的および関係的情報を活用することで、技術文書管理における優れた分類結果が得られることを確認した。