[논문 리뷰] Deep Learning for Technical Document Classification

Shuo Jiang, Jie Hu외 2명|arXiv (Cornell University)|2021. 06. 27.

Text and Document Classification Technologies인용 수 4

한 줄 요약

이 논문은 기술 문서 분류 성능을 햖थ기 위해 텍스트, 이미지, 문서 간 관계를 CNN, RNN, GNN를 사용해 통합하는 다중모odal 딥러닝 아키텍처인 TechDoc을 제안한다. 대규모 특허 데이터셋을 대상으로 계층적 IPC 체계를 사용해 평가한 결과, TechDoc는 단모달 및 최신 기준 모델보다 높은 정확도를 달성하여 산업용 지식 관리에 대한 확장성을 입증한다.

ABSTRACT

In large technology companies, the requirements for managing and organizing technical documents created by engineers and managers have increased dramatically in recent years, which has led to a higher demand for more scalable, accurate, and automated document classification. Prior studies have only focused on processing text for classification, whereas technical documents often contain multimodal information. To leverage multimodal information for document classification to improve the model performance, this paper presents a novel multimodal deep learning architecture, TechDoc, which utilizes three types of information, including natural language texts and descriptive images within documents and the associations among the documents. The architecture synthesizes the convolutional neural network, recurrent neural network, and graph neural network through an integrated training process. We applied the architecture to a large multimodal technical document database and trained the model for classifying documents based on the hierarchical International Patent Classification system. Our results show that TechDoc presents a greater classification accuracy than the unimodal methods and other state-of-the-art benchmarks. The trained model can potentially be scaled to millions of real-world multimodal technical documents, which is useful for data and knowledge management in large technology companies and organizations.

연구 동기 및 목표

• 대규모 기술 기업에서 기술 문서의 스케일링 가능하고 정확하며 자동화된 분류에 대한 증가하는 수요를 해결하기 위해.
• 기존의 텍스트에만 집중하는 단모달 접근 방식의 한계를 극복하기 위해 기술 문서 내의 다중모달 정보를 활용하기 위해.
• 텍스트, 시각적 정보, 관계 정보를 효과적으로 융합하는 통합된 딥러닝 아키텍처를 개발하여 분류 성능을 향상시키기 위해.
• 실제 산업 환경에서 수백만 개의 기술 문서에 걸쳐 문서 분류 모델을 확장 가능하게 구현하기 위해.
• 고도화된 다중모달 문서 이해를 통해 대규모 기술 기업의 지식 및 데이터 관리 향상시키기 위해.

제안 방법

• 이미지 처리를 위한 합성곱 신경망(CNN), 텍스트 인코딩을 위한 순환 신경망(RNN), 문서 간 관계를 모델링하기 위한 그래프 신경망(GNN)을 조합한 새로운 다중모달 딥러닝 아키텍처인 TechDoc을 제안한다.
• 자연어 텍스트, 기술적 설명 이미지, 문서 간 상호관계를 포함한 세 가지 모odal을 통합된 학습 프레임워크에 통합한다.
• 모든 세 모달에서 유도된 특징을 동시에 최적화하여 분류 성능을 향상시키는 엔드 투 엔드 학습 프로세스를 적용한다.
• 계층적 국제특허분류(IPC) 체계를 기준으로 문서 분류에 모델을 적용한다.
• 모달 간 표현을 효과적으로 정렬하고 융합하기 위해 주의 메커니즘과 특징 융합 전략을 활용한다.
• 확장성과 실제 적용 가능성을 확보하기 위해 대규모 다중모달 기술 문서 데이터베이스에서 모델을 학습시킨다.

실험 결과

연구 질문

• RQ1 텍스트, 이미지, 문서 간 관계를 통합함으로써 단모달 접근 방식에 비해 기술 문서 분류 정확도를 향상시킬 수 있는가?
• RQ2 제안된 다중모달 아키텍처인 TechDoc는 대규모 기술 문서 분류 과제에서 최신 기준 모델 대비 어떻게 성능을 내는가?
• RQ3 수백만 개의 실제 기술 문서에 대해 높은 분류 정확도를 유지하면서 모델이 얼마나 확장 가능한가?
• RQ4 다중모달 환경에서 각 모달(텍스트, 이미지, 그래프)이 전체 분류 성능에 기여하는 정도는 어느 정도인가?
• RQ5 CNN, RNN, GNN 구성 요소의 공동 학습이 기술 문서에서 상호보완적인 정보를 효과적으로 포착하는 데 얼마나 효과적인가?

주요 결과

• TechDoc는 텍스트나 이미지만 처리하는 단모달 모델보다 유의미하게 높은 분류 정확도를 달성한다.
• 계층적 국제특허분류(IPC) 체계에서 여러 최신 기준 모델보다 뛰어난 성능을 보인다.
• 그래프 신경망을 통한 문서 간 관계 통합이 성능 향상에 기여하는 데 기여한다.
• 다중모달 접근 방식은 강건성과 확장성을 입증하여 산업 환경에서 수백만 개의 기술 문서에 배포 가능한 것으로 나타났다.
• CNN, RNN, GNN 구성 요소의 공동 학습이 다중모달 신호 융합을 효과적으로 구현함으로써 모델 성능 향상에 기여한다.
• 결과적으로 텍스트 외에도 시각적 정보와 관계 정보를 활용할 경우 기술 문서 관리에서 더 뛰어난 분류 결과를 도출할 수 있음을 확인했다.