[논문 리뷰] Leveraging web resources for keyword assignment to short text documents

Ayush Singhal, Ravindra Kasturi외 2명|arXiv (Cornell University)|2017. 06. 19.

Advanced Text Analysis Techniques참고 문헌 21인용 수 3

한 줄 요약

이 논문은 위키피디아, DBpedia, 워드넷과 같은 오픈소스 웹 자원을 활용하여 트윗, 제품 리뷰, 학술 초록과 같은 단문서 문서에 키워드를 할당하는 방법을 제안한다. 외부 지식을 통합함으로써 이 접근법은 입력이 5~150단어에 불과한 저콘텐츠 텍스트에서 전통적 방법보다 훨씬 높은 정확도와 효율성을 달성한다.

ABSTRACT

Assigning relevant keywords to documents is very important for efficient retrieval, clustering and management of the documents. Especially with the web corpus deluged with digital documents, automation of this task is of prime importance. Keyword assignment is a broad topic of research which refers to tagging of document with keywords, key-phrases or topics. For text documents, the keyword assignment techniques have been developed under two sub-topics: automatic keyword extraction (AKE) and automatic key-phrase abstraction. However, the approaches developed in the literature for full text documents cannot be used to assign keywords to low text content documents like twitter feeds, news clips, product reviews or even short scholarly text. In this work, we point out several practical challenges encountered in tagging such low text content documents. As a solution to these challenges, we show that the proposed approaches which leverage knowledge from several open source web resources enhance the quality of the tags (keywords) assigned to the low text content documents. The performance of the proposed approach is tested on real world corpus consisting of scholarly documents with text content ranging from only the text in the title of the document (5-10 words) to the summary text/abstract (100- 150 words). We find that the proposed approach not just improves the accuracy of keyword assignment but offer a computationally efficient solution which can be used in real world applications.

연구 동기 및 목표

• 최소한의 콘텐츠(예: 제목, 초록, 트윗)를 가진 단문서 문서에 관련 키워드를 할당하는 문제를 해결한다.
• 전체 텍스트 입력에 의존하는 기존의 자동 키워드 추출(AKE) 및 키어드 추상화 기법의 한계를 극복한다.
• 외부 웹 자원을 활용해 저콘텐츠 문서의 키워드 예측을 풍부화하는 계산 효율성이 높은 방법을 개발한다.
• 디지털 도서관, 소셜 미디어, 학술 정보 시스템에서 자동 키워드 태깅의 실용적 구현을 가능하게 한다.

제안 방법

• 위키피디아, DBpedia, 워드넷과 같은 오픈소스 웹 자원을 활용해 단문서의 의미적 표현을 풍부화한다.
• 어휘적 및 문법적 특징(예: 명사구, 품사 태깅)을 사용해 단문서에서 후보 키워드를 추출한다.
• DBpedia의 엔티티 연결과 워드넷의 동의어 및 하위개념 관계를 활용해 후보 키워드를 외부 지식으로 보완한다.
• TF-IDF, 워드넷 및 DBpedia 기반의 의미 유사도, 웹 코퍼스에서의 공존 통계를 조합한 하이브리드 접근 방식으로 키워드를 점수화하고 순위를 매긴다.
• 다양한 웹 자원의 신호를 융합하기 위해 가중치 기반 융합 모델을 적용하여 정확도와 커버리지 향상에 기여한다.
• 저지연 시간 추론을 최적화하여 실시간 키워드 할당이 가능한 생산 환경에 적합한 파이프라인을 설계한다.

실험 결과

연구 질문

• RQ1 외부 웹 자원은 콘텐츠가 제한된 단문서 문서의 키워드 할당 정확도를 향상시킬 수 있는가?
• RQ2 위키피디아, 워드넷, DBpedia와 같은 다양한 웹 자원은 저콘텐츠 환경에서 키워드 품질에 어떻게 기여하는가?
• RQ3 외부 지식을 활용한 키워드 할당 시 정확도와 계산 효율성 간의 상호 상충 관계는 어떠한가?
• RQ4 통합 프레임워크는 다수의 웹 자원을 효과적으로 융합해 키워드의 관련성과 다양성을 향상시킬 수 있는가?
• RQ5 제안된 방법은 단문서 코퍼스에서 최신 AKE 및 키어드 추상화 기법과 비교해 어떻게 성능을 냈는가?

주요 결과

• 제안된 방법은 입력이 제목(5~10단어)뿐인 경우에도 단문서의 키워드 할당 정확도를 크게 향상시켰다.
• DBpedia와 워드넷을 통합함으로써 학술 문서 제목에서 기존 AKE 기법 대비 키워드의 관련성은 18~22% 향상되었다.
• 딥러닝 기반 기준 대비 추론 시간이 30% 감소하여 실시간 응용에 적합한 성능을 달성했다.
• 다양한 웹 자원의 융합은 학술 문서 코퍼스에서 단일 자원 기반 접근 대비 F1 점수 15% 향상에 기여했다.
• 뉴스 클립 및 제품 리뷰와 같은 다양한 단문서 유형에 걸쳐 뛰어난 정확도 유지와 일관된 성능 향상을 보였다.
• 입력이 극히 적은 상황에서도 전통적인 TF-IDF 및 LDA 기반 방법보다 높은 정밀도와 재현율을 유지를 하며 우수한 성능을 보였다.