[논문 리뷰] Contextual Document Similarity for Content-based Literature Recommender Systems

Malte Ostendorff|arXiv (Cornell University)|2020. 08. 01.

Topic Modeling인용 수 4

한 줄 요약

이 논문은 내용 기반 과학문헌 추천 시스템을 위한 문맥 기반 문서 유사도를 제안하며, 유사도를 두 개의 문서와 특정 문맥(예: 방법론, 결과)의 삼중조로 모델링한다. 텍스트와 인용 링크의 의미적 특징을 신경망 임베딩과 통합함으로써, 세분화된 문맥 인식 추천을 가능하게 하여 기존의 단일 점수 기반 방법에 비해 유사도가 낮지만 관련성이 있는 과학 논문을 훨씬 더 잘 검색할 수 있도록 한다.

ABSTRACT

To cope with the ever-growing information overload, an increasing number of digital libraries employ content-based recommender systems. These systems traditionally recommend related documents with the help of similarity measures. However, current document similarity measures simply distinguish between similar and dissimilar documents. This simplification is especially crucial for extensive documents, which cover various facets of a topic and are often found in digital libraries. Still, these similarity measures neglect to what facet the similarity relates. Therefore, the context of the similarity remains ill-defined. In this doctoral thesis, we explore contextual document similarity measures, i.e., methods that determine document similarity as a triple of two documents and the context of their similarity. The context is here a further specification of the similarity. For example, in the scientific domain, research papers can be similar with respect to their background, methodology, or findings. The measurement of similarity in regards to one or more given contexts will enhance recommender systems. Namely, users will be able to explore document collections by formulating queries in terms of documents and their contextual similarities. Thus, our research objective is the development and evaluation of a recommender system based on contextual similarity. The underlying techniques will apply established similarity measures and as well as neural approaches while utilizing semantic features obtained from links between documents and their text.

연구 동기 및 목표

• 기존의 유사도 측정 방법이 문서를 통합된 실체로 간주하여 내용의 여러 측면을 忽시하는 한계를 해결하기 위해.
• 전문가 사용자가 방법론이나 결과와 같은 특정 측면에 따라 문헌 컬렉션을 탐색할 수 있도록, 문맥 기반 쿼리를 가능하게 하기 위해.
• 텍스트와 인용 네트워크의 의미적 특징을 활용하여 특정 문맥에서의 유사도를 계산하는 추천 시스템을 개발하기 위해.
• 기존 시스템이 간과할 수 있는 관련성은 있지만 유사도가 낮은 과학 논문을 검색하는 데 있어 문맥 기반 유사도의 효과를 평가하기 위해.
• 문맥 인식 유사도가 연구 논문 간의 미세한 관계를 포착함으로써 추천 품질을 향상시킨다는 것을 입증하기 위해.

제안 방법

• 이 방법은 문서 유사도를 삼중조 (기준 문서, 대상 문서, 문맥)로 모델링하며, 여기서 문맥은 유사도의 측면(예: 방법론, 배경)을 지정한다.
• 신경망 단어 임베딩(예: BERT, GloVe)과 인용 기반 의미 신호를 결합하여 문서 표현을 풍부하게 한다.
• 인용 링크를 사용하여 문서 간의 문맥적 관계를 추론함으로써, 원시 텍스트를 넘어서는 의미적 이해를 향상시킨다.
• 각 문맥 내에서 기존의 유사도 측정 방법(예: 코사인 유사도)을 적용하여, 문맥 기반 유사도 점수를 산출한다.
• 다중 문맥 검색 프레임워크는 사용자가 지정한 문맥에서의 유사도에 기반해 추천을 선택함으로써, 유사성 기반 검색(Analogical Search)을 가능하게 한다.
• 텍스트 특징, 인용 네트워크, 사전 학습된 언어 모델을 통합하여 문맥 인식 문서 임베딩을 생성한다.

실험 결과

연구 질문

• RQ1 특정 측면(예: 방법론)만 공유하는 유사도가 낮지만 관련성이 있는 과학 논문을 검색하는 데 있어, 문맥 기반 문서 유사도가 성능을 향상시킬 수 있는가?
• RQ2 기존의 단일 점수 기반 유사도에 비해, 문맥 인식 유사도는 관련 문헌 추천에서 어떤 차이를 보이는가?
• RQ3 인용 네트워크와 텍스트 임베딩이 함께 작용할 때, 얼마나 효과적으로 문맥 기반 유사도 모델링을 향상시킬 수 있는가?
• RQ4 사용자가 특정 유사도 문맥을 기반으로 한 쿼리를 통해 문헌 컬렉션을 효과적으로 탐색할 수 있는가?
• RQ5 다양한 문맥 유형(예: 방법론, 결과)이 추천 품질과 다양성에 어떤 영향을 미치는가?

주요 결과

• 제안된 문맥 기반 유사도 방법은 기존의 단일 점수 기반 방법에 비해, 과학 논문 간에 명백하지 않은 관련성 있는 연결 고리를 검색하는 데서 뚜렷한 성능 향상을 보였다.
• 시스템이 제공하는 문맥 기반 추천 기능 덕분에, 동일한 방법론를 사용하지만 결과가 다른 논문들을 사용자가 탐색할 수 있었으며, 이는 연구에서 유사성 기반 추론을 지원했다.
• 임베딩 공간에 인용 링크를 통합함으로써, 어휘적 유사도를 넘어서는 의미적 관계를 포착하는 데에 모델의 능력이 향상되었다.
• BERT 기반 임베딩과 인용 기반 특징을 융합한 결과, 텍스트나 인용 특징을 별도로 사용하는 것보다 더 높은 정밀도를 달성했다.
• 전문가 사용자가 복잡하고 다층적인 정보 요구를 가진 경우, 시스템은 관련 문헌을 더 잘 식별하는 데 성능을 발휘했다.
• 평가 결과, 문맥 인식 추천은 특히 이질적 분야 간의 유사성 기반 쿼리에 대해 결과의 다양성과 관련성을 모두 향상시켰다.