[논문 리뷰] Citation Recommendations Considering Content and Structural Context Embedding

Yang Zhang, Qiang Ma|arXiv (Cornell University)|2020. 01. 08.

Topic Modeling참고 문헌 19인용 수 4

한 줄 요약

이 논문은 내용적 맥락, 국소적 맥락, 구조적 맥락—즉, 문서에 존재하는 모든 기존 인용을 정의한 맥락을 통합함으로써 인용 추천을 향상시키는 새로운 문서 임베딩 모델인 DocCit2Vec을 제안한다. 이 모델은 기준 모델들을 능가하며, 특히 DBLP 데이터셋에서 12–15% 높은 재현율을 기록한 DocCit2Vec-avg가, 학술 작성 환경에서 인용 추천의 관련성과 커버리지 향상에 구조적 맥락이 크게 기여함을 입증한다.

ABSTRACT

The number of academic papers being published is increasing exponentially in recent years, and recommending adequate citations to assist researchers in writing papers is a non-trivial task. Conventional approaches may not be optimal, as the recommended papers may already be known to the users, or be solely relevant to the surrounding context but not other ideas discussed in the manuscript. In this work, we propose a novel embedding algorithm DocCit2Vec, along with the new concept of ``structural context'', to tackle the aforementioned issues. The proposed approach demonstrates superior performances to baseline models in extensive experiments designed to simulate practical usage scenarios.

연구 동기 및 목표

• 키워드 매칭이나 국소적 맥락에만 의존하는 전통적 인용 추천기의 한계를 해결하기 위해, 이미 알려진 또는 중복된 논문을 제안하는 경향이 있는 모델의 문제를 해결한다.
• 문서에 이미 인용된 논문을 다시 추천하는 문제를 해결하기 위해, 문서 내 모든 기존 인용의 집합인 구조적 맥락을 통합함으로써 문제를 해결한다.
• 자주 함께 인용되는 논문 패턴(공인용 패턴)을 활용하여 인용 추천 품질을 향상시킨다.
• 내용, 국소적 맥락, 구조적 맥락을 모두 유지하는 통합 임베딩 모델을 개발하여 인용 추천 및 후속 분류 작업을 지원한다.
• 완전한 문서 맥락, 부분적 맥락, 실제 인용 추천 작업과 같은 다양한 상황에서 모델의 효과성을 평가한다.

제안 방법

• 문서 내 모든 이전에 인용된 논문의 집합으로서 '구조적 맥락'의 개념을 도입하여, 중복을 방지하기 위해 인용 공존 패턴을 모델링한다.
• 내용, 국소적 맥락, 구조적 맥락에서의 임베딩을 집계하기 위해 평균 풀링 레이어를 사용하는 모델(DocCit2Vec-avg)과 어텐션 메커니즘을 사용하는 모델(DocCit2Vec-att)을 포함한 이중 아키텍처 신경망 모델인 DocCit2Vec을 제안한다.
• 유사한 의미를 가진 인용 맥락과 그 대상 논문 간의 유사성을 유지하기 위해 대조 학습 목적함수를 사용하여 모델을 훈련시킨다.
• 단어 수준의 임베딩(e.g., Word2Vec)과 문서 수준의 표현(e.g., Doc2Vec)을 통합한 프레임워크에 통합하여 내용과 인용 구조를 함께 인코딩한다.
• 초그래프 기반 접근 방식에서 유도된 문서의 IN 및 OUT 벡터를 사용하여 들어오는 및 나가는 인용 관계를 표현함으로써 구조적 인식 능력을 향상시킨다.
• 학습된 조밀한 벡터를 후속 작업에 적용: 인용 추천(링크 예측) 및 문서 분류(주제 및 인용 기능 분류)

실험 결과

연구 질문

• RQ1 문서 내 존재하는 모든 기존 인용으로 정의된 구조적 맥락을 통합할 경우, 국소적 맥락이나 내용 맥락만을 사용하는 모델 대비 인용 추천 성능이 향상되는가?
• RQ2 내용, 국소적 맥락, 구조적 맥락이라는 다중 소스 맥락을 집계할 때 어텐션 메커니즘과 평균 풀링 간의 성능 차이는 어떻게 되는가?
• RQ3 구조적 맥락을 포함시킬 경우, 이미 인용된 논문이나 중복된 논문의 추천 비율은 어느 정도 감소하는가?
• RQ4 제안된 DocCit2Vec 모델은 완전한 맥락, 부분적 맥락을 포함한 다양한 데이터셋과 인용 추천 시나리오에 대해 잘 일반화되는가?
• RQ5 DocCit2Vec에서 학습된 문서 임베딩는 주제 레이블링 및 인용 기능 분류와 같은 후속 분류 작업에 효과적으로 활용될 수 있는가?

주요 결과

• DBLP 데이터셋에서 DocCit2Vec-avg는 모든 추천 시나리오에서 두 번째로 우수한 모델인 HyperDoc2Vec 대비 12–15% 높은 재현율을 기록했다.
• DBLP 데이터셋에서 DocCit2Vec-avg는 HyperDoc2Vec 대비 MAP를 4–7% 향상시키고 nDCG를 6–11% 향상시켜 순위 매트릭스의 일관된 우수성을 입증했다.
• DocCit2Vec-att는 주제 분류에서 F1-macro(78.43)와 F1-micro(83.80) 점수를 기록하여 HyperDoc2Vec 대비 약 3–4% 높은 성능을 보였다.
• 어텐션 기반 버전인 DocCit2Vec-att는 문서 수준의 분류 작업에서 뛰어난 성능을 보였지만, 단어 수준의 분류에서는 뒤처져, 어텐션 메커니즘이 문서 수준 의미를 잘 포착한다는 점을 시사한다.
• DocCit2Vec-avg는 분류 작업에서 떨어진 성능을 보였는데, 이는 평균화를 통한 문서 유사도 중심의 접근 방식이 특징을 구분하는 데에 부적합하기 때문일 것이다.
• 결과는 DocCit2Vec-avg의 임베딩에 구조적 맥락이 효과적으로 인코딩되어 있음을 확인하며, 맥락 누락 시에도 성능이 높게 유지되어 맥락 부족 상황에 대한 강건성을 보여준다.