[논문 리뷰] Neural Ranking Models with Weak Supervision

Mostafa Dehghani, Hamed Zamani외 3명|arXiv (Cornell University)|2017. 04. 28.

Topic Modeling참고 문헌 29인용 수 4

한 줄 요약

이 논문은 인간 레이블링 없이도 대규모 훈련 데이터를 생성할 수 있는 비지도 정보 검색 모델(BM25 등)로부터 약한 지도 학습 신호를 활용해 신경망 순위 모델을 훈련시키는 방법을 제안한다. 수십억 개의 약한 레이블이 부여된 쿼리-문서 쌍을 활용하여, Robust04와 ClueWeb에서 각각 BM25보다 13% 이상, 35% 이상의 MAP 향상을 달성하였으며, 이는 약한 지도 신호 데이터에서 사전 훈련하는 것이 특히 레이블 데이터가 제한된 경우 성능을 크게 향상시킨다는 것을 보여준다.

ABSTRACT

Despite the impressive improvements achieved by unsupervised deep neural networks in computer vision and NLP tasks, such improvements have not yet been observed in ranking for information retrieval. The reason may be the complexity of the ranking problem, as it is not obvious how to learn from queries and documents when no supervised signal is available. Hence, in this paper, we propose to train a neural ranking model using weak supervision, where labels are obtained automatically without human annotators or any external resources (e.g., click data). To this aim, we use the output of an unsupervised ranking model, such as BM25, as a weak supervision signal. We further train a set of simple yet effective ranking models based on feed-forward neural networks. We study their effectiveness under various learning scenarios (point-wise and pair-wise models) and using different input representations (i.e., from encoding query-document pairs into dense/sparse vectors to using word embedding representation). We train our networks using tens of millions of training instances and evaluate it on two standard collections: a homogeneous news collection(Robust) and a heterogeneous large-scale web collection (ClueWeb). Our experiments indicate that employing proper objective functions and letting the networks to learn the input representation based on weakly supervised data leads to impressive performance, with over 13% and 35% MAP improvements over the BM25 model on the Robust and the ClueWeb collections. Our findings also suggest that supervised neural ranking models can greatly benefit from pre-training on large amounts of weakly labeled data that can be easily obtained from unsupervised IR models.

연구 동기 및 목표

• 비지도 정보 검색 모델(BM25 등)이 효과적인 신경망 순위 모델을 훈련시키기 위한 약한 지도 신호로 활용될 수 있는지 조사하기 위해.
• 약한 지도 학습 조건 하에서 다양한 입력 표현 방식과 학습 목표 함수(점별 vs. 쌍별)의 영향을 평가하기 위해.
• 레이블 데이터가 제한된 상황에서, 약한 지도 학습 데이터에서 사전 훈련한 모델이 감독 학습 모델의 성능 향상에 기여하는지 확인하기 위해.
• 약한 지도 학습 기반 신경망 순위 모델에서 높은 성능을 내는 데 핵심이 되는 설계 요소를 규명하기 위해.

제안 방법

• 수백만 개의 쿼리에 대해 BM25를 사용하여 이진 관련성 레이블(관련 시 1, 비관련 시 0)을 자동으로 생성한다.
• 수십억 개의 약한 레이블이 부여된 인스턴스에서 피드포워드 신경망을 훈련시키며, 입력 표현 방식은 원시 임베딩에서부터 밀도/희소 벡터까지 다양하게 적용한다.
• 점별 및 쌍별 학습 목표 함수를 모두 사용하며, 과적합을 줄이기 위해 약한 레이블에 민감한 캘리브레이션 스코어링보다는 순위 최적화에 중점을 둔다.
• 고정된 특징 공학 기법에 의존하지 않고, 쿼리 및 문서 표현을 엔드 투 엔드로 학습한다.
• 소량의 레이블 데이터로 테스트하기 전에 약한 지도 학습 데이터에서 깊은 신경망을 사전 훈련하여 일반화 성능을 향상시킨다.
• 표준 어드혹 검색 벤치마크인 Robust04와 ClueWeb09-B에서 모델 성능을 평가한다.

실험 결과

연구 질문

• RQ1 RQ1: BM25와 같은 비지도 정보 검색 모델의 레이블이 효과적인 신경망 순위 모델을 훈련시키기 위한 약한 지도 신호로 사용될 수 있는가?
• RQ2 RQ2: 이러한 설정에서 가장 적합한 입력 표현 방식과 학습 목표 함수는 무엇인가?
• RQ3 RQ3: 레이블 데이터가 제한된 경우, 감독 학습 모델이 약한 지도 학습 단계를 거치면 성능 향상에 기여하는가?

주요 결과

• 가장 뛰어난 성능을 보인 신경망 순위 모델은 Robust04 컬렉션에서 BM25보다 13% 이상, ClueWeb 컬렉션에서 35% 이상의 MAP 향상을 달성하였다.
• 인간 레이블링 데이터가 전혀 없이도, 약한 레이블을 생성한 BM25 모델을 초월하는 성능을 보였으며, 이는 약한 신호를 넘어서 일반화된 성능을 달성했다는 것을 의미한다.
• 레이블 데이터가 제한된 상황에서 약한 지도 학습 데이터에서 사전 훈련한 것은 감독 학습 모델의 성능 향상에 크게 기여하였다.
• 가장 효과적인 모델들은 고정된 특징 집합에 의존하기보다는 엔드 투 엔드로 입력 표현을 학습함으로써 더 나은 일반화 성능을 달성하였다.
• 스코어링의 정밀도 보다는 순위 최적화에 중점을 둔 목적 함수 정의가, 약한 레이블 데이터의 불완전성에 대한 과적합을 방지하는 데 기여하였다.
• 약한 지도 학습을 통해 확보된 대규모 훈련 데이터는 이 설정에서 딥 뉴럴 네트워크 성공의 핵심 요소였다.