[논문 리뷰] Zero-Shot Retrieval with Search Agents and Hybrid Environments

Michelle Chen Huebscher, Christian Buck외 2명|arXiv (Cornell University)|2022. 09. 30.

Topic Modeling인용 수 5

한 줄 요약

이 논문은 밀도형(GTR)과 희소형(BM25) 검색을 결합한 하이브리드 검색 환경(HRE)에서 검색 에이전트를 사용해 반복적으로 쿼리를 개선하는 제로샷 검색 시스템인 HaRE를 제안한다. 교차 인코더 재정렬을 통해 성능을 높인다. 에이전트는 BEIR 벤치마크에서 기존 최고 성능를 달성하면서도 재정렬 대상 문서 수를 10분의 1로 줄이고 속도를 2배로 높이며, 해석 가능성과 강한 내영역 성능를 유지한다.

ABSTRACT

Learning to search is the task of building artificial agents that learn to autonomously use a search box to find information. So far, it has been shown that current language models can learn symbolic query reformulation policies, in combination with traditional term-based retrieval, but fall short of outperforming neural retrievers. We extend the previous learning to search setup to a hybrid environment, which accepts discrete query refinement operations, after a first-pass retrieval step via a dual encoder. Experiments on the BEIR task show that search agents, trained via behavioral cloning, outperform the underlying search system based on a combined dual encoder retriever and cross encoder reranker. Furthermore, we find that simple heuristic Hybrid Retrieval Environments (HRE) can improve baseline performance by several nDCG points. The search agent based on HRE (HARE) matches state-of-the-art performance, balanced in both zero-shot and in-domain evaluations, via interpretable actions, and at twice the speed.

연구 동기 및 목표

• 밀도형 및 희소형 검색을 하이브리드 환경에서 결합하여 제로샷 검색 성능을 향상시키는 것.
• 이산적인 쿼리 연산을 사용한 학습 가능한 검색 에이전트를 통해 해석 가능하고 목표 지향적인 검색 행동을 가능하게 하는 것.
• 비용이 많이 드는 교차 인코더 재정렬이 필요한 문서 수를 최소화하여 계산 비용을 절감하는 것.
• 제로샷 성능를 최고 수준으로 달성하면서도 강력한 내영역 성능를 유지하는 것.
• 하이브리드 검색 시스템에서 효과적이고 해석 가능한 검색 정책을 학습하는 것이 가능한지 탐색하는 것.

제안 방법

• 하이브리드 검색 환경(HRE)은 이중 인코더(GTR)와 BM25의 결과를 결합한 후, 상위-k 문서를 교차 인코더를 사용해 재정렬한다.
• Rocchio 기반 세션 절차에서 생성된 쿼리 개선 트래잭터리에 기반해 행동 복제를 통해 학습된 검색 에이전트(HaRE)를 사용한다.
• 에이전트는 주로 '+' 연산자를 사용해 단어를 추가하는 이산적이고 기호적인 쿼리 연산을 적용하여 반복적으로 쿼리를 개선하고 검색 성능를 향상시킨다.
• 에이전트는 인간과 유사한 '갈퀴질' 행동을 모방하는 순차적이고 다단계적인 방식으로 작동한다. 이는 관련 문서 클러스터를 탐색하는 데에 기여한다.
• 학습 데이터는 의사-관찰 피드백을 사용해 생성되며, 에이전트는 초기 쿼리의 상위 결과에서 학습한다.
• 재정렬에는 T5 기반 대형 모델(T5-R)을, 쿼리 생성에는 T5 기반 대형 모델(T5-Q)을 사용하며, 더 큰 모델은 더 높은 강건성을 보였다.

실험 결과

연구 질문

• RQ1 하이브리드 검색 환경에서 작동할 때, 학습 가능한 검색 에이전트가 신경망 기반 검색기보다 제로샷 검색 성능를 뛰어넘을 수 있는가?
• RQ2 이산적이고 해석 가능한 쿼리 개선 연산은 계산 비용을 줄이며 검색 성능를 얼마나 향상시킬 수 있는가?
• RQ3 하이브리드 검색 환경의 성능는 더 복잡하거나 깊이 있는 재정렬 기준과 비교해 어떻게 되는가?
• RQ4 微조정 없이도 외부 영역 쿼리에 대해 에이전트가 효과적으로 일반화할 수 있는가?
• RQ5 모델 규모는 에이전트 및 그 구성 요소의 강건성과 성능에 어떤 역할을 하는가?

주요 결과

• HaRE는 BEIR 벤치마크에서 평균 nDCG@10이 0.511을 기록하며, 기존 최고 성능를 유지하면서 재정렬 대상 문서 수를 1000개에서 100개로 줄였다.
• 하이브리드 검색 환경(HRE)은 GTR나 BM25를 별도로 사용할 때보다 기준 성능를 몇 점 이상 향상시켰다.
• SOTA 시스템(Rosa 등, 2022)이 1000개 문서를 재정렬하는 데 비해 HaRE는 지연 시간을 50% 감소시켰다.
• 에이전트는 대부분의 경우 '+' 연산자만 사용하는 것으로 나타나, 훈련 데이터에서 '+'가 약 83%의 동작에서 나타나는 불균형이 있을 가능성이 있다.
• HRE 설계가 단순한 편임에도 불구하고 더 복잡한 하이브리드 시스템을 능가하며 강력한 내영역 성능를 유지한다.
• 문서 깊이가 k=50를 초과할 경우 성능 저하가 발생하여, 재정렬기의 스케일에 대한 강건성에 한계가 있음을 시사한다.