[논문 리뷰] DPTDR: Deep Prompt Tuning for Dense Passage Retrieval

Zhengyang Tang, Benyou Wang외 1명|arXiv (Cornell University)|2022. 08. 24.

Topic Modeling인용 수 4

한 줄 요약

이 논문은 MS-MARCO와 Natural Questions에서 SOTA 성능을 달성하는 딥 프롬프트 튜닝 방법인 DPTDR를 제안한다. 이는 검색 중심 중간 사전학습(RIP)과 통합 음성 마이닝(UNM)을 도입하여 프롬프트 튜닝이 파라미터 효율적 적응을 통해 훈련 비용을 크게 줄이며 테스트 테일링 성능에 맞추어진다.

ABSTRACT

Deep prompt tuning (DPT) has gained great success in most natural language processing~(NLP) tasks. However, it is not well-investigated in dense retrieval where fine-tuning~(FT) still dominates. When deploying multiple retrieval tasks using the same backbone model~(e.g., RoBERTa), FT-based methods are unfriendly in terms of deployment cost: each new retrieval model needs to repeatedly deploy the backbone model without reuse. To reduce the deployment cost in such a scenario, this work investigates applying DPT in dense retrieval. The challenge is that directly applying DPT in dense retrieval largely underperforms FT methods. To compensate for the performance drop, we propose two model-agnostic and task-agnostic strategies for DPT-based retrievers, namely retrieval-oriented intermediate pretraining and unified negative mining, as a general approach that could be compatible with any pre-trained language model and retrieval task. The experimental results show that the proposed method (called DPTDR) outperforms previous state-of-the-art models on both MS-MARCO and Natural Questions. We also conduct ablation studies to examine the effectiveness of each strategy in DPTDR. We believe this work facilitates the industry, as it saves enormous efforts and costs of deployment and increases the utility of computing resources. Our code is available at https://github.com/tangzhy/DPTDR.

연구 동기 및 목표

• 각 작업에 대해 백본 모델의 별도 복제본이 필요한 다중 작업 밀도 있는 검색 시나리오에서 테일링(FT)의 높은 배포 비용을 해결하기 위해.
• 딥 프롬프트 튜닝(DPT)이 이 설정에서 일반적으로 성능 저하를 보이지만, 테일링(FT)과 비교해 유사한 성능을 달성할 수 있는지 조사하기 위해.
• 모델 아키텍처를 수정하지 않고도 DPT 성능을 향상시키기 위한 모델 독립적이고 작업 독립적인 전략을 개발하기 위해.
• 단일 동결된 백본을 사용하여 다수의 검색 모델을 효율적이고 확장 가능하게 배포할 수 있도록 가벼운 트레이너블 프롬프트를 활용하기 위해.

제안 방법

• 검색 중심 중간 사전학습(RIP)을 도입하여, 임의로 샘플된 문장이나 텍스트 스냅샷을 사용해 대비 학습을 적용하여 프롬프트 튜닝 이전에 표현 품질을 향상시킨다.
• 통합 음성 마이닝(UNM)을 제안하여 BM25 및 밀도 있는 검색기와 같은 다양한 검색기에서 유도된 하드 음성 샘플을, 노이즈가 제거되지 않은 상태와 제거된 상태의 샘플링을 모두 사용해 통합함으로써 훈련 신호의 다양성과 난이도를 향상시킨다.
• 사전 훈련된 언어 모델(RoBERTa 등)의 깊은 레이어에 트레이너블 프롬프트 벡터를 삽입하여 딥 프롬프트 튜닝(DPT)을 구현하고, 백본 가중치는 동결하며 오직 프롬프트 파라미터만 테일링한다.
• 대비 학습 목표를 사용하여 양성 페어를 정렬하고 표현 공간을 균일하게 하며, 표현 품질 평가를 위한 손실 구성 요소 $l_{align}$과 $l_{uniform}$을 사용한다.
• 다양한 검색기에서 유도된 하드 음성 샘플을 정제하기 위해 재랭커를 적용하여 DPT 훈련에 사용되는 음성 샘플의 품질을 향상시킨다.
• 모델 아키텍처를 수정하지 않고도 어떤 사전 훈련된 언어 모델(PLM)에도 적용 가능하여 DPT 기반 검색기의 플러그 앤 플레이 배포를 가능하게 한다.

실험 결과

연구 질문

• RQ1 딥 프롬프트 튜닝(DPT)이 이 설정에서 일반적으로 성능 저하를 보이지만, 테일링(FT)과 유사한 성능을 달성할 수 있는가?
• RQ2 검색 중심 중간 사전학습(RIP)이 텍스트 표현 품질을 향상시켜 DPT 성능을 크게 향상시키는가?
• RQ3 다양한 검색 시스템에서 유도된 다양한 하드 음성 샘플을 통합하는 통합 음성 마이닝(UNM)이 DPT 성능을 얼마나 향상시키는가?
• RQ4 RIP와 UNM의 성능 향상 효과가 다양한 사전 훈련된 언어 모델과 검색 벤치마크 전반에서 견고한가?
• RQ5 DPT 기반 모델이 파라미터 효율성 덕분에 낮은 배포 비용을 유지하면서도 SOTA 결과를 달성할 수 있는가?

주요 결과

• DPTDR는 MS-MARCO와 Natural Questions 양 쪽 모두에서 이전 SOTA 모델을 초월하여 각각 MRR@10 38.7과 35.5의 성능을 기록했다.
• RIP와 UNM의 조합은 DPT가 전체 테일링 성능에 맞추어지도록 하며, MS-MARCO에서 순수 DPT 대비 MRR@10이 3.2 포인트 향상되었다.
• 임의로 샘플된 문장으로 수행한 RIP 사전학습은 스냅샷 기반 샘플링보다 더 나은 제로샷 성능(MRR@10: 15.4)을 보였으며, 이는 문장 수준의 사전학습이 의미의 완전성을 유지함을 시사한다.
• RIP는 추가 디코더 구조를 가진 정교하게 수정된 coCondenser 모델보다도 정렬($l_{align}$)과 균일성($l_{uniform}$) 측면에서 성능이 뛰어나, 아키텍처 수정이 반드시 필요하지 않음을 시사한다.
• UNM은 다양한 검색기에서 유도된 노이즈가 제거되지 않은 하드 음성 샘플을 통합할 경우 MRR@10에서 1.5 포인트 향상되었고, 노이즈가 제거된 음성 샘플을 추가로 통합하면 추가로 0.4 포인트 향상되었다.
• DPTDR는 프롬프트 길이에 민감하지 않으며, RIP와 조합할 경우 제로샷 설정에서도 강력한 성능을 기록하여 안정성과 일반화 능력을 입증한다.