[논문 리뷰] Continuous QA Learning with Structured Prompts

Zheng, Yinhe|arXiv (Cornell University)|2022. 08. 31.

Topic Modeling인용 수 5

한 줄 요약

Diana는 네 가지 계층적으로 구성된 프롬프트—일반, 형식, 작업, 메타—를 사용하여 다중 군집도에서 지식을 포착하는 동적 아키텍처 기반의 수명 주기 질문-답변 모델이다. 작업 수준 및 인스턴스 수준의 구성 요소를 학습 가능한 키 벡터와 결합하여 지식 공유를 실현함으로써, Diana는 특히 미사용 작업으로의 일반화에서 최신 기술 수준(SOTA)을 초월하여 최대 42.12% 향상된 성능을 달성한다.

ABSTRACT

QA models with lifelong learning (LL) abilities are important for practical QA applications, and architecture-based LL methods are reported to be an effective implementation for these models. However, it is non-trivial to extend previous approaches to QA tasks since they either require access to task identities in the testing phase or do not explicitly model samples from unseen tasks. In this paper, we propose Diana: a dynamic architecture-based lifelong QA model that tries to learn a sequence of QA tasks with a prompt enhanced language model. Four types of hierarchically organized prompts are used in Diana to capture QA knowledge from different granularities. Specifically, we dedicate task-level prompts to capture task-specific knowledge to retain high LL performances and maintain instance-level prompts to learn knowledge shared across different input samples to improve the model's generalization performance. Moreover, we dedicate separate prompts to explicitly model unseen tasks and introduce a set of prompt key vectors to facilitate knowledge sharing between tasks. Extensive experiments demonstrate that Diana outperforms state-of-the-art lifelong QA models, especially in handling unseen tasks.

연구 동기 및 목표

• 기존의 일생 학습(LL) 모델이 추론 시 작업 식별을 요구하거나, 새로운 작업으로의 일반화에 실패하는 한계를 해결한다.
• 재학습 없이 순차적 질문-답변 작업 학습에서 치명적인 망각을 극복한다.
• 작업 특화 및 인스턴스 특화 모델링을 융합하여 효과적인 지식 이동과 새로운 질문-답변 작업으로의 일반화를 가능하게 한다.
• 다양한 작업 간 지식을 동적으로 통합하기 위해 키 벡터와 계층적 프롬프트 구성 방식을 활용한 프롬프트 기반 아키텍처를 설계한다.

제안 방법

• 모든 질문-답변 작업을 프롬프트 강화된 사전 학습된 언어 모델(PLM)을 사용해 통합된 시퀀스 생성 형식으로 변환한다.
• 네 가지 계층적 프롬프트 유형을 도입한다: 일반(모든 작업에 공통), 형식(질문 형식 그룹 내 공통), 작업(각 작업에 전용), 메타(인스턴스 수준 적응을 위한 동적 풀).
• 추론 중 메타 프롬프트를 동적으로 조합하기 위해 학습 가능한 프롬프트 키 벡터 세트를 사용하여 입력 샘플의 적응형 라우팅을 가능하게 한다.
• 거리 기반 정규화 및 다양성 제약 조건(예: ADB)을 도입하여 메타 프롬프트 키가 임베딩 공간에서 국소성과 커버리지 사이의 균형을 유지하도록 보장한다.
• 미사용 작업에 대해 별도의 작업 프롬프트를 할당하고, 키 벡터를 통해 태스크 간 지식 공유를 촉진한다.
• 스케줄링 샘플링 및 음성 샘플링 전략을 적용하여 프롬프트 학습 및 식별 성능 향상을 도모한다.

실험 결과

연구 질문

• RQ1 추론 시 작업 식별을 요구하지 않고도 일생 질문-답변 모델이 새로운 작업으로 효과적으로 일반화할 수 있는가?
• RQ2 다중 군집도에서 계층적 프롬프트 구성이 일생 질문-답변에서 지식 유지 및 일반화에 어떤 영향을 미치는가?
• RQ3 정규화된 키 벡터를 갖는 동적 조합 메타 프롬프트가 본래 및 새로운 작업 모두에서 성능 향상에 얼마나 기여하는가?
• RQ4 미사용 작업을 위한 전용 구성 요소 통합이 모델의 강건성 및 일반화 능력에 어떤 영향을 미치는가?
• RQ5 키 벡터의 다양성과 국소성은 모델이 새로운 작업 식별을 탐지하고 적응하는 데 어떤 기여를 하는가?

주요 결과

• Diana는 추론 시험에서 55.93%의 정확도를 기록하여, 분석 실험에서 다음으로 높은 베이스라인(54.16%)을 크게 능가한다.
• 분석 실험 결과, 메타 프롬프트 구성 요소를 제거할 경우 성능 저하가 가장 크게 발생함을 확인하여, 이 요소가 일생 학습에서 핵심적인 역할을 한다는 것을 입증한다.
• ADB(대역어적 다양성 정규화)를 적용하면 새로운 작업에서의 성능($A_{N'}$)이 크게 향상되어 일반화 능력 향상의 효과를 입증한다.
• 모델의 작업 식별 정확도는 66.97%에 도달하여, 기존의 베이스라인 검출기(59.84%에서 63.43%)를 뛰어넘어 학습된 프롬프트 키 벡터의 효과를 입증한다.
• 정량적 분석 결과, 메타 프롬프트 키 분포는 Z=2에서 높은 다양성(1.00)과 강한 국소성(0.74)을 확보하여 임베딩 공간에서 균형 잡힌 커버리지와 클러스터링을 나타낸다.
• 스케줄링 샘플링 전략은 작업 프롬프트 학습을 향상시켜, 특히 기존 작업에서의 전반적인 일생 학습 성능 향상에 기여한다.