[논문 리뷰] Discourse-Aware Soft Prompting for Text Generation

Marjan Ghazvininejad, Vladimir Karpukhin외 2명|arXiv (Cornell University)|2021. 12. 10.

Topic Modeling인용 수 4

한 줄 요약

이 논문은 프리픽스 토닝에 계층적 블로킹과 희소 attention을 도입하여 텍스트 생성을 위한 논의 인식 소프트 프롬프팅을 제안한다. 이는 요약 및 데이터에서 텍스트 생성 작업 전반에 걸쳐 일관성, 충실도, 관련성 측면에서 크게 향상시킨다. 이 방법은 특히 자원이 제한된 환경에서 표준 프리픽스 토닝 및 기존 베이스라인을 능가하며, 전체 미세조정 성능과 맞먹는 성능을 달성한다. 자동 평가 및 인간 평가 모두에서 뛰어난 성능을 보인다.

ABSTRACT

Current efficient fine-tuning methods (e.g., adapters, prefix-tuning, etc.) have optimized conditional text generation via training a small set of extra parameters of the neural language model, while freezing the rest for efficiency. While showing strong performance on some generation tasks, they don't generalize across all generation tasks. We show that soft-prompt based conditional text generation can be improved with simple and efficient methods that simulate modeling the discourse structure of human written text. We investigate two design choices: First, we apply extit{hierarchical blocking} on the prefix parameters to simulate a higher-level discourse structure of human written text. Second, we apply extit{attention sparsity} on the prefix parameters at different layers of the network and learn sparse transformations on the softmax-function. We show that structured design of prefix parameters yields more coherent, faithful and relevant generations than the baseline prefix-tuning on all generation tasks.

연구 동기 및 목표

• 다양한 텍스트 생성 작업 전반에 걸쳐 프리픽스 토닝의 일반화 능력을 향상시키는 것, 특히 개괄적 요약 및 데이터에서 텍스트 생성 작업에 중점을 둔다.
• 구조화된 프리픽스 파rameter 설계를 통해 논의 구조를 모델링하면 생성 품질이 향상되는지 조사하는 것.
• 프리픽스 파rameter에 대한 주의 희소성의 영향을 분석하여 기능 선택 및 성능 향상에 기여하는지 평가하는 것.
• 파라미터 효율성을 유지하면서 전체 미세조정 수준의 성능을 달성하는 것.
• 라벨이 부족한 제한된 데이터 환경에서의 강건성을 입증하는 것.

제안 방법

• 다양한 트랜스포머 레이어에서 입력 및 출력 세그먼트에 대해 별도의 프리픽스 집합을 할당하여 프리픽스 파라미터의 계층적 블로킹을 도입함으로써 논의 구조를 시뮬레이션한다.
• 레이어별로 다른 크기를 가진 프리픽스 토닝을 적용하여, 더 높은 레이어가 성능에 더 큰 영향을 미친다는 것을 발견한다.
• 표준 소프트맥스를 희소 대체법으로 교체하여 프리픽스 토닝 모델의 자기 주의 메커니즘에 희소성을 도입함으로써 추가 파라미터 없이도 성능 향상을 이룬다.
• 스펙트럼 분석을 통해 희소 프리픽스 파라미터가 조밀한 대안보다 더 잘 중요한 특징을 식별한다는 것을 검증한다.
• 구조화된 프리픽스 파라미터와 희소 주의를 사용하여 모델을 훈련시키며, 메인 모델 가중치는 동결한 채로 소프트 프롬프트만 미세조정한다.
• 자동 평가 지표(ROUGE)와 인간 평가를 통해 일관성, 충실도, 관련성, 문법성 및 총합 품질을 평가한다.

실험 결과

연구 질문

• RQ1 트랜스포머 네트워크의 서로 다른 레이어들이 프리픽스 파라미터를 어떻게 다른 효율성으로 처리하는가?
• RQ2 프리픽스 파라미터의 계층적 블로킹이 인간과 유사한 논의 구조를 시뮬레이션하고 생성 품질을 향상시킬 수 있는가?
• RQ3 프리픽스 파라미터에 주의 희소성을 적용하면 기능 표현과 모델 성능이 향상되는가?
• RQ4 논의 인식 소프트 프롬프팅은 다양한 텍스트 생성 작업 전반에 걸쳐 어떻게 일반화되는가, 특히 자원이 제한된 환경에서 어떻게 작용하는가?
• RQ5 구조화된 프리픽스 토닝은 전체 미세조정 수준의 성능을 달성하면서도 파라미터 효율성을 유지할 수 있는가?

주요 결과

• 계층적 블로킹(HierBlock)과 희소 주의(HierBlock+SA)는 모든 자동 평가 지표에서 표준 프리픽스 토닝을 뛰어넘으며, ROUGE-1, ROUGE-2, ROUGE-L 점수 모두 일관되게 높다.
• XSUM 및 Wikihow 요약 작업에서, 훈련 데이터가 50% 미만으로 제한된 경우, HierBlock 및 HierBlock+SA가 전체 미세조정보다 ROUGE-1 및 ROUGE-2에서 뛰어난 성능을 보였다.
• 인간 평가 결과, HierBlock 및 HierBlock+SA는 충실도 및 일관성 측면에서 프리픽스 토닝을 능가하며, 대부분의 평가 기준에서 p < .05의 유의성 수준을 확보했다.
• 자원이 제한된 환경에서 HierBlock+SA는 프리픽스 토닝 및 전체 미세조정보다 다수의 지표에서 더 안정적인 성능을 보였다.
• 데이터에서 텍스트 생성 작업에서는 전체 미세조정과 유사한 성능을 달성했으며, 인간 평가에서는 요약 작업에서 약간 뛰어난 성능을 보였다.
• 스펙트럼 분석 결과, 희소 프리픽스 파라미터가 조밀한 대비보다 더 중요한 특징을 잘 식별한다는 것이 확인되었으며, 이는 희소성 설계의 타당성을 뒷받침한다.