[논문 리뷰] Unsupervised Text Generation by Learning from Search

Jingjing Li, Zichao Li외 4명|arXiv (Cornell University)|2020. 07. 09.

Topic Modeling참고 문헌 54인용 수 31

한 줄 요약

tgls는 강력한 시뮬레이티드 어닐링 검색과 학습 가능한 GPT2 기반 생성기를 조합하여 비지도 텍스트 생성을 수행하고, 패러프레이즈 생성에서 최첨단 결과를 달성하며 텍스트 형식화에서 경쟁력 있는 성능을 보인다.

ABSTRACT

In this work, we present TGLS, a novel framework to unsupervised Text Generation by Learning from Search. We start by applying a strong search algorithm (in particular, simulated annealing) towards a heuristically defined objective that (roughly) estimates the quality of sentences. Then, a conditional generative model learns from the search results, and meanwhile smooth out the noise of search. The alternation between search and learning can be repeated for performance bootstrapping. We demonstrate the effectiveness of TGLS on two real-world natural language generation tasks, paraphrase generation and text formalization. Our model significantly outperforms unsupervised baseline methods in both tasks. Especially, it achieves comparable performance with the state-of-the-art supervised methods in paraphrase generation.

연구 동기 및 목표

• 병렬 데이터 없이 비지도 텍스트 생성을 다루는 도전을 해결한다.
• SA 검색과 신경 학습을 교대로 수행하는 학습-에서 검색 프레임워크(tgls)를 제안한다.
• tgls 내에서 대형 사전학습 모델(GPT-2를 유창성에, RoBERTa를 의미론에)을 활용한다.
• 패러프레이즈 생성 및 텍스트 형식화 작업에서 효과를 입증한다.
• 반복적인 검색-학습 부트스트래핑이 성능을 향상시키고 추론 효율성을 개선함을 보여준다.

제안 방법

• 문장 공간을 탐색하기 위해 신경 제안을 갖춘 시뮬레이티드 어닐링(SA)을 사용한다.
• 유창성(s_lm)과 의미론(s_semantic) 및 작업 특화 점수(s_task)를 결합하는 전문가 곱 점수 함수를 정의한다.
• SA 생성 의사 참조에 대해 단어 수준 교차 엔트로피 손실(CE)을 사용하여 GPT-2를 미세조정한다.
• 검색과 점수를 보완하기 위해 RoBERTa 기반의 단어 및 문장 수준 의미 점수를 채택한다.
• 두 번째 단계에서 빔 탐색을 사용해 SA를 초기화하고 양성/음성 샘플로 GPT-2를 정제하기 위해 시퀀스 수준 최대 마진(MM) 학습을 적용한다.
• 추론 시 SA 없이 미세조정된 GPT-2를 배치해 자동회귀적으로 텍스트를 생성한다.
• 두 가지 사전학습 모델을 도입한다: 텍스트의 가능도/유창성을 위한 GPT-2와 의미 평가 및 단어 수준 예측을 위한 RoBERTa.

실험 결과

연구 질문

• RQ1 검색 결과로부터 학습하여 비지도 텍스트 생성이 경쟁력 있는 성능에 도달할 수 있는가?
• RQ2 검색과 학습의 반복 루프가 단일 단계 접근법을 넘어서 생성 품질을 향상시키는가?
• RQ3 대형 사전학습 모델을 검색 기반의 비지도 생성 프레임워크에 효과적으로 통합할 수 있는 방법은 무엇인가?
• RQ4 프레임워크가 패러프레이즈 생성과 텍스트 형식화 작업 전반에 걸쳐 견고한가?

주요 결과

방법	iBLEU	BLEU
SA	14.52	21.08
SA + CE	14.97	23.25
SA + CE + SA	15.41	21.48
SA + CE + SA + CE	15.70	21.70
SA + CE + SA + MM (full)	17.48	25.00
tgls w/ PLM (Ours)	N/A	N/A

• tgls는 패러프레이즈 생성에서 iBLEU 17.48 및 BLEU 25.00를 달성하여 이 작업에서 비지도 최첨단을 새로 설정한다.
• tgls는 이전의 비지도 방법들을 능가하고 패러프레이즈 생성에서 감독 학습 성능에 근접한다(감독과의 iBLEU 격차 1.71).
• 텍스트 형식화에서 tgls는 GYAFC 스타일 설정의 기존 비지도 기준선을 능가하지만, 감독 학습 방법이 여전히 앞선다.
• 제거 연구는 CE 학습이 SA 결과를 개선하고, MM 학습은 2단계에서 SA와 결합될 때 더 강한 이점을 제공함을 보여준다.
• 학습된 GPT-2로의 추론( SA 없이) 이 원래의 검색 기반 방법보다 6–10배 빠르며 효율성 이점을 보여준다.