[논문 리뷰] MOVER: Mask, Over-generate and Rank for Hyperbole Generation

Yunxiang Zhang, Xiaojun Wan|arXiv (Cornell University)|2021. 09. 16.

Multimodal Machine Learning Applications인용 수 4

한 줄 요약

이 논문은 비평행 데이터를 사용하여 문장의 직역 표현에서 비유적 표현을 생성하기 위한 비지도 학습 방법인 MOVER를 제안한다. 새로운 '마스크, 과다 생성, 순위 매기기' 파이프라인을 도입하였으며, 17,862개 문장으로 구성된 영어 비유 어휘집인 HYPO-XL을 처음으로 제작하였다. 자동 평가 및 인간 평가를 통해 MOVER가 의미를 유지하면서도 효과적으로 비유적 텍스트를 생성하며, 기준 모델들을 능가함을 입증하였다.

ABSTRACT

Despite being a common figure of speech, hyperbole is under-researched in Figurative Language Processing. In this paper, we tackle the challenging task of hyperbole generation to transfer a literal sentence into its hyperbolic paraphrase. To address the lack of available hyperbolic sentences, we construct HYPO-XL, the first large-scale English hyperbole corpus containing 17,862 hyperbolic sentences in a non-trivial way. Based on our corpus, we propose an unsupervised method for hyperbole generation that does not require parallel literal-hyperbole pairs. During training, we fine-tune BART to infill masked hyperbolic spans of sentences from HYPO-XL. During inference, we mask part of an input literal sentence and over-generate multiple possible hyperbolic versions. Then a BERT-based ranker selects the best candidate by hyperbolicity and paraphrase quality. Automatic and human evaluation results show that our model is effective at generating hyperbolic paraphrase sentences and outperforms several baseline systems.

연구 동기 및 목표

• NLP 모델 훈련을 위한 대규모 비유적 텍스트 데이터 부족 문제를 해결하기 위해.
• 비평행 직역-비유 문장 쌍이 필요 없이 직역 문장에서 비유적 비유문장을 생성하기 위한 비지도 학습 방법을 개발하기 위해.
• 생성된 텍스트에서 의미 보존과 비유적 과장 사이의 균형을 이루기 위해.
• 세 단계 파이프라인을 통해 제어 가능하고 해석 가능하며 유연한 비유 문장 생성을 가능하게 하기 위해.

제안 방법

• 약한 지도 학습을 통한 검색과 인간의 검수를 통한 개선을 통해 수집한 17,862개의 비유 문장으로 구성된 대규모 비평행 비유 어휘집인 HYPO-XL을 구축한다.
• HYPO-XL의 문장에서 비유적 구간을 마스크한 후, BART를 미세조정하여 비유적 생성을 유도하는 스펜 인페닝을 수행한다.
• 추론 단계에서 입력 직역 문장의 일부를 마스크하고, 미세조정된 BART 모델을 사용해 다수의 비유적 변형을 과다 생성한다.
• 비유성과 비유문장 품질을 모두 고려하여 BERT 기반 순위 매기기 모델을 사용해 최상의 후보를 선택한다.
• 비유 문장 생성을 스타일 전이나 비유문장 생성 과제가 아니라 문장 편집 과제로 프레임하여 과장 정도를 더 잘 제어할 수 있도록 한다.
• '과다 생성 및 순위 매기기' 파rag마를 활용하여 비평행 훈련 데이터가 필요 없이도 출력 품질을 향상시킨다.

실험 결과

연구 질문

• RQ1 약한 지도 학습과 인간 참여의 정제를 통해 효과적으로 대규모 비평행 비유 어휘집을 구축할 수 있는가?
• RQ2 비평행 직역-비유 문장 쌍이 없이도 마스크된 시퀀스-투-시퀀스 모델이 비유적 텍스트를 생성할 수 있는가?
• RQ3 과다 생성 및 순위 매기기 파이프라인이 의미 있고 비유적인 비유문장을 생성하는 데 있어 종단 간 또는 기준 모델보다 우수한가?
• RQ4 BERT 기반 순위 매기기 모델이 생성된 출력에서 비유성과 비유문장 품질을 효과적으로 균형 잡을 수 있는가?

주요 결과

• 제안된 HYPO-XL 어휘집은 현재까지 영어로 구축된 가장 큰 비유 어휘집으로, 17,862개의 고품질 비유 문장을 포함하고 있다.
• HYPO-XL에서 미세조정한 BERT 기반 비유 탐지 모델은 테스트 세트에서 80%의 정확도를 달성하여 비유 탐지 작업에서 뛰어난 성능을 보였다.
• 자동 평가 및 인간 평가를 통해 MOVER가 여러 기준 모델보다 우수한 성능을 보이며 비유적 비유문장을 효과적으로 생성함을 입증하였다.
• 인간 평가 결과, MOVER가 생성한 문장은 비유성과 의미 보존 사이에 유리한 균형을 달성하고 있음을 확인하였다.
• 과다 생성 및 순위 매기기 전략은 종단 간 생성 모델에 비해 더 높은 해석 가능성과 더 넓은 적용 유연성을 제공한다.