[논문 리뷰] A Neural Approach to Irony Generation

Mengdi Zhu, Zhiwei Yu외 1명|arXiv (Cornell University)|2019. 09. 13.

Sentiment Analysis and Opinion Mining참고 문헌 25인용 수 6

한 줄 요약

이 논문은 강화학습을 활용한 시퀀스-투-시퀀스 모델을 사용하여 비문 문장을 생성하는 데 있어 처음으로 신경망 기반 접근법을 제안한다. 이는 262,755건의 비문 트윗과 112,330건의 비비문 트윗을 포함하는 대규모 트위터 기반 데이터셋을 기반으로 한다. 비문 정확도, 감성 유지, 콘텐츠 무결성이라는 새로운 보상 조합을 도입하여 의미적으로 일관되고 감성 일致성이 있는 비문 생성 성능을 달성하였다.

ABSTRACT

Ironies can not only express stronger emotions but also show a sense of humor. With the development of social media, ironies are widely used in public. Although many prior research studies have been conducted in irony detection, few studies focus on irony generation. The main challenges for irony generation are the lack of large-scale irony dataset and difficulties in modeling the ironic pattern. In this work, we first systematically define irony generation based on style transfer task. To address the lack of data, we make use of twitter and build a large-scale dataset. We also design a combination of rewards for reinforcement learning to control the generation of ironic sentences. Experimental results demonstrate the effectiveness of our model in terms of irony accuracy, sentiment preservation, and content preservation.

연구 동기 및 목표

• 대규모 비문 데이터셋의 부족과 자연어에서 비문 패턴을 모델링하는 데의 어려움을 해결하기 위해.
• 비문 생성을 극성 대비 어조 비문에 초점을 맞춘 스타일 전이 작업으로 정의하고 수식화하기 위해.
• 비비문 문장을 비문 문장으로 변환하면서도 감성과 콘텐츠를 유지하는 신경 시퀀스-투-시퀀스 모델을 개발하기 위해.
• 비문 정확도, 감성, 콘텐츠 무결성에 특화된 보상 신호를 포함한 다중 목적 강화학습 프레임워크를 설계하기 위해.
• 첫 번째 대규모 비문 데이터셋을 공개하고 향후 비문 생성 연구를 위한 벤치마크를 구축하기 위해.

제안 방법

• 트위터에서 200만 건 이상의 트윗을 크롤링하여 비문 262,755건과 비비문 112,330건을 포함하는 대규모 데이터셋을 구축하였다.
• 비비문에서 비문 스타일로의 비지도 스타일 전이를 수행하기 위해 강화학습을 적용한 시퀀스-투-시퀀스 모델을 제안하였다.
• 비문 보상(분류기 기반), 감성 보상(극성 일致성 기반), 콘텐츠 보상(노이즈 제거 오토인코더 및 백트랜슬레이션 기반)을 조합한 다중 구성 요소 보상 함수를 설계하였다.
• 생성 품질과 안정성을 향상시키기 위해 사전학습 후 강화학습을 통한 미세조정을 통합하였다.
• 중복 단어 생성을 줄이기 위해 디코딩 중에 단어 반복 페널티를 구현하였다.
• 비문에서 비비문으로의 이중 방향 전환을 탐색하여 모델의 강건성과 일반화 능력을 평가하였다.

실험 결과

연구 질문

• RQ1 비비문 입력에서 감성과 콘텐츠를 유지하면서 신경 시퀀스-투-시퀀스 모델이 비문 문장을 효과적으로 생성할 수 있는가?
• RQ2 강화학습을 다중 보상 신호와 효과적으로 통합하여 생성 출력의 비문성, 감성, 콘텐츠 무결성을 제어할 수 있는가?
• RQ3 비문 생성의 주요 실패 유형은 무엇이며, 이를 어떻게 완화할 수 있는가?
• RQ4 소셜 미디어 데이터에서 실생활의 대규모 비문 데이터셋을 구성할 수 있는가?
• RQ5 비문에서 비비문으로의 반대 전환 작업에서 모델의 성능은 어떠한가?

주요 결과

• 제안된 모델은 높은 비문 정확도를 달성하면서도 감성과 콘텐츠 무결성을 강력하게 유지하여 기존 생성 모델을 능가한다.
• 비문, 감성, 콘텐츠 보상의 조합은 단일 또는 双중 보상만을 사용하는 모델에 비해 생성 품질을 크게 향상시킨다.
• 인간 평가 결과, 비비문에서 비문으로의 변환 작업에서 감성과 콘텐츠 무결성 측면에서 모델이 두 번째로 높은 순위를 기록하였다.
• 모델는 체계적인 오류를 보이며, 특히 감성 어휘가 아닌 단어의 교체가 잘못 일어나는 경우가 많다.
• 비문에서 비비문으로의 반대 생성 작업은 콘텐츠와 감성을 잘 유지하지만 비문 정확도에서 어려움을 겪어 역변환을 학습하는 데 도전 과제가 있음을 시사한다.
• 공개된 375,085건의 트윗 데이터셋(비문 262,755건, 비비문 112,330건)은 향후 비문 생성 연구를 위한 귀중한 벤치마크를 제공한다.