[논문 리뷰] Style Transfer as Unsupervised Machine Translation

Zhirui Zhang, Shuo Ren외 6명|arXiv (Cornell University)|2018. 08. 23.

Natural Language Processing Techniques참고 문헌 30인용 수 114

한 줄 요약

본 논문은 스타일 전송을 비감독 기계 번역 문제로 재프레이밍하고, 단어 수준의 스타일 매핑, SMT 기반 전송 시스템, 병렬 데이터 없이도 스타일 정확도와 내용 보존을 향상시키기 위해 스타일 분류기를 활용한 점진적으로 학습된 NMT 모델을 구축한다.

ABSTRACT

Language style transferring rephrases text with specific stylistic attributes while preserving the original attribute-independent content. One main challenge in learning a style transfer system is a lack of parallel data where the source sentence is in one style and the target sentence in another style. With this constraint, in this paper, we adapt unsupervised machine translation methods for the task of automatic style transfer. We first take advantage of style-preference information and word embedding similarity to produce pseudo-parallel data with a statistical machine translation (SMT) framework. Then the iterative back-translation approach is employed to jointly train two neural machine translation (NMT) based transfer systems. To control the noise generated during joint training, a style classifier is introduced to guarantee the accuracy of style transfer and penalize bad candidates in the generated pseudo data. Experiments on benchmark datasets show that our proposed method outperforms previous state-of-the-art models in terms of both accuracy of style transfer and quality of input-output correspondence.

연구 동기 및 목표

• 병렬 데이터 없이 비감독 학습을 활용하기 위해 스타일 전송을 번역 작업으로 동기부여한다.
• 두 단계 학습 파이프라인을 개발한다: (1) 단어 수준 전송 표 구축 및 SMT 기반 시스템; (2) 반복적 역번역을 가진 양방향 NMT.
• 훈련 중 노이즈를 제어하고 전송 정확도를 보장하기 위해 스타일 분류기를 도입한다.
• 벤치마크 데이터셋에서 기존 최첨단 방법들보다 향상된 스타일 전송 정확도와 내용 보존을 입증한다.

제안 방법

• 단어 임베딩 유사성 및 스타일 선호 신호를 이용하여 단어 수준 스타일 전송 표 P_{s→t}(y_w|x_w)를 구축한다.
• 전송 표와 스타일 특화 언어 모델을 이용해 양방향 SMT 전송 시스템을 구축하고 의사 병렬 데이터를 생성한다.
• 가짜 데이터에서 양방향 NMT 기반 전송 모델을 초기화하고 반복적 역번역으로 학습한다.
• 고스타일 정확도 출력 보상을 위해 외부 스타일 분류기를 도입하고 역번역 최적화 과정에서 잘못된 의사 데이터에 패널티를 부여한다.
• 훈련 목표를 순방향-역방향 우도 하한과 분류기 기반 보상 항의 조합으로 형식화한다.
• 훈련을 위해 빔 탐색으로 기대값을 근사하고 상위 k 개의 번역을 샘플링한다(Algorithm 1).

실험 결과

연구 질문

• RQ1 동일 언어의 병렬이 아닌 말뭉치를 활용하여 병렬 데이터 없이도 효과적인 스타일 전송을 학습할 수 있는가?
• RQ2 단어 수준 전송과 반복적 역번역의 2단계 접근법이 순수한 오토인코더 또는 검색 기반 방법보다 향상되는가?
• RQ3 스타일 분류기를 추가하는 것이 역번역 기반 학습의 안정성과 품질에 미치는 영향은 무엇인가?
• RQ4 제안된 방법이 Yelp/Amazon의 감정 분석 스타일 및 캡션의 낭만적/유머러스한 스타일 등 다양한 스타일 전송 작업에서 기준값과 비교하여 어떻게 성능을 보이는가?

주요 결과

• 제안된 방법은 Yelp, Amazon, Captions 데이터셋에서 스타일 전송 정확도와 내용 보존 측면에서 최신 기준선보다 우수하다.
• 단어 수준 전송 표와 스타일 특화 언어 모델의 결합이 초기 SMT 기반 전송을 효과적으로 가능하게 하며, 이는 후속 NMT 기반 학습에 정보를 제공한다.
• 스타일 분류기를 이용한 반복적 역번역은 양방향 모델 간의 상호 개선을 가져오고 훈련을 안정화한다.
• 인간 평가와 자동 평가에서 제안된 방법이 CrossAligned, MultiDecoder, StyleEmbedding, TemplateBased, Del-Retr-Gen보다 더 높은 스타일 전송 정확도와 입력-출력 품질을 달성함을 보여준다.
• 스타일 분류기는 결정적이다; 이를 제거하면 전송 정확도와 전반적인 성능이 저하된다.
• 분석에 따르면 SMT 단계가 강력한 초기 의사 데이터를 제공하고, 역번역을 포함한 반복적 NMT가 내용 적합도와 유창성을 최적화한다.