[논문 리뷰] Style Transfer from Non-Parallel Text by Cross-Alignment

Tianxiao Shen, Tao Leí외 2명|arXiv (Cornell University)|2017. 05. 26.

Topic Modeling참고 문헌 25인용 수 353

한 줄 요약

논문은 비병렬 텍스트를 사용하여 스타일 전송을 수행하기 위한 교차 정렬 프레임워크를 제시하며, 공유 콘텐츠 잠재 공간을 학습하고 스타일 간 분포를 정렬하여 감정 수정, 단어 치환 암호 해독, 단어 순서 복구를 평가한다.

ABSTRACT

This paper focuses on style transfer on the basis of non-parallel text. This is an instance of a broad family of problems including machine translation, decipherment, and sentiment modification. The key challenge is to separate the content from other aspects such as style. We assume a shared latent content distribution across different text corpora, and propose a method that leverages refined alignment of latent representations to perform style transfer. The transferred sentences from one style should match example sentences from the other style as a population. We demonstrate the effectiveness of this cross-alignment method on three tasks: sentiment modification, decipherment of word substitution ciphers, and recovery of word order.

연구 동기 및 목표

• 비병렬 데이터(단일 스타일의 비병렬)만 이용 가능한 설정에서 스타일 전송에 동기를 부여한다.
• 콘텐츠 표현을 과도하게 교란하지 않으면서 스타일로부터 콘텐츠를 분리하는 refined cross-alignment 접근법을 제안한다.
• 비병렬 데이터를 사용하여 감정 수정, 단어 치환 해독, 단어 순서 복구 등 여러 작업에서 효과를 보여준다.
• 스타일 간 콘텐츠 분포를 정렬하여 양 transferable 매핑을 가능하게 하는 이론적 및 실용적 조건을 탐구한다.

제안 방법

• 문장과 그 스타일을 스타일에 독립적인 콘텐츠 표현 z로 매핑하는 인코더 E를 도입한다.
• 주어진 스타일 y와 콘텐츠 z에서 x를 디코딩하는 스타일 의존 생성기 G를 도입하여 스타일 간 교차 전이를 가능하게 한다.
• 두 가지 학습 변형을 사용한다: 정렬된 오토인코더(aligned auto-encoder) (스타일 간 z 분포를 정렬하기 위한 적대적 판별기를 포함) 및 교차 정렬 오토인코더(cross-aligned auto-encoder) (두 스타일 중 하나의 실제 샘플과 전이된 샘플을 이중 판별기로 정렬).
• 간단한 p(z) 사전(prior)을 강제하지 말고 대신 풍부한 콘텐츠 표현과 교차 모집단 분포 정렬을 장려하여 비병렬 스타일 전송을 지원한다.
• 연속 이완 및 Professor-Forcing를 적용하여 이산 언어 출력을 가진 학습을 수행하고 그레이디언트 추정 문제를 완화한다.
• 잠재 공간 정렬과 강건한 교차 도메인 전이를 보장하기 위해 두 개의 판별기와 두 개의 학습 신호를 사용한다.

실험 결과

연구 질문

• RQ1 동일한 콘텐츠 분포를 가진 비병렬 코퍼스로부터 스타일 전이 매핑을 학습하기 위해 스타일 간 잠재 콘텐츠를 정렬하는 것이 가능한가?
• RQ2 잠재 표현의 교차 정렬이 감정 수정, 해독 및 단어 순서 작업에서 콘텐츠 보존 및 스타일 전이 품질을 향상시키는가?
• RQ3 명시적 p(z) 사전 없이 이산적 언어 생성을 다루고 분포를 정렬하기 위한 실용적 학습 전략은 무엇인가?

주요 결과

• 교차 정렬된 오토인코더가 비교대비선형 baseline보다 감정 전이 품질이 높으며 전이된 문장의 감정 전이 정확도가 78.4%로 보고되었다.
• 정렬된 오토인코더와 교차 정렬 오토인코더는 비병렬 해독 작업에서 상당한 개선을 보이며 치환 및 단어 순서 과제에서 정렬 또는 VAE baseline보다 높은 BLEU 점수를 달성했다.
• 감정 평가에서 교차 정렬 오토인코더는 인간 평가에서 유창성 점수 2.8을 가진 전체 전이 점수 41.5%를 달성한 반면, 일부 설정에서 기준 컨트롤-Gen 모델은 41.0%였다.
• 감정 분류에서 사전 학습된 분류기가 Hu et al. (2017)의 방법에 대해 83.5% 정확도를 보고하는 반면 저자들의 설정에서 교차 정렬 오토인코더는 78.4% 정확도를 달성했다.
• 해독 실험에서 교차 정렬 오토인코더는 여러 치환율(예: 20%–100%)에서 비교 기준 대비 지속적으로 더 높은 BLEU 점수로, 100% 치환 시 57.4, 단어 순서 복구 시 26.1을 달성했다.
• 결과는 교차 정렬이 잠재 z 정렬을 강화하고 다양한 비병렬 스타일 전이 작업에서 전이 품질을 개선함을 보여준다.