[논문 리뷰] IMaT: Unsupervised Text Attribute Transfer via Iterative Matching and Translation

Zhijing Jin, Di Jin외 3명|arXiv (Cornell University)|2019. 01. 31.

Topic Modeling인용 수 9

한 줄 요약

IMaT는 반복적인 문장 매칭과 시퀀스 투 시퀀스 번역을 통해 가짜 평행 코퍼스를 구성함으로써 단순하면서도 효과적인 비지도 텍스트 속성 전이 프레임워크를 제안한다. 이는 연속적인 번역 단계를 통해 정렬을 정밀하게 다듬는다. 감성 및 형식성 전이에서 최신 기술 수준(SOTA) 성능을 달성하며, 복잡한 GAN 기반 및 히우리스틱 방법보다 내용 보존성, 유창성, 속성 정확성 측면에서 뛰어난 성능을 보인다.

ABSTRACT

Text attribute transfer aims to automatically rewrite sentences such that they possess certain linguistic attributes, while simultaneously preserving their semantic content. This task remains challenging due to a lack of supervised parallel data. Existing approaches try to explicitly disentangle content and attribute information, but this is difficult and often results in poor content-preservation and ungrammaticality. In contrast, we propose a simpler approach, Iterative Matching and Translation (IMaT), which: (1) constructs a pseudo-parallel corpus by aligning a subset of semantically similar sentences from the source and the target corpora; (2) applies a standard sequence-to-sequence model to learn the attribute transfer; (3) iteratively improves the learned transfer function by refining imperfections in the alignment. In sentiment modification and formality transfer tasks, our method outperforms complex state-of-the-art systems by a large margin. As an auxiliary contribution, we produce a publicly-available test set with human-generated transfer references.

연구 동기 및 목표

• 평행 훈련 데이터에 접근할 수 없는 비지도 텍스트 속성 전이의 과제를 해결한다.
• 기존의 분리 기반 모델이 겪는 내용 보존성 열악함과 문법 오류 문제를 극복한다.
• 복잡한 아키텍처나 규칙 기반 히우리스틱을 피하는 강력한 종단 간 프레임워크를 개발한다.
• 가짜 평행 문장 정렬의 반복적 개선을 통해 전이 품질을 향상시킨다.
• 감성 전이를 위한 공개 가능한 인간 애너테이션 테스트 세트를 제공하여 보다 신뢰할 수 있는 평가를 가능하게 한다.

제안 방법

• 다른 속성을 가진 소스 및 타겟 코퍼스 간에 의미적으로 유사한 문장을 매칭하여 初기 가짜 평행 코퍼스를 구성한다.
• 가짜 평행 코퍼스에 표준 시퀀스 투 시퀀스(Seq2Seq) 모델을 훈련시어 속성 전이를 학습한다.
• 이전 반복에서 생성된 번역 결과로 이전 문장 쌍을 교체하여 가짜 평행 코퍼스를 반복적으로 개선한다.
• 콘텐츠 유사도 측정 지표(WMD)를 사용해 업데이트를 검증하고, 원본 문장과 번역 문장 간의 콘텐츠 이탈을 줄이는 경우에만 수락한다.
• 성능이 정점에 도달할 때까지 매칭-번역-개선 루프를 반복하며, 시간이 지남에 따라 정렬 품질을 향상시킨다.
• Seq2Seq 모델의 노이즈 제거 능력을 활용하여 완벽한 초기 정렬이 없더라도 낮은 품질의 초기 매칭을 수정한다.

실험 결과

연구 질문

• RQ1 약한 지도 학습 기반의 가짜 평행 코퍼스에 훈련된 단순한 Seq2Seq 모델이 복잡한 분리 기반 모델보다 더 나은 속성 전이 성능을 달성할 수 있는가?
• RQ2 가짜 평행 정렬의 반복적 개선이 전이 출력의 콘텐츠 보존성과 유창성에 얼마나 기여하는가?
• RQ3 낮은 품질의 초기 문장 매칭에 대해 이 방법은 얼마나 강건한가? 여전히 강력한 베이스라인을 능가하는가?
• RQ4 반복적 번역 과정이 초기 가짜 쌍의 오류를 효과적으로 노이즈 제거하고 수정할 수 있는가?
• RQ5 이 방법은 감성 전이 외에도 형식성 전이와 같은 다양한 속성 전이 작업에 일반화되는가?

주요 결과

• IMaT는 자동 평가 및 인간 평가 모두에서 최신 기술 수준 모델, 즉 GAN 기반 방법(Shen et al., 2017; Fu et al., 2018)과 히우리스틱 접근법(Li et al., 2018)을 모두 능가한다.
• 첫 단계 번역 이후 YELP 데이터셋에서 초기 품질이 열악한 매칭의 BLEU 점수는 9.40에서 13.18로 향상되었고, FORMALITY 데이터셋에서는 5.44에서 28.25로 상승하여 강력한 노이즈 제거 능력을 입증했다.
• 반복적 개선을 거친 후 BLEU 점수는 반복 횟수에 따라 지속적으로 상승하여 콘텐츠 보존성 향상이 지속됨을 보여주었다.
• FORMALITY 데이터셋에서 최종 가짜 쌍의 52%만이 지표 평행 쌍과 일치함에도 불구하고 IMaT는 여전히 뛰어난 성능을 달성하여 노이즈가 많은 초기 정렬에 뛰어난 내성성을 보였다.
• 인간 평가 결과, IMaT가 생성한 출력은 경쟁 모델 대비 더 나은 콘텐츠 보존성을 유지하고, 문법적으로 어색한 표현을 피하며, 목표 속성을 정확히 전이함을 확인했다.
• 감성 전이를 위한 800개 샘플로 구성된 인간 애너테이션 테스트 세트의 공개로 향후 속성 전이 시스템의 평가가 더 다양하고 신뢰성 있게 가능해졌다.