[논문 리뷰] "Mask and Infill" : Applying Masked Language Model to Sentiment Transfer

Xing Wu, Tao Zhang외 3명|arXiv (Cornell University)|2019. 08. 21.

Topic Modeling참고 문헌 21인용 수 15

한 줄 요약

이 논문은 비병렬 감성 전이를 위한 이단계식 '마스크 및 보완(Mask and Infill)' 프레임워크를 제안한다. 사전 훈련된 마스킹 언어 모델(BERT)을 활용하여 내용을 유지하면서 감성 전이를 수행한다. 먼저 감성을 담고 있는 토큰을 마스킹한 후, 맥락과 목표 감성에 따라 조건화된 속성 조건부 마스킹 언어 모델(AC-MLM)을 이용해 보완 생성을 수행함으로써, 자동 평가와 인간 평가 모두에서 최신 기술 수준의 성능을 달성한다. 이는 이전의 RNN 기반 모델에 비해 내용 유지 능력과 감성 정확도에서 뛰어난 성능을 보였다.

ABSTRACT

This paper focuses on the task of sentiment transfer on non-parallel text, which modifies sentiment attributes (e.g., positive or negative) of sentences while preserving their attribute-independent content. Due to the limited capability of RNNbased encoder-decoder structure to capture deep and long-range dependencies among words, previous works can hardly generate satisfactory sentences from scratch. When humans convert the sentiment attribute of a sentence, a simple but effective approach is to only replace the original sentimental tokens in the sentence with target sentimental expressions, instead of building a new sentence from scratch. Such a process is very similar to the task of Text Infilling or Cloze, which could be handled by a deep bidirectional Masked Language Model (e.g. BERT). So we propose a two step approach "Mask and Infill". In the mask step, we separate style from content by masking the positions of sentimental tokens. In the infill step, we retrofit MLM to Attribute Conditional MLM, to infill the masked positions by predicting words or phrases conditioned on the context1 and target sentiment. We evaluate our model on two review datasets with quantitative, qualitative, and human evaluations. Experimental results demonstrate that our models improve state-of-the-art performance.

연구 동기 및 목표

• 비병렬 텍스트에서 동일한 내용이지만 다른 감성의 문장 쌍이 존재하지 않는 감성 전이 과제를 해결하기 위해.
• 장거리 의존성 파악 및 유창하고 의미적으로 일관된 문장을 생성하는 데 어려움을 겪는 RNN 기반 인코더-디코더 모델의 한계를 극복하기 위해.
• 사전 훈련된 깊이 있는 양방향 언어 모델을 활용하여 내용 유지 능력과 감성 전이 정확도를 향상시키기 위해.
• 전체 문장을 다시 쓰는 것이 아니라 인간이 감성 전환을 할 때처럼 감성 마커만 교체하는 방식으로, 인간 스타일의 감성 변환을 모방하는 방법을 개발하기 위해.
• 더 정확하고 정확도가 높은 감성 전이를 위해 마스킹 언어 모델에 속성 조건부 조건과 분류 기반 제약 조건을 통합하기 위해.

제안 방법

• 이 방법은 두 단계로 구성된다: 첫째, 감성 토큰을 감정 기반 분류와 빈도 비율 사전 검색을 융합한 방법을 사용해 식별하고 마스킹한다.
• 보완 단계에서는 맥락과 목표 감성 임베딩에 따라 조건화된 속성 조건부 마스킹 언어 모델(AC-MLM)으로 사전 훈련된 마스킹 언어 모델을 재구성한다.
• 생성된 단어가 목표 감성과 일치하도록 사전 훈련된 감성 분류기를 디스criminator로 사용하여 AC-MLM을 추가로 정제한다.
• 언어 생성의 이산성과 최적화 안정성을 향리하기 위해 훈련 중 소프트 샘플링을 적용한다.
• 융합 방법은 하나의 방법이 유효한 내용 유지 마스킹을 생성하지 못할 경우, 감정 기반 및 빈도 비율 마스킹 중 동적으로 선택한다.
• 재구성 손실(맥락적 유창성)과 분류 기반 손실(감성 정확도)을 조합한 손실 함수를 사용해 종합적으로 훈련한다.

실험 결과

연구 질문

• RQ1 비병렬 훈련 데이터 없이도 사전 훈련된 BERT 기반 모델을 사용한 마스킹 및 보완이 RNN 기반 인코더-디코더 모델보다 감성 전이 성능에서 뛰어나게 할 수 있는가?
• RQ2 감정 기반 및 빈도 비율 기반 융합 기법이 내용 유지 능력을 유지하면서 감성 마커를 얼마나 효과적으로 식별할 수 있는가?
• RQ3 목표 감성에 따라 마스킹 언어 모델을 조건화함으로써 전이 정확도와 내용 유지 능력이 얼마나 향상되는가?
• RQ4 사전 훈련된 감성 분류기를 통합함으로써 생성된 감성 단어의 품질과 일관성은 얼마나 향상되는가?
• RQ5 감성 정확도와 문장의 유창성/다양성 사이의 상충 관계는 무엇이며, 손실 가중치 조정을 통해 제어 가능할 수 있는가?

주요 결과

• 융합 기반 마스킹 방법을 사용한 AC-MLM-SS 모델은 유저 리뷰 데이터셋(Yelp)에서 인간 평가에서 가장 높은 점수를 기록했다: 문법성 4.2점, 내용 유지 4.0점, 목표 속성 일치 4.4점.
• Yelp 데이터셋에서 AC-MLM-SS 모델은 BLEU 점수 4.2를 기록했으며, 이는 이전 최고 기술인 DeleteAndRetrieval 모델(3.6 BLEU)을 크게 능가했다.
• Amazon 데이터셋에서 AC-MLM-SS 모델은 BLEU 점수 4.1을 기록했으며, 기준 모델들에 비해 일관된 향상이 있었다.
• 모델은 강력한 내용 유지 능력을 보였으며, 인간 평가자들이 Yelp에서 내용 유사도를 4.0점, Amazon에서 4.0점으로 평가하여 의미적 이탈이 최소화됨을 확인했다.
• 제거 실험을 통해 융합 기반 마스킹 방법이 개별 감정 기반 및 빈도 비율 방법보다 우수했으며, 특히 더 노이즈가 많고 구조가 불완전한 Amazon 데이터에서 뚜렷한 성능 향상을 보였다.
• 상충 관계 분석 결과, 하이퍼파rameter η를 조정함으로써 BLEU 점수와 감성 정확도 사이의 균형을 제어할 수 있었으며, 이는 모델의 조정 가능한 성능을 확인시켰다.