[논문 리뷰] Conditioned Natural Language Generation using only Unconditioned Language Model: An Exploration

Fan-Keng Sun, Cheng-I Lai|arXiv (Cornell University)|2020. 11. 14.

Topic Modeling참고 문헌 4인용 수 9

한 줄 요약

이 논문은 피드백 조정 없이도, 추가 트레이닝 데이터나 보조 모델 없이도, 사전 훈련된 무조건적 언어 모델을 사용하여 조건부 자연어 생성을 단순하고 유연하며 효과적으로 수행하는 방법을 제안한다. 토큰 임베딩, 히든 상태 또는 다음 토큰 확률 분포를 수정함으로써, 다양한 속성에 따라 유창하고 다양성이 높은 텍스트 생성이 가능해지며, 아키텍처 변경 없이도 기존 방법들을 능가하는 유창성과 관련성 향상을 달성한다.

ABSTRACT

Transformer-based language models have shown to be very powerful for natural language generation (NLG). However, text generation conditioned on some user inputs, such as topics or attributes, is non-trivial. Past approach relies on either modifying the original LM architecture, re-training the LM on corpora with attribute labels, or having separately trained `guidance models' to guide text generation in decoding. We argued that the above approaches are not necessary, and the original unconditioned LM is sufficient for conditioned NLG. We evaluated our approaches by the samples' fluency and diversity with automated and human evaluation.

연구 동기 및 목표

• 피드백 조정이나 추가 학습 데이터 없이도 조건부 자연어 생성(NLG) 문제를 해결하고자 한다.
• 외부 가이던스 모델이나 정제된 단어 목록에 의존하는 것을 제거하여, 비용이 많이 들고 유연성이 떨어지는 문제를 해결하고자 한다.
• 다양한 조건을 유연하게, 임의의 가중치 조합으로 동시에 적용할 수 있도록 조건부 생성을 가능하게 하고자 한다.
• 자동 평가 지표와 인간 평가를 통해 생성 텍스트의 유창성과 다양성 평가를 수행하고자 한다.
• 사전 훈련된 무조건적 언어 모델만으로도 복잡한 조건부 환경에서 다양하고 관련성이 높은 텍스트 생성이 효과적으로 가능함을 입증하고자 한다.

제안 방법

• 추론 중에 언어 모델의 토큰 임베딩을 수정하여 조건 정보를 직접 통합한다.
• Transformer 디코더의 히든 상태를 조건에 맞게 조정하여 원하는 속성과 일치시킨다.
• 다음 토큰 확률 분포를 $ p(x)p(c|x) $ 방식으로 모델링함으로써, $ c $ 가 조건일 경우에 생성을 이끌어낸다.
• 여러 조건부 전략을 하나의 통합된 추론 단계 기반 접근법으로 통합한다.
• PPLM와 달리 반복적 디코딩 없이 단일 스텝 업데이트를 적용한다.
• 원본 사전 훈련된 언어 모델 아키텍처를 그대로 유지하며, 추론 중에 입력 조건에 의존하기만 한다.

실험 결과

연구 질문

• RQ1 사전 훈련된 무조건적 언어 모델이 피드백 조정 없이도 사용자가 정의한 속성에 따라 유창하고 다양한 텍스트를 생성할 수 있는가?
• RQ2 PPLM 대비 이 방법의 유창성, 다양성, 속성 관련성 측면에서의 성능 비교는 어떻게 되는가?
• RQ3 이 방법은 임의의 조합과 가중치를 가진 복잡한 다중 속성 조건부 생성을 처리할 수 있는가?
• RQ4 반복적 방법인 PPLM에 비해 단일 스텝 조건부 생성의 한계는 무엇인가?
• RQ5 임베딩과 어텐션 상태를 수정할 경우 퍼즐리티 및 생성 품질에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법은 자동 평가 지표와 인간 평가를 통해 높은 유창성과 다양성을 확보하였다.
• 이 방법은 감정, 주제, 도메인 등 다양한 속성을 동시에 조건부로 적용할 수 있었으며, 이상하거나 모순되는 조합에서도 효과를 보였다.
• 생성된 샘플은 주어진 속성을 잘 반영하였으며, 관련 关련 키워드가 강조되어 있음(예: [Negative]에 대해 'false' 표시), 효과적인 속성 제어를 입증함.
• 단일 스텝 방법임에도 불구하고, 일관되고 맥락에 부합하는 출력을 생성하였지만, 일부는 열악한 품질과 높은 퍼즐리티를 보였음.
• 추가 학습이나 보조 모델이 필요 없기 때문에, PPLM에 비해 더 뛰어난 유연성과 단순성 확보.
• 표 6에서 볼 수 있듯이, 의미적으로 이상한 조합이라도 다양하고 일관된 출력을 생성함으로써, 어려운 속성 조합에서도 효과적임을 입증함.