[논문 리뷰] Select and Attend: Towards Controllable Content Selection in Text Generation

Xiaoyu Shen, Jun Suzuki외 4명|arXiv (Cornell University)|2019. 09. 10.

Topic Modeling참고 문헌 63인용 수 4

한 줄 요약

이 논문은 신경 인코더-디코더 모델에서 콘텐츠 선택과 텍스트 생성을 분리하는 변분 추론 기반 프레임워크를 제안한다. 이를 통해 사용자가 무엇을 말할지 명시적이고 인간이 이해할 수 있는 방식으로 제어할 수 있다. 콘텐츠 선택을 잠재 변수로 간주하고, 미분 가능한 하한을 통해 엔드 투 엔드로 훈련함으로써, 성능-제어성 간 상호작용을 조정할 수 있는 단일 하이퍼파라미터를 가진 콘텐츠 수준의 다양성과 제어성이 향상된다. 이는 데이터 텍스트 생성 및 헤드라인 생성 작업에서 최신 기준(SOTA) 베이스라인을 능가한다.

ABSTRACT

Many text generation tasks naturally contain two steps: content selection and surface realization. Current neural encoder-decoder models conflate both steps into a black-box architecture. As a result, the content to be described in the text cannot be explicitly controlled. This paper tackles this problem by decoupling content selection from the decoder. The decoupled content selection is human interpretable, whose value can be manually manipulated to control the content of generated text. The model can be trained end-to-end without human annotations by maximizing a lower bound of the marginal likelihood. We further propose an effective way to trade-off between performance and controllability with a single adjustable hyperparameter. In both data-to-text and headline generation tasks, our model achieves promising results, paving the way for controllable content selection in text generation.

연구 동기 및 목표

• 콘텐츠 선택과 표면적 실현을 혼합한 엔드 투 엔드 신경망 텍스트 생성 모델에서의 제어성과 해석 가능성 부족 문제를 해결하기 위해.
• 디코더에서 콘텐츠 선택을 분리하여 사용자 제어를 위해 명시적이고 해석 가능한 방식으로 조작 가능하게 하기 위해.
• 사용자 레이블이 없는 콘텐츠 선택 없이도 마진 가능도의 하한을 최대화하여 엔드 투 엔드 훈련을 가능하게 하기 위해.
• 생성 성능와 콘텐츠 제어성 간 상호작용을 효과적으로 조정할 수 있는 단일 조정 가능한 하이퍼파라미터를 제공하기 위해.
• 다양한 텍스트 생성 작업, 특히 데이터 텍스트 생성 및 헤드라인 생성에서 이 프레임워크의 효과성을 입증하기 위해.

제안 방법

• 콘텐츠 선택을 잠재 변수로 간주하고, 선택기와 생성기를 함께 최적화하기 위해 약류 변분 추론을 적용한다.
• 마진 가능도의 미분 가능한 하한을 사용하여 인간이 레이블을 제공하지 않은 콘텐츠 선택 없이도 엔드 투 엔드 훈련이 가능하도록 한다.
• 선택기와 생성된 텍스트 간 조건부 상호정보량(CMI)의 상한을 제약하는 데 사용되는 하이퍼파라미터 ε를 도입한다.
• 백프로파게이션을 통해 사후 근사값을 최적화하는 방식으로, 변분 오토인코더 스타일의 목표 함수를 사용해 모델을 훈련시킨다.
• 콘텐츠 선택기를 디코더 이전에 위치시켜, 소스 표현에 주의를 기울이고 소스 토큰들에 대한 소프트 마스크를 생성할 수 있도록, 미분 가능한 어텐션 기반 모듈로 삽입한다.
• 훈련 중 ε를 조정하여 생성 품질(낮은 NLL)과 콘텐츠 수준의 다양성/제어성(높은 엔트로피) 간 균형을 조절한다.

실험 결과

연구 질문

• RQ1 신경 텍스트 생성에서 표면적 실현과 콘텐츠 선택을 분리하여 명시적이고 인간이 이해할 수 있는 제어가 가능한가?
• RQ2 사용자 레이블이 없는 콘텐츠 선택 없이도, 미분 가능한 엔드 투 엔드 훈련 목표 함수를 설계할 수 있는가?
• RQ3 성능-제어성 간 상호작용을 단일 하이퍼파라미터로 효과적으로 조정할 수 있는가?
• RQ4 기존의 베이스라인 대비 제안된 방법이 더 높은 콘텐츠 수준의 다양성과 제어성을 달성하는가?
• RQ5 실세계 텍스트 생성 작업, 예를 들어 데이터 텍스트 생성 및 헤드라인 생성에서 모델의 성능은 어떠한가?

주요 결과

• VRS 모델은 데이터 텍스트 생성 및 헤드라인 생성 작업 모두에서 최신 기준(SOTA) 성능을 달성했으며, Wikibio에서는 약간의 성능 저하가 있었고, Gigaword에서는 더 뚜렷한 성능 저하가 있었는데, 이는 후자의 경우 더 높은 불확실성 때문으로 기인된다.
• 하이퍼파라미터 ε를 증가시키면 선택기의 엔트로피가 증가하고 콘텐츠 수준의 다양성과 제어성이 향상되며, NLL(성능)은 약간 악화된다.
• ε = 0으로 설정했을 때 표준 순차-순차 모델보다 우수한 성능를 보였는데, 이는 명시적 제어성이 없더라도 콘텐츠 선택이 여전히 유용함을 시사한다.
• VRS 모델은 베이스라인보다 선택된 콘텐츠에 더 충실한 텍스트를 생성한다: VRS의 생성 결과는 항상 선택된 단어들을 반영하지만, SS, Bo.Up, RS 모델들은 자주 선택된 콘텐츠를 생략하거나 잘못 표현한다.
• 그림 3은 VRS 샘플들이 서로 매우 일관되며, 단어 선택의 차이(예: 'sparks uproar', 'sparks protests')만 존재함을 보여주며, 강력한 콘텐츠 충실도와 다양한 어색한 표현 다양성을 나타낸다.
• ε를 통해 성능와 제어성 간 상호작용을 효과적으로 조정할 수 있으며, 이는 그림 2에서 확인할 수 있다. 이로 인해 높은 성능를 유지하면서도 제어 가능한 콘텐츠 선택이 가능하다.