[논문 리뷰] Hooks in the Headline: Learning to Generate Headlines with Controlled Styles

Di Jin, Zhijing Jin외 3명|arXiv (Cornell University)|2020. 04. 04.

Topic Modeling참고 문헌 52인용 수 7

한 줄 요약

이 논문은 주목을 끄는 스타일이 제어된 헤드라인을 생성하는 새로운 작업인 스타일리스틱 헤드라인 생성(SHG)을 소개한다. 이 작업은 다중태스크 프레임워크인 TitleStylist를 통해 유머, 연인다움, 클릭베이트 스타일을 제어하여 생성한다. 개선된 요약 생성과 노이즈 제거 오토인코더를 조합하고, 스타일 전용 배치 정규화 및 주의 메커니즘을 적용함으로써 TitleStylist는 유창하고 관련성이 있으며 매우 매력적인 헤드라인을 생성한다. 이는 상태의 최고 수준(SOTA) 요약 모델과 인간이 작성한 기준보다 독자 유인도에서 뛰어나며, 9.68% 높은 유인 점수를 기록한다.

ABSTRACT

Current summarization systems only produce plain, factual headlines, but do not meet the practical needs of creating memorable titles to increase exposure. We propose a new task, Stylistic Headline Generation (SHG), to enrich the headlines with three style options (humor, romance and clickbait), in order to attract more readers. With no style-specific article-headline pair (only a standard headline summarization dataset and mono-style corpora), our method TitleStylist generates style-specific headlines by combining the summarization and reconstruction tasks into a multitasking framework. We also introduced a novel parameter sharing scheme to further disentangle the style from the text. Through both automatic and human evaluation, we demonstrate that TitleStylist can generate relevant, fluent headlines with three target styles: humor, romance, and clickbait. The attraction score of our model generated headlines surpasses that of the state-of-the-art summarization model by 9.68%, and even outperforms human-written references.

연구 동기 및 목표

• 단순한 사실 중심의 헤드라인만 생성하는 헤드라인 생성 시스템의 격차를 해결하기 위해, 기억에 오래 남고 독자 참여도를 높이는 헤드라인을 생성하는 데 목적이 있다.
• 헤드라인의 언어 스타일을 명시적으로 제어하여 독자 유인도를 향상시키기 위해 새로운 작업인 스타일리스틱 헤드라인 생성(SHG)을 제안한다.
• 스타일 전용 기사-헤드라인 쌍 데이터가 없어도 스타일에 맞는 헤드라인을 생성할 수 있는 방법을 개발한다.
• 다중태스크 학습 프레임워크 내에서 새로운 파라미터 공유 기법을 활용해 내용과 스타일을 분리한다.
• 모델이 생성한 헤드라인이 사실적 관련성을 유지하면서도 인간이 작성한 기준보다 유인도가 높을 수 있음을 입증한다.

제안 방법

• TitleStylist는 단일 스타일 코퍼스에서 개선된 요약 생성과 노이즈 제거 오토인코더(DAE)를 결합한 다중태스크 학습 프레임워크를 사용한다.
• 모델은 스타일에 따라 달라지는 배치 정규화와 스타일 가이드드 인코더-주의 메커니즘을 사용해 언어 스타일과 콘텐츠 표현을 분리한다.
• 핵심 구성 요소(배치 정규화 및 주의)는 스타일별로 특화되며, 다른 파라미터는 공유하여 효율성과 일반화 능력을 향상시킨다.
• 표준 헤드라인-기사 데이터셋을 요약 학습에, 별도의 스타일 전용 코퍼스(유머, 연인다움, 클릭베이트)를 복원 학습에 사용한다.
• 모델는 종단 간 최적화를 통해 사실적으로 관련성 있고 목표 스타일에 부합하는 헤드라인을 생성하도록 훈련된다.
• 공유된 콘텐츠 인코더와 전용 스타일 헤드를 사용해 동시에 모든 세 가지 스타일에서 훈련하는 방식으로 다중스타일 생성을 가능하게 한다.

실험 결과

연구 질문

• RQ1 스타일 전용 기사-헤드라인 쌍 데이터에 접근할 수 없는 헤드라인 생성 모델이 유창하고 관련성 있으며 스타일 일관성이 있는 헤드라인을 생성할 수 있는가?
• RQ2 요약 생성과 노이즈 제거 오토인코더를 결합한 다중태스크 프레임워크가 스타일 제어력과 사실적 관련성 향상에 얼마나 효과적인가?
• RQ3 스타일 전용 배치 정규화 및 주의 메커니즘이 헤드라인 생성에서 스타일과 콘텐츠를 얼마나 잘 분리할 수 있는가?
• RQ4 단일 모델이 인간이 작성한 예시와 경쟁할 수 있는 수준의 독자 유인도를 보이는 다수의 스타일 변형 헤드라인을 생성할 수 있는가?
• RQ5 다양한 스타일 코퍼스에서의 비지도 복원 학습이 지도 학습 기반 요약 모델의 성능을 향상시키는가?

주요 결과

• TitleStylist는 목표 스타일(유머, 연인다움, 클릭베이트)을 갖춘 헤드라인을 생성하며, 이는 상태의 최고 수준(SOTA) 요약 모델보다 유인도가 높아 9.68% 높은 유인 점수를 기록한다.
• 인간 평가 결과, TitleStylist의 헤드라인은 인간이 작성한 기준보다 57.4% (유머), 53.7% (연인다움), 52.9% (클릭베이트)의 비교에서 선호되며, 독자 유인도가 뛰어나다는 것을 보여준다.
• 다중스타일 버전인 TitleStylist-Versatile은 단일스타일 모델과 비교해 유사한 ROUGE-L(25.8)과 BLEU(14.5) 점수를 기록하며, 동시에 세 가지 스타일의 헤드라인을 생성한다.
• 모델는 스타일 패턴을 통합함에도 불구하고 강력한 요약 성능 유지를 유지하며, 관련성 점수는 베이스라인 NHG 모델과 유사하다.
• 다중태스크 베이스라인은 표준 NHG 모델보다 성능이 뛰어나, 스타일 전용 쌍 데이터 없이도 비지도 복원 학습이 요약 성능 향상에 기여함을 보여준다.
• 생성된 헤드라인의 퍼플렉서티(PPL)는 테스트 세트와 유사하며(PPL = 42.5), 모든 모델과 스타일에서 일관된 유창성을 확인한다.