[논문 리뷰] Combining Learned Lyrical Structures and Vocabulary for Improved Lyric Generation

Pablo Samuel Castro, Maria Attarian|arXiv (Cornell University)|2018. 11. 12.

Topic Modeling참고 문헌 2인용 수 8

한 줄 요약

이 논문은 가사의 구조를 고려한 트랜스포머 언어 모델(L_S)과 어휘가 풍부한 책 기반 모델(L_V)을 조합한 하이브리드 프레임워크를 제안한다. 이는 더 다양한, 구조적으로 일관되며 창의적으로 매력적인 가사 생성을 목적으로 한다. 존재하는 가사의 구조적 패턴(품사 태깅을 통해)을 어휘가 풍부한 모델에 조건화시킴으로써 반복을 크게 줄이고 어휘 다양성을 향상시킨다. 이는 순수 가사 모델이나 순수 책 모델보다 5행 가사 생성에서 뛰어난 성능을 보인다.

ABSTRACT

The use of language models for generating lyrics and poetry has received an increased interest in the last few years. They pose a unique challenge relative to standard natural language problems, as their ultimate purpose is reative, notions of accuracy and reproducibility are secondary to notions of lyricism, structure, and diversity. In this creative setting, traditional quantitative measures for natural language problems, such as BLEU scores, prove inadequate: a high-scoring model may either fail to produce output respecting the desired structure (e.g. song verses), be a terribly boring creative companion, or both. In this work we propose a mechanism for combining two separately trained language models into a framework that is able to produce output respecting the desired song structure, while providing a richness and diversity of vocabulary that renders it more creatively appealing.

연구 동기 및 목표

• 기존 신경망 언어 모델이 창의적으로 rich하고 구조적으로 일관된 가사를 생성하는 데에 한계가 있음을 해결하기 위해.
• AI가 생성하는 가사에서 반복적인 출력을 줄이고 어휘 다양성을 향상시키기 위해.
• 가사의 구조 모델링과 문학 텍스트에서 유래한 어휘 강화를 결합하기 위해.
• 가사의 구조를 유지하면서 창의적 매력성과 언어적 풍부성을 향상시키는 프레임워크를 개발하기 위해.
• 더 높은 예술적 품질을 갖춘 더 자율적이고 인간의 개입이 없는 가사 생성을 가능하게 하기 위해.

제안 방법

• 가사가 품사(PoS) 시퀀스로 변환된 후 훈련되는, 구조 인식 모델(L_S)을 통해 가사 문법을 어휘에 의존하지 않고 학습한다.
• 프로젝트 구니즈의 책 텍스트를 기반으로 훈련된 어휘가 풍부한 모델(L_V)은 문맥-구조 마스킹 전략을 사용한다: 입력은 문장의 접두사이며, 목표는 그 문장의 접미사와 함께 품사 태그이다.
• 최종 생성 과정은 빔 서치를 사용하여 다음 줄을 생성한다: l₂ = L_V(l₁ · L_S(PoS(l₁))), 문맥과 구조를 통합한다.
• 이 프레임워크는 구조 학습과 어휘 풍부화를 분리함으로써 더 제어 가능하고 다양한 가사 생성을 가능하게 한다.
• L_S 훈련 중에 가사의 어휘 내용에서 분리된 구조 패턴을 식별하기 위해 가사에 품사 태깅을 적용한다.
• 이 방법은 추론 시 조건부 생성을 통해 두 개의 별도로 사전 훈련된 트랜스포머 언어 모델을 융합한다.

실험 결과

연구 질문

• RQ1 구조 중심 언어 모델과 어휘가 풍부한 언어 모델을 조합함으로써 생성된 가사의 다양성과 창의성이 향상될 수 있는가?
• RQ2 제안된 방법은 순수 가사 모델이나 순수 책 모델보다 가사 반복을 줄이고 어휘 다양성을 향상시키는 데 얼마나 효과적인가?
• RQ3 어떤 정도로 모델은 언어적으로 풍부하고 다양한 내용을 생성하면서도 가사의 구조를 유지할 수 있는가?
• RQ4 하이브리드 접근 방식은 AI 보조 가사 생성에서 인간의 간섭이 줄어들 수 있는가?
• RQ5 어휘가 풍부한 모델을 품사로 구조화된 가사 패턴에 조건화시키면 더 구조적으로 일관되고 예술적으로 타당한 가사가 생성되는가?

주요 결과

• RichLyrics 모델은 평균적으로 줄당 6.93개의 단어를 생성했으며, PureLyrics(12.85)보다는 낮고 PureBooks(6.63)보다는 높아, 줄 길이의 더 나은 균형을 보였다.
• RichLyrics는 1편당 0.441회의 줄 반복을 기록했고, PureLyrics의 2.233회보다 크게 감소시켰다. 이는 반복 감소의 뚜렷한 성과를 보여준다.
• 연속된 줄 간에 반복되는 단어 비율은 RichLyrics가 0.480이었고, PureLyrics의 0.671보다 낮아 어휘 다양성 향상을 확인했다.
• RichLyrics의 평균 단어 길이(3.542)는 PureBooks(3.758)보다 자연스러운 가사 길이에 더 가까워, 가사에 더 적합한 언어적 적합성을 보였다.
• 정성 있는 분석 결과, RichLyrics의 출력물은 PureLyrics나 PureBooks의 결과물보다 더 다양한 구성과 창의적으로 매력적인 가사로 확인되었다.
• 이 프레임워크는 구조 학습과 어휘 강화를 성공적으로 분리하여 더 제어 가능하고 다양한 가사 생성을 가능하게 하였다.