[论文解读] DopeLearning: A Computational Approach to Rap Lyrics Generation

Eric Malmi, Pyry Takala+3 more|arXiv (Cornell University)|May 18, 2015

Music and Audio Processing参考文献 25被引用 19

一句话总结

本文提出 DopeLearning，一种基于信息检索任务的说唱歌词生成系统，采用 RankSVM 与一种新型深度神经网络相结合的混合模型，用于语义特征学习。该系统在 299 个候选句中识别出真实下一句的准确率达到 17%，远超随机选择的 50 倍以上，并在押韵密度上比顶尖人类说唱歌手高出 21%，用户偏好日志进一步证实其与机器学习排名的一致性。

ABSTRACT

Writing rap lyrics requires both creativity to construct a meaningful, interesting story and lyrical skills to produce complex rhyme patterns, which form the cornerstone of good flow. We present a rap lyrics generation method that captures both of these aspects. First, we develop a prediction model to identify the next line of existing lyrics from a set of candidate next lines. This model is based on two machine-learning techniques: the RankSVM algorithm and a deep neural network model with a novel structure. Results show that the prediction model can identify the true next line among 299 randomly selected lines with an accuracy of 17%, i.e., over 50 times more likely than by random. Second, we employ the prediction model to combine lines from existing songs, producing lyrics with rhyme and a meaning. An evaluation of the produced lyrics shows that in terms of quantitative rhyme density, the method outperforms the best human rappers by 21%. The rap lyrics generator has been deployed as an online tool called DeepBeat, and the performance of the tool has been assessed by analyzing its usage logs. This analysis shows that machine-learned rankings correlate with user preferences.

研究动机与目标

• 开发一种计算方法，用于说唱歌词生成，以捕捉歌词的流畅性与语义连贯性。
• 将说唱歌词中下一句预测的任务建模为信息检索问题。
• 通过押韵密度等定量指标与用户偏好日志，评估系统的性能。
• 探索深度神经网络生成的语义嵌入在生成语义连贯且具有艺术价值歌词中的作用。
• 通过 DeepBeat 网页工具在真实世界中部署并验证系统，评估其与人类偏好的一致性。

提出的方法

• 该系统将说唱歌词生成建模为信息检索任务：给定一系列歌词（查询），从候选句池中检索最相关的下一句。
• 提取三类特征：押韵特征（语音与模式相关）、结构特征（句法与词汇相关），以及使用深度神经网络进行句子嵌入的语义特征。
• 深度神经网络将歌词映射到高维向量空间，以捕捉语义相似性，是模型中最具预测力的特征。
• RankSVM 模型结合这些特征对候选下一句进行排序，以优化与查询的相关性。
• 模型在包含 104 位艺术家超过 50 万句说唱歌词的数据集上进行训练，通过下一句预测准确率与押韵密度指标进行评估。
• 该系统已作为 DeepBeat（deepbeat.org）上线，使用日志分析验证了机器排名与用户偏好之间的相关性。

实验结果

研究问题

• RQ1 机器学习模型能否以高准确率有效预测说唱歌曲的下一句，超越随机选择？
• RQ2 语义表征的深度神经网络在多大程度上能提升生成说唱歌词的连贯性与相关性？
• RQ3 生成的歌词在技术指标（如押韵密度）上是否优于人类说唱歌手，且是否被人类评估者视为更高质量？
• RQ4 在真实世界部署中，机器学习得出的相关性评分与实际用户偏好之间的相关性如何？
• RQ5 信息检索框架能否被有效适配于说唱歌词创作等创造性文本生成任务？

主要发现

• 模型在从 299 个随机选取的候选句中识别真实下一句的准确率达到 17%，远超随机选择的 50 倍以上。
• 真实下一句在候选句中排名前 30% 的准确率为 53%，表明模型具备强大的预测性能。
• 系统在押韵密度上比最佳人类说唱歌手高出 21%，这是衡量歌词技术质量的定量指标。
• 通过人工实验验证了押韵密度指标与说唱歌手自身对技术能力评估的一致性。
• DeepBeat.org 的使用日志显示，用户选择的歌词与模型预测的相关性评分高度相关，证实了其在真实场景中与人类偏好的对齐。
• 用于语义嵌入的深度神经网络成为模型中最具预测力的单一特征，凸显其在生成歌词语义连贯性中的关键作用。