[论文解读] Learning meters of Arabic and English poems with Recurrent Neural Networks: a step forward for language understanding and synthesis

Waleed A. Yousef, Omar M. Ibrahime+2 more|arXiv (Cornell University)|May 7, 2019

Natural Language Processing Techniques被引用 16

一句话总结

本论文提出一种基于字符级循环神经网络（RNN）的方法，无需手工设计特征即可对阿拉伯语和英语诗歌格律进行分类，阿拉伯语分类准确率达到96.38%，英语为82.31%。该研究首次公开发布了一个大规模、清洗过的诗歌语料库，包含超过150万行诗歌，用于计算诗歌研究。

ABSTRACT

Recognizing a piece of writing as a poem or prose is usually easy for the majority of people; however, only specialists can determine which meter a poem belongs to. In this paper, we build Recurrent Neural Network (RNN) models that can classify poems according to their meters from plain text. The input text is encoded at the character level and directly fed to the models without feature handcrafting. This is a step forward for machine understanding and synthesis of languages in general, and Arabic language in particular. Among the 16 poem meters of Arabic and the 4 meters of English the networks were able to correctly classify poem with an overall accuracy of 96.38\\% and 82.31\\% respectively. The poem datasets used to conduct this research were massive, over 1.5 million of verses, and were crawled from different nontechnical sources, almost Arabic and English literature sites, and in different heterogeneous and unstructured formats. These datasets are now made publicly available in clean, structured, and documented format for other future research. To the best of the authors' knowledge, this research is the first to address classifying poem meters in a machine learning approach, in general, and in RNN featureless based approach, in particular. In addition, the dataset is the first publicly available dataset ready for the purpose of future computational research.

研究动机与目标

• 开发一种机器学习模型，能够直接从纯文本中分类诗歌格律，而无需进行语言学特征工程。
• 解决阿拉伯语和英语诗歌中自动格律识别的挑战，该任务传统上需要专家知识。
• 创建并发布一个大规模、清洗干净且结构化的诗歌语句语料库，以支持未来诗歌与语言理解的计算研究。
• 探讨符号标记和数据编码在低资源与高变异性语言环境下的模型性能影响。

提出的方法

• 输入文本以字符级别进行编码，根据实验条件保留或移除符号标记。
• 采用双向和单向长短期记忆网络（LSTM）及门控循环单元（GRU）作为核心架构。
• 模型在原始字符序列上端到端训练，直接从文本中学习语音和节奏模式。
• 在网络深度（3–8层）、单元大小（6–60个单元）和单元类型（LSTM、BiLSTM、GRU、BiGRU）范围内进行全面的超参数搜索。
• 通过在阿拉伯语和英语数据集上进行10折交叉验证来评估模型，以确保鲁棒性。
• 数据预处理包括从非技术性文学来源进行网络爬取，随后进行归一化、清洗，并结构化整理为公开存储库。

实验结果

研究问题

• RQ1 在仅使用原始字符级输入进行训练的RNN是否能够无需语言学特征工程即可实现对阿拉伯语和英语诗歌格律的分类？
• RQ2 符号标记的存在与否如何影响诗歌格律模型的分类准确率？
• RQ3 格律类别大小（数据集中某类格律的频率）与各类别分类准确率之间存在何种关系？
• RQ4 哪种网络架构与超参数配置在不同文本编码下能取得最高性能？
• RQ5 编码策略（如是否包含符号标记、大小写敏感性等）在多大程度上影响模型的泛化能力与准确率？

主要发现

• 基于RNN的模型在阿拉伯语诗歌格律分类中实现了96.38%的整体准确率，显著优于基于规则的系统。
• 在英语诗歌中，模型达到了82.31%的整体准确率，尽管格律种类较少且语言变异性较高，仍表现出强劲性能。
• TwoE（双编码）策略在所有实验中均持续产生最高准确率，但不同编码下的性能表现存在差异，反映出模型架构与编码方式之间的交互影响。
• 仅在排除稀有格律类别的数据集上，符号标记才提升了分类准确率，表明数据稀疏性与语音表示之间存在复杂关系。
• 各类别准确率与类别大小强相关，小类别准确率较低，可能由于稀有格律之间相似性较高或训练样本不足所致。
• 本研究公开发布了一个包含超过150万行诗歌的语料库，以清洗、结构化且文档齐全的格式，为未来计算诗学与语言建模研究提供支持。