[论文解读] Classifying informative and imaginative prose using complex networks

Henrique Ferraz de Arruda, Luciano da Fontoura Costa+1 more|arXiv (Cornell University)|Jul 28, 2015

Advanced Text Analysis Techniques参考文献 12被引用 23

一句话总结

本文提出了一种基于网络的新方法，通过在词邻接网络中建模功能词的局部拓扑和动力学特征，对信息性与想象性散文进行分类。通过引入对称性和可达性度量，该方法实现了高达95%的准确率，表明结构化网络特征可补充传统的语义方法，在风格化文本分类中发挥重要作用。

ABSTRACT

Statistical methods have been widely employed in recent years to grasp many language properties. The application of such techniques have allowed an improvement of several linguistic applications, which encompasses machine translation, automatic summarization and document classification. In the latter, many approaches have emphasized the semantical content of texts, as it is the case of bag-of-word language models. This approach has certainly yielded reasonable performance. However, some potential features such as the structural organization of texts have been used only on a few studies. In this context, we probe how features derived from textual structure analysis can be effectively employed in a classification task. More specifically, we performed a supervised classification aiming at discriminating informative from imaginative documents. Using a networked model that describes the local topological/dynamical properties of function words, we achieved an accuracy rate of up to 95%, which is much higher than similar networked approaches. A systematic analysis of feature relevance revealed that symmetry and accessibility measurements are among the most prominent network measurements. Our results suggest that these measurements could be used in related language applications, as they play a complementary role in characterizing texts.

研究动机与目标

• 探究从文本网络中提取的结构特征是否能有效分类写作风格，特别是信息性与想象性散文。
• 通过聚焦特定节点（功能词）的局部拓扑特性，而非全局网络度量，扩展传统文本网络表示方法。
• 评估新型网络度量方法——对称性与可达性，以捕捉邻居访问的同质性与有效邻域大小。
• 将所提出的基于网络的方法与传统文体学方法（如词袋模型、停用词频率和字符二元组）进行性能比较。
• 在多变量分类框架中识别最相关的网络特征，以区分不同文体类别。

提出的方法

• 从文本构建词邻接网络，其中节点代表词语，边代表词语之间的句法邻接关系。
• 通过分析特定功能词（如代词、介词）作为中心节点，聚焦于局部拓扑，以捕捉局部结构模式。
• 引入对称性度量，以量化网络中对邻居节点访问的同质性。
• 将可达性定义为节点度的扩展度量，反映可到达邻居的有效数量，从而捕捉网络的可达性。
• 在基于这些网络度量提取的特征上应用监督分类，使用K-最近邻（K-NN）及其他分类器。
• 利用信息增益和多变量特征相关性分析，识别对分类最具区分力的网络特征。

实验结果

研究问题

• RQ1 词邻接网络中功能词的局部拓扑特征是否能有效区分信息性与想象性散文？
• RQ2 对称性和可达性度量与传统网络度量相比，在分类风格化文本类别时表现如何？
• RQ3 与传统文体学方法（如停用词频率或字符二元组）相比，基于网络的特征在多大程度上提升了分类准确率？
• RQ4 在多变量分类背景下，哪些网络度量最有助于区分两种写作风格？
• RQ5 所提出的网络模型能否作为语义方法在文本分类任务中的互补工具？

主要发现

• 所提出的方法在使用网络特征区分信息性与想象性散文时，分类准确率最高达到95%。
• K-NN分类器表现最佳，当使用扩展的网络模型时，准确率相比传统词邻接网络模型提高了23%。
• 对称性和可达性度量被识别为最具信息量的特征，表明其在文体分类中具有强大的区分能力。
• 结果表明，功能词的局部拓扑特征可为语义和统计方法提供补充信息，从而提升分类性能。
• 主成分分析证实，信息性文本的风格比想象性文本更规则、变化更小，这一特征由网络度量有效捕捉。
• 基于网络的方法优于传统方法（如潜在语义分析和字符二元组频率），后者虽达到98%准确率，但依赖于不同的特征空间。