[论文解读] Generating Word and Document Embeddings for Sentiment Analysis

Cem Rıfkı Aydın, Tunga Güngör+1 more|arXiv (Cornell University)|Jan 5, 2020

Sentiment Analysis and Opinion Mining被引用 5

一句话总结

本文提出了一种新颖的方法，通过结合上下文、监督信号和词典特征，生成情感感知的词向量与文档向量，在土耳其语和英语数据集上显著提升了情感分类性能。该方法优于基线模型（包括word2vec和先前的土耳其语情感分析方法），在土耳其语电影评论数据集上达到超过90%的准确率，在英语Twitter数据集上达到约88%的准确率，使用SVM分类器实现最先进性能。

ABSTRACT

Sentiments of words differ from one corpus to another. Inducing general sentiment lexicons for languages and using them cannot, in general, produce meaningful results for different domains. In this paper, we combine contextual and supervised information with the general semantic representations of words occurring in the dictionary. Contexts of words help us capture the domain-specific information and supervised scores of words are indicative of the polarities of those words. When we combine supervised features of words with the features extracted from their dictionary definitions, we observe an increase in the success rates. We try out the combinations of contextual, supervised, and dictionary-based approaches, and generate original vectors. We also combine the word2vec approach with hand-crafted features. We induce domain-specific sentimental vectors for two corpora, which are the movie domain and the Twitter datasets in Turkish. When we thereafter generate document vectors and employ the support vector machines method utilising those vectors, our approaches perform better than the baseline studies for Turkish with a significant margin. We evaluated our models on two English corpora as well and these also outperformed the word2vec approach. It shows that our approaches are cross-domain and portable to other languages.

研究动机与目标

• 为解决通用词向量在捕捉低资源语言（如土耳其语）中领域特定情感极性方面的局限性。
• 通过整合监督情感得分与来自词典及上下文的语义和词汇特征，提升情感分类性能。
• 开发可移植的、跨语言的词向量与文档向量，使其在不同领域和语言中均具有效性。
• 证明传统机器学习模型（如SVM）在结合高质量情感增强嵌入时，可超越深度学习模型。
• 提供一个公开可用的框架，适用于情感分析以外的其他自然语言处理任务。

提出的方法

• 将大规模语料库上训练的word2vec词向量与基于评论级情感得分（如星级评分）的手工特征结合，生成情感增强的词向量。
• 从官方土耳其词典（TDK）中引入基于词典的特征，以增强语义与句法表示的词汇知识。
• 采用加权融合策略，使用参数p将监督情感得分（正面、负面、中性）与上下文及词典特征结合，以优化领域特定情感表示。
• 通过平均或池化增强后的词向量构建文档级嵌入，保留文档层面的情感感知表示。
• 采用支持向量机（SVM）分类器进行情感分类，由于输入嵌入质量较高，其性能优于神经网络模型。
• 使用余弦相似度对词向量语义进行定性评估，结果表明情感相关词汇按极性聚类。

实验结果

研究问题

• RQ1 将监督情感得分与上下文及基于词典的特征结合，能否提升低资源语言（如土耳其语）中情感分类的词向量表示？
• RQ2 在情感分析任务中，领域特定情感信息的整合在多大程度上影响了词向量与文档向量的性能？
• RQ3 当输入为情感增强嵌入时，非神经网络的传统机器学习模型（如SVM）在多大程度上可实现最先进性能？
• RQ4 所提出的方法能否在语言和领域上实现泛化，包括英语以及电影评论与社交媒体等多样化文本类型？
• RQ5 情感感知嵌入在捕捉情感相关语义关系方面，与标准word2vec及其他基线模型相比表现如何？

主要发现

• 所提方法在土耳其语电影评论数据集上准确率超过90%，显著优于先前工作[11]的基线方法（p < 0.05，具有统计显著性）。
• 在英语Twitter数据集上，模型准确率约为88%，超越了仅依赖远程监督或表情符号特征的最先进模型。
• 将TDK词典特征与三要素（监督）方法结合，取得了最高性能提升，尤其在上下文更丰富的电影评论领域表现突出。
• 基于语料库的方法（仅使用共现模式，无显式情感标签）仍优于标准word2vec，证明了上下文在捕捉情感方面的价值。
• 定性分析表明，情感感知嵌入能正确将同极性词汇（如'muhteşem'与'10/10'、'harika'）聚类，余弦相似度验证了这一点。
• SVM分类器始终优于卷积神经网络（CNNs），表明高质量嵌入可弥补深度学习结构复杂度的不足。