[论文解读] Simple Search Algorithms on Semantic Networks Learned from Language Use

Aida Nematzadeh, Filip Miscevic+1 more|arXiv (Cornell University)|Feb 10, 2016

Topic Modeling参考文献 15被引用 7

一句话总结

该论文表明，基于自然语言使用学习得到的语义网络上的简单随机游走，能够复现人类语义流畅性行为，包括基于补丁的检索和符合边际价值定律的行为。其主要贡献在于证明：从学习到的词向量表示和向量空间模型中提取的结构化语义网络，可使极简算法模拟复杂的人类搜索模式。

ABSTRACT

Recent empirical and modeling research has focused on the semantic fluency task because it is informative about semantic memory. An interesting interplay arises between the richness of representations in semantic memory and the complexity of algorithms required to process it. It has remained an open question whether representations of words and their relations learned from language use can enable a simple search algorithm to mimic the observed behavior in the fluency task. Here we show that it is plausible to learn rich representations from naturalistic data for which a very simple search algorithm (a random walk) can replicate the human patterns. We suggest that explicitly structuring knowledge about words into a semantic network plays a crucial role in modeling human behavior in memory search and retrieval; moreover, this is the case across a range of semantic information sources.

研究动机与目标

• 探究从自然语言使用中学习到的语义网络是否能够支持复现人类记忆搜索模式的简单搜索算法。
• 确定在这些网络上执行的随机游走是否能够复现语义流畅性任务中观察到的觅食样行为。
• 评估学习到的语义网络的结构特性（如小世界性、聚类）是否对建模类人检索动态是必要的。
• 比较不同语义表示（来自语言模型、自由联想规范和向量空间模型）在支持简单搜索算法方面的有效性。
• 评估显式网络结构而非原始向量表示是否对实现高效且类人记忆检索至关重要。

提出的方法

• 使用在自然语言语料上训练的认知合理计算模型学习词向量表示。
• 通过连接嵌入相似度超过阈值的词语构建语义网络，形成语义相关术语的图结构。
• 应用均匀随机游走算法遍历语义网络，从邻居节点中均匀随机选择下一个节点。
• 将项目间检索时间（IRTs）作为行为代理，将模型输出与语义流畅性任务中的人类数据进行比较。
• 使用标准图度量计算小世界性（σ），以评估网络拓扑，σ > 1 表明具有小世界结构。
• 对网络组件执行聚类分析，以评估子类别（如动物类型）是否得以保留，使用按组件大小加权的精确率和召回率。

实验结果

研究问题

• RQ1 在从自然语言数据中学习到的语义网络上，简单的随机游走能否复现人类语义流畅性任务中观察到的基于补丁、觅食样的检索模式？
• RQ2 语义网络的小世界结构是否为复现类人项目间检索时间（IRT）动态的必要条件？
• RQ3 基于向量空间模型（如BEAGLE）构建的语义网络，在与随机游走结合时，其表现是否与基于自由联想规范构建的网络相当？
• RQ4 语义网络的连通性特性（如聚类和路径长度）在多大程度上可预测对人类检索行为的复现成功？
• RQ5 学习到的语义网络在多大程度上能保留有意义的子类别分组（如宠物、家畜），并与人类的补丁切换行为相一致？

主要发现

• 在从自然语言数据中学习到的语义网络上执行的简单随机游走，成功复现了人类在语义流畅性任务中的觅食模式，表现为在补丁内IRT增加，补丁切换后下降。
• 所有成功复现人类IRT模式的语义网络均表现出小世界结构（σ > 1），表明该拓扑特性是实现所观察行为的必要条件。
• Learner和Gold网络的F1分数分别为0.59（精确率0.75，召回率0.49）和0.59（精确率0.72，召回率0.50），表明语义相关词语被有效聚类为连贯的子类别。
• 基于BEAGLE的网络未形成连贯的子类别聚类，且小世界性得分较低，这与其在复现行为数据方面表现较弱相关。
• 具有高聚类性和短平均路径长度的网络——即小世界结构的特征——对于高效检索至关重要，即使原始向量表示本身已具有效用。
• 将学习到的表示显式组织为语义网络，对于使简单搜索算法复现复杂的人类记忆动态至关重要，无论底层语义表示的来源为何。