[论文解读] Distant Supervision for Entity Linking

Miao Fan, Qiang Zhou+1 more|arXiv (Cornell University)|May 14, 2015

Topic Modeling参考文献 18被引用 6

一句话总结

本文提出了远程监督实体链接（DSEL）这一新范式，通过将Freebase实体与其对应的Wikipedia页面对齐，自动生成弱标签训练数据，从而实现大规模、无需人工标注的实体链接。该方法使用逻辑分类器结合词序列与词性标注特征，取得0.545的F1值，优于基线的词袋方法。

ABSTRACT

Entity linking is an indispensable operation of populating knowledge repositories for information extraction. It studies on aligning a textual entity mention to its corresponding disambiguated entry in a knowledge repository. In this paper, we propose a new paradigm named distantly supervised entity linking (DSEL), in the sense that the disambiguated entities that belong to a huge knowledge repository (Freebase) are automatically aligned to the corresponding descriptive webpages (Wiki pages). In this way, a large scale of weakly labeled data can be generated without manual annotation and fed to a classifier for linking more newly discovered entities. Compared with traditional paradigms based on solo knowledge base, DSEL benefits more via jointly leveraging the respective advantages of Freebase and Wikipedia. Specifically, the proposed paradigm facilitates bridging the disambiguated labels (Freebase) of entities and their textual descriptions (Wikipedia) for Web-scale entities. Experiments conducted on a dataset of 140,000 items and 60,000 features achieve a baseline F1-measure of 0.517. Furthermore, we analyze the feature performance and improve the F1-measure to 0.545.

研究动机与目标

• 为解决实体链接在数十亿实体规模下的可扩展性问题，减少对昂贵人工标注的依赖。
• 弥合Freebase（实体消歧丰富）与Wikipedia（文本上下文丰富）之间的鸿沟，以提升实体链接效果。
• 开发一种可泛化、可扩展的分类器，通过将实体标签转换为特征，避免对每个实体单独训练模型。
• 评估在弱监督学习设置下，词汇特征与上下文特征在实体链接中的有效性。

提出的方法

• 利用启发式对齐假设：将与Freebase实体主题相同的Wikipedia页面视为等价实体，实现自动标签传播。
• 通过将每个Freebase实体（带MID）与对应Wikipedia页面中的句子关联，构建训练数据，生成弱标签样本。
• 将实体MID转换为类别特征，并与词汇特征（BOW、词序列）及词性标注结合用于分类。
• 采用逻辑分类器，在140,000个实例和60,000个特征上进行训练，使用五折交叉验证与保留集评估。
• 使用精确率、召回率与F1值作为评估指标，F1值为所有实体集合中精确率与召回率的调和平均值。
• 通过交叉验证调整超参数，并使用精确率-召回率曲线与F1值比较评估特征性能。

实验结果

研究问题

• RQ1 远程监督能否在无需人工标注的情况下，有效生成用于实体链接的弱标签训练数据？
• RQ2 不同类型的特征（词袋、词序列、词性标注）在实体链接分类性能中分别产生何种影响？
• RQ3 在大规模实体链接中，一个基于转换后实体标签训练的通用分类器，能否优于针对每个实体单独训练的专用模型？
• RQ4 在链接准确率方面，短距离上下文特征（K=1）相较于长距离特征（K=2,3）的优越程度如何？

主要发现

• 所提出的DSEL范式在140,000个实体与60,000个特征的数据集上，达到基线F1值0.517。
• 引入词性（POS）标注可提升性能，当结合词序列特征与POS时，F1值提升至0.545。
• K=1（短距离上下文）的词序列（WS）特征取得最高F1值0.545，优于BOW与长距离上下文的WS特征。
• WS+POS（K=1）特征组合表现最佳，表明局部句法与语义上下文对链接最具信息量。
• BOW+POS（K=1）的F1值达到0.540，略低于WS+POS，表明词序列比简单词频更能捕捉相关上下文。
• 结果表明，通过远程监督联合利用Freebase与Wikipedia，在大规模实体链接中具有有效性与可扩展性。