[论文解读] Hierarchical Losses and New Resources for Fine-grained Entity Typing and Linking

Shikhar Murty, Patrick Verga+3 more|arXiv (Cornell University)|Jul 13, 2018

Topic Modeling参考文献 36被引用 4

一句话总结

本文提出分层损失函数和双线性映射，将来自本体的丰富类型与实体层次结构整合到细粒度实体类型分类与链接中，在 FIGER、MedMentions 和 TypeNet 新数据集上取得最先进结果，这些数据集已向社区发布。

ABSTRACT

Extraction from raw text to a knowledge base of entities and fine-grained types is often cast as prediction into a flat set of entity and type labels, neglecting the rich hierarchies over types and entities contained in curated ontologies. Previous attempts to incorporate hierarchical structure have yielded little benefit and are restricted to shallow ontologies. This paper presents new methods using real and complex bilinear mappings for integrating hierarchical information, yielding substantial improvement over flat predictions in entity linking and fine-grained entity typing, and achieving new state-of-the-art results for end-to-end models on the benchmark FIGER dataset. We also present two new human-annotated datasets containing wide and deep hierarchies which we will release to the community to encourage further research in this direction: MedMentions, a collection of PubMed abstracts in which 246k mentions have been mapped to the massive UMLS ontology; and TypeNet, which aligns Freebase types with the WordNet hierarchy to obtain nearly 2k entity types. In experiments on all three datasets we show substantial gains from hierarchy-aware training.

研究动机与目标

• 通过整合手工整理本体中的分层结构，解决平面预测模型在细粒度实体类型分类与链接中的局限性。
• 开发新型分层损失函数与双线性映射，以有效编码复杂的类型与实体层次结构。
• 发布两个新的人工标注数据集——MedMentions 和 TypeNet——包含广泛且深层的层次结构，供社区使用。
• 通过层次感知训练，在端到端实体类型分类与链接中实现显著性能提升。
• 为细粒度实体类型分类与链接中的层次感知模型建立新的评估基准。

提出的方法

• 提出一种分层损失函数，鼓励预测结果尊重类型与实体层次结构中的父子关系。
• 引入实数与复数双线性映射，以建模实体提及与其类型之间的层次关系。
• 利用 UMLS 本体构建 MedMentions 数据集，包含 246,000 个 PubMed 摘要中的实体提及，并标注了细粒度类型。
• 将 Freebase 类型与 WordNet 对齐，构建 TypeNet 数据集，包含近 2,000 个实体类型及深层的层次结构。
• 在 FIGER、MedMentions 和 TypeNet 上，将所提方法应用于端到端模型，训练过程中使用层次监督。
• 采用双线性变换将实体表示映射到类型空间，同时保留层次约束。

实验结果

研究问题

• RQ1 与平面预测相比，层次监督是否能显著提升细粒度实体类型分类与链接的性能？
• RQ2 实数与复数双线性映射在编码实体类型中的层次关系方面有多有效？
• RQ3 来自手工整理本体的深层与广泛层次结构在多大程度上提升了模型的泛化能力与准确性？
• RQ4 所提方法是否能在 FIGER 等基准数据集上实现最先进性能，同时利用复杂层次结构？
• RQ5 MedMentions 和 TypeNet 新数据集在支持层次感知模型的开发与评估方面起到何种作用？

主要发现

• 所提层次感知方法在基准数据集 FIGER 上实现了细粒度实体类型分类与链接的最先进结果。
• 在全部三个数据集——FIGER、MedMentions 和 TypeNet——上均观察到显著性能提升，证明了层次监督的有效性。
• 与平面基线相比，使用复杂数双线性映射显著提升了对层次关系的建模能力。
• MedMentions 数据集包含 246,000 个提及，其类型来自庞大的 UMLS 本体，支持大规模评估。
• TypeNet 数据集将 Freebase 中近 2,000 个实体类型与 WordNet 层次结构对齐，提供了深度且结构化的类型层次。
• 通过新型损失函数与双线性层整合层次信息，相较平面预测模型实现了持续的性能提升。