[论文解读] ColNet: Embedding the Semantics of Web Tables for Column Type Prediction

Jiaoyan Chen, Ernesto Jiménez-Ruiz+2 more|arXiv (Cornell University)|Nov 4, 2018

Data Quality and Management参考文献 22被引用 5

一句话总结

ColNet 是一种神经网络框架，通过使用卷积神经网络（CNN）对单元格级语义和列级局部特征进行嵌入，无需依赖元数据或表格结构，即可预测网页表格中的列类型。它通过整合知识库查找、迁移学习和自监督训练来弥补稀疏或不完整表格中的知识缺口，从而在性能上超越当前最先进方法。

ABSTRACT

Automatically annotating column types with knowledge base (KB) concepts is a critical task to gain a basic understanding of web tables. Current methods rely on either table metadata like column name or entity correspondences of cells in the KB, and may fail to deal with growing web tables with incomplete meta information. In this paper we propose a neural network based column type annotation framework named ColNet which is able to integrate KB reasoning and lookup with machine learning and can automatically train Convolutional Neural Networks for prediction. The prediction model not only considers the contextual semantics within a cell using word representation, but also embeds the semantics of a column by learning locality features from multiple cells. The method is evaluated with DBPedia and two different web table datasets, T2Dv2 from the general Web and Limaye from Wikipedia pages, and achieves higher performance than the state-of-the-art approaches.

研究动机与目标

• 解决在缺少或不完整列名或表格描述等元数据时，网页表格中列类型预测的挑战。
• 通过结合知识库查找与机器学习，克服短列或稀疏列中常见的实体对应知识缺口问题。
• 开发一种自监督训练框架，利用知识库推理和迁移学习，提升在低资源表格上的模型鲁棒性。
• 通过跨单元格的列级语义局部特征学习，实现对任意表格数据的准确列类型预测。
• 提供一种与表格结构或外部元数据无关的通用列类型注释解决方案。

提出的方法

• 使用词嵌入表示列中单个单元格的语义内容。
• 应用卷积神经网络（CNN）通过捕捉多个单元格间的局部特征，学习列级语义。
• 通过知识库查找自动生成训练数据：为每个单元格检索候选知识库类别，推断实体对应关系，并构建正样本/负样本。
• 通过在通用知识库实体上进行预训练，并在特定表格列上微调，利用迁移学习缓解样本不足问题。
• 将 CNN 预测结果与基于查找的集成方法（ColNet_Ensemble）结合，以提升鲁棒性和准确性。
• 通过在训练中变化特定知识库实体的使用比例，模拟知识缺口，以评估模型的抗干扰能力。

实验结果

研究问题

• RQ1 仅依赖单元格内容和知识库查找，而不依赖列名或表格结构，深度学习模型能否有效预测列类型？
• RQ2 当实体对应关系稀疏或缺失时，模型在不同程度的知识缺口下表现如何，特别是在实体对应不完整的情况下？
• RQ3 在仅使用少量训练样本的低资源或短列上，迁移学习在多大程度上提升了模型性能？
• RQ4 与仅基于单元格级别的方法相比，通过跨单元格的列级语义局部特征建模是否能提升预测准确性？
• RQ5 在多样化的网页表格数据集上，ColNet 与最先进方法相比，在精确率、召回率和 F1 分数方面表现如何？

主要发现

• ColNet 在性能上超越了最先进方法，包括 T2K Match 和基于单元格到实体匹配的基线模型，尤其在列长较短、实体对应关系有限的列上表现更优。
• 在 T2Dv2 数据集上，ColNet 在严格模型设置下达到 F1 分数 0.777，显著优于 Lookup-Vote 和 Efthymiou17-Vote。
• 在平均列大小较小的 Limaye 数据集上，ColNet 仍优于先前方法，表明其对知识缺口具有强鲁棒性。
• 当仅使用 10% 的特定实体进行训练时，迁移学习使 CNN 性能提升最高达 6.5%，表明在数据稀缺条件下具备强大泛化能力。
• 在 FM（错误匹配）类别上，CNN 的性能下降通过迁移学习得到缓解，分别在 75% 和 100% 特定实体比例下提升 2.7% 和 6.5%。
• 集成模型（ColNet_Ensemble）在所有设置下均取得最高 F1 分数，证实了结合学习预测与知识库查找的优势。