[论文解读] PromptNER: A Prompting Method for Few-shot Named Entity Recognition via k Nearest Neighbor Search

Mozhi Zhang, Hang Yan+2 more|arXiv (Cornell University)|May 20, 2023

Topic Modeling被引用 4

一句话总结

PromptNER 提出了一种基于提示的 few-shot NER 方法，通过 k-最近邻（k-NN）搜索，仅使用支持集样本优化标签原型，实现在低资源目标领域中的有效微调。该方法通过结合提示工程、位置感知的双仿射跨度检测器以及基于提示的分类器与 k-NN 优化，在 Few-NERD 和 CrossNER 上实现了最先进性能。

ABSTRACT

Few-shot Named Entity Recognition (NER) is a task aiming to identify named entities via limited annotated samples. Recently, prototypical networks have shown promising performance in few-shot NER. Most of prototypical networks will utilize the entities from the support set to construct label prototypes and use the query set to compute span-level similarities and optimize these label prototype representations. However, these methods are usually unsuitable for fine-tuning in the target domain, where only the support set is available. In this paper, we propose PromptNER: a novel prompting method for few-shot NER via k nearest neighbor search. We use prompts that contains entity category information to construct label prototypes, which enables our model to fine-tune with only the support set. Our approach achieves excellent transfer learning ability, and extensive experiments on the Few-NERD and CrossNER datasets demonstrate that our model achieves superior performance over state-of-the-art methods.

研究动机与目标

• 为解决传统原型网络在 few-shot NER 中的局限性，即因固定标签原型而无法在新支持集上进行微调。
• 通过在推理过程中仅使用支持集实现模型优化，实现 few-shot NER 中的迁移学习。
• 通过将 k-NN 检索与基于提示的分类相结合，提升跨度检测与实体类型识别性能。
• 提供一个简单但有效的 few-shot NER 基线模型，可在不同领域与实体类型间良好泛化。

提出的方法

• 构建将实体类别信息嵌入自然语言提示，以引导预训练语言模型（PLMs）进行实体抽取。
• 采用位置感知的双仿射模块，从输入句子中检测候选跨度。
• 使用基于提示的分类器执行跨度级别的度量学习，替代传统的基于原型的相似度计算。
• 引入 k-NN 检索，从支持集中检索真实实体表示，用于优化跨度预测。
• 直接在新支持集上优化标签原型嵌入，无需查询集参与，实现端到端微调。
• 应用一种新颖的重排序策略，通过测量其与最近标签原型的距离，过滤虚假正例跨度。

实验结果

研究问题

• RQ1 基于提示的方法是否能通过仅在支持集上微调而无需依赖查询集，从而提升 few-shot NER 性能？
• RQ2 当仅有少量支持样本时，k-NN 检索在增强标签原型表示学习方面有多有效？
• RQ3 基于提示的分类与跨度检测是否能超越传统基于原型的度量学习在 few-shot NER 中的表现？
• RQ4 所提出方法在低资源设置下是否能在不同领域与实体类型间实现良好泛化？
• RQ5 k-NN 与提示工程的结合是否能降低 few-shot NER 中的虚假正例跨度预测？

主要发现

• PromptNER 在 Few-NERD 与 CrossNER 基准上达到最先进性能，优于现有 few-shot NER 方法。
• 模型展现出强大的迁移学习能力，可在无需查询数据参与适应过程的情况下，对新支持集实现有效微调。
• k-NN 检索组件通过检索相关支持样本以优化跨度预测，显著提升了预测准确率。
• 所提出的重排序策略能有效过滤虚假正例跨度，尤其在未见实体类型上表现突出。
• 结合 k-NN 的基于提示的分类器在实体类型识别上比标准原型方法更具鲁棒性与泛化能力。
• 该方法在多种 N-way K-shot 设置下均保持高性能，证实其在低资源场景下的鲁棒性。