[论文解读] New Methods, Current Trends and Software Infrastructure for NLP

Hamish Cunningham, Yorick Wilks+1 more|ArXiv.org|Jul 23, 1996

Natural Language Processing Techniques参考文献 7被引用 20

一句话总结

本文介绍了 GATE（通用文本工程架构），一种免费的软件基础设施，旨在通过解决文本处理中的关键需求，特别是信息抽取，来支持自然语言处理（NLP）研究与开发。该架构提出了一种模块化、基于数据库的体系结构，与 TIPSTER 和 MULTEXT 等标准集成，支持可扩展、可评估、可重用的 NLP 系统，显著提升了对大规模语料库、统计方法和工程实践的支持。

ABSTRACT

The increasing use of `new methods' in NLP, which the NeMLaP conference series exemplifies, occurs in the context of a wider shift in the nature and concerns of the discipline. This paper begins with a short review of this context and significant trends in the field. The review motivates and leads to a set of requirements for support software of general utility for NLP research and development workers. A freely-available system designed to meet these requirements is described (called GATE - a General Architecture for Text Engineering). Information Extraction (IE), in the sense defined by the Message Understanding Conferences (ARPA \cite{Arp95}), is an NLP application in which many of the new methods have found a home (Hobbs \cite{Hob93}; Jacobs ed. \cite{Jac92}). An IE system based on GATE is also available for research purposes, and this is described. Lastly we review related work.

研究动机与目标

• 应对由于统计方法的广泛应用、大规模语料库的使用以及面向工程的应用日益增长，对稳健、可重用且可评估的软件基础设施日益增长的需求。
• 通过将 SGML 基础模型（如 MULTEXT）和基于数据库的模型（如 TIPSTER）的优势统一到单一可扩展的体系结构中，克服早期系统的局限性。
• 通过标准化、模块化和可扩展的软件组件，支持大规模、性能可评估的 NLP 应用，特别是信息抽取。
• 通过推动 NLP 研发中的实证评估、可重用资源和工程规范，促进从玩具问题向真实世界、可扩展的 NLP 系统的转变。

提出的方法

• 将 GATE 设计为一种通用的、面向对象的文本工程软件架构，支持模块化处理流水线和可扩展的注释模型。
• 将 TIPSTER 的以数据库为中心、与应用无关的模型与 MULTEXT 的 SGML 基础注释框架相结合，以同时支持性能和互操作性。
• 使用持久化、可查询的数据库来存储注释和文档元数据，从而实现高效的 I/O、分布式控制和访问控制，克服基于文件的系统在 I/O 和表示开销方面的瓶颈。
• 定义一种标准化的注释模型，支持多层级的语言学和信息抽取注释（例如，命名实体、词性标注），并包含关于来源和出处的元数据。
• 实现一个灵活、可扩展的框架，支持外部工具（如解析器、信息抽取系统）的集成，并支持只读和可写文档存储。
• 利用现有标准和工具（如 SGML、TIPSTER、MULTEXT）确保兼容性并促进重用，致力于实现不同 NLP 框架之间的互操作性。

实验结果

研究问题

• RQ1 如何通过统一、可扩展且可扩展的软件基础设施，整合多样化的标准和工具，来支持 NLP 研究与开发？
• RQ2 支持大规模、性能可评估的 NLP 应用（特别是信息抽取）所需的体系结构特性有哪些？
• RQ3 如何通过混合式、模块化的体系结构，克服 SGML 基础系统（如 MULTEXT）和基于数据库的系统（如 TIPSTER）的局限性？
• RQ4 软件基础设施在哪些方面可以促进 NLP 领域的可重用性、互操作性和工程严谨性，特别是在统计方法和大规模语料库的背景下？
• RQ5 单一框架能否有效同时满足信息抽取及其他 NLP 任务在注释和处理方面的需求，同时保持灵活性和可扩展性？

主要发现

• GATE 成功地将 TIPSTER 和 MULTEXT 的关键特性统一起来，结合了 TIPSTER 的数据库效率和应用无关性，以及 MULTEXT 的丰富注释模型和基于 SGML 的可扩展性。
• 使用集中式持久化数据库存储注释，相比基于文件或依赖大量 SGML 解析的模型，显著降低了 I/O 开销，并实现了更高效、可扩展的处理。
• 通过数据库机制，GATE 支持多层级的访问控制和分布式处理，解决了 SGML 基础系统在管理来源和访问控制方面的关键局限。
• 该体系结构支持外部工具的无缝集成，并支持只读和可写文档处理，适用于归档和实时处理场景。
• 通过允许 TIPSTER 兼容数据以 SGML 格式存储，供 MULTEXT 工具处理，反之亦然，该系统实现了 TIPSTER 和 MULTEXT 之间的互操作性。
• 该框架通过支持实证评估、可重用组件以及大规模 NLP 系统的部署，推动了 NLP 从研究导向向工程导向的转变，尤其在信息抽取领域表现突出。