[论文解读] General-purpose Declarative Inductive Programming with Domain-Specific Background Knowledge for Data Wrangling Automation

Lidia Contreras-Ochando, Cèsar Ferri+4 more|arXiv (Cornell University)|Sep 26, 2018

Logic, Reasoning, and Knowledge参考文献 20被引用 3

一句话总结

本文提出一种通用的声明式归纳编程方法，通过引入领域特定的背景知识，实现从极少示例自动完成数据整理任务。通过将函数式编程语言与领域特定库及归纳编程系统（MagicHaskeller）相结合，该方法在多种数据格式上均实现了高准确率，优于FlashFill，同时通过用户自定义领域文件支持可扩展性。

ABSTRACT

Given one or two examples, humans are good at understanding how to solve a problem independently of its domain, because they are able to detect what the problem is and to choose the appropriate background knowledge according to the context. For instance, presented with the string "8/17/2017" to be transformed to "17th of August of 2017", humans will process this in two steps: (1) they recognise that it is a date and (2) they map the date to the 17th of August of 2017. Inductive Programming (IP) aims at learning declarative (functional or logic) programs from examples. Two key advantages of IP are the use of background knowledge and the ability to synthesise programs from a few input/output examples (as humans do). In this paper we propose to use IP as a means for automating repetitive data manipulation tasks, frequently presented during the process of {\em data wrangling} in many data manipulation problems. Here we show that with the use of general-purpose declarative (programming) languages jointly with generic IP systems and the definition of domain-specific knowledge, many specific data wrangling problems from different application domains can be automatically solved from very few examples. We also propose an integrated benchmark for data wrangling, which we share publicly for the community.

研究动机与目标

• 解决在多样化领域中数据整理任务存在的高人工投入与缺乏系统化自动化的问题。
• 克服现有工具（如FlashFill）因背景知识不足而在复杂或模糊数据格式上失效的局限性。
• 通过声明式、函数式编程与领域特定知识的结合，实现仅从一个或两个输入-输出示例中自动合成程序。
• 提供一个公开的基准数据集，以确保可复现性，并促进未来数据整理工具的评估。
• 证明将通用函数式编程与领域特定背景知识结合，可实现可扩展、可扩展且高准确率的数据转换。

提出的方法

• 使用通用函数式编程语言（Haskell）作为程序合成的目标语言。
• 集成一个领域特定背景知识（DSBK）库，其中包含与特定数据类型（如日期、地址、姓名）相关的函数和约束。
• 利用归纳编程系统（MagicHaskeller）从一个或两个输入-输出示例中推断出正确的转换程序。
• 使用函数式语言定义领域特定库，使用户能够为新数据类型扩展或自定义系统。
• 采用基于假设的搜索策略，借助背景知识缩小搜索空间，提升合成效率。
• 在新创建的公开基准数据集上评估系统，该数据集包含六个领域中的18个数据集，涵盖日期、电子邮件、电话号码和姓名等。

实验结果

研究问题

• RQ1 一个增强领域特定背景知识的通用归纳编程系统，能否从极少示例中自动完成数据整理任务？
• RQ2 与FlashFill等基于领域特定语言的系统相比，集成领域特定知识在多大程度上提升了程序合成的准确率与鲁棒性？
• RQ3 一个单一、可扩展的框架在多大程度上能无需重新配置或重新训练，处理跨多个领域的多样化数据整理问题？
• RQ4 一个公开共享的基准数据集，包含多样化的真实世界数据整理问题，能否实现可复现的评估并促进工具开发？
• RQ5 合成程序的深度（原语数量）和背景知识库的大小在多大程度上影响合成性能？

主要发现

• 所提出的DSI方法在复杂数据整理任务中优于FlashFill，尤其在处理多种格式的日期时表现更优，而FlashFill因缺乏上下文知识而失败。
• 该系统在基准测试的18个数据集中成功合成了17个正确程序，包括模糊日期格式和非标准标点符号等复杂情况。
• 仅使用一个示例，系统在所有测试领域均实现了高准确率，证明了领域特定背景知识在引导程序合成方面的有效性。
• 将函数式编程与领域特定库结合，生成了简洁、人类可读的程序，且深度（d）较低，表明解决方案高效且紧凑。
• 公开的基准数据仓库（https://github.com/liconoc/DataWrangling-DSI）提供了可重用、文档齐全的数据集，可用于评估未来数据整理工具。
• 该方法具有可扩展性：用户可使用通用函数式语言定义新的领域文件，无需系统重新设计即可适应新数据类型。