[论文解读] A Survey on Data Cleaning Methods for Improved Machine Learning Model Performance

Ga Young Lee, Lubna Alzamil+2 more|arXiv (Cornell University)|Sep 15, 2021

Data Quality and Management参考文献 5被引用 29

一句话总结

一项关于最前沿数据清洗方法以提升机器学习性能的综述，讨论方法如 SampleClean、ActiveClean、Holoclean、AlphaClean 和 CPClean，它们的优点/局限，以及未来研究方向。

ABSTRACT

Data cleaning is the initial stage of any machine learning project and is one of the most critical processes in data analysis. It is a critical step in ensuring that the dataset is devoid of incorrect or erroneous data. It can be done manually with data wrangling tools, or it can be completed automatically with a computer program. Data cleaning entails a slew of procedures that, once done, make the data ready for analysis. Given its significance in numerous fields, there is a growing interest in the development of efficient and effective data cleaning frameworks. In this survey, some of the most recent advancements of data cleaning approaches are examined for their effectiveness and the future research directions are suggested to close the gap in each of the methods.

研究动机与目标

• 强调高质量数据对机器学习性能的重要性，并解决数据清洗的实际挑战。
• 回顾最近的数据清洗方法，比较它们的优点、缺点及在机器学习任务中的适用性。
• 确定可扩展、高效、通用化数据清洗的开放问题与未来研究方向。

提出的方法

• 在数据管理系统中对数据清洗框架的文献进行综述与综合。
• 描述代表性方法（SampleClean、ActiveClean、Holoclean、AlphaClean、CPClean）及其核心机制。
• 强调覆盖范围与效率之间的权衡，并讨论优化器的局限性及泛化性。
• 总结开放问题并提出在可视化、编程集成和硬件考虑方面的未来研究方向。

实验结果

研究问题

• RQ1 自2015年以来，为提升机器学习模型性能而提出的主导数据清洗方法有哪些？
• RQ2 在机器学习场景中，著名数据清洗框架（SampleClean、ActiveClean、Holoclean、AlphaClean、CPClean）的关键优点与局限性是什么？
• RQ3 在可扩展且高效的机器学习流水线中，数据清洗的主要开放问题与未来方向是什么？

主要发现

• 数据清洗成本高，但对可靠的 ML 性能至关重要，脏数据会造成显著的低效并带来潜在的收入影响。
• 最近的框架旨在降低人工投入并提高可扩展性，使用如仿真清洁数据、增量学习、概率推断和流水线生成等方法。
• 在数据覆盖的完整性与计算效率之间存在权衡，基于数据集特征影响方法选择。
• 优化器设计和用户交互是实际应用和跨领域泛化的关键障碍。
• 未来方向强调可视化、统一的概率数据编程以及硬件支持的内存管理，以提升性能和易用性。