[论文解读] Infrastructure for Usable Machine Learning: The Stanford DAWN Project

Peter Bailis, Kunle Olukotun+2 more|arXiv (Cornell University)|May 22, 2017

Data Stream Mining Techniques参考文献 23被引用 16

一句话总结

斯坦福大学DAWN项目提出了一套全面的系统基础设施，通过自动化从数据准备、特征工程到部署和监控的端到端机器学习开发流程，使非专家能够高效构建生产级机器学习应用。通过整合新颖的系统设计、硬件感知优化以及分布式运行时，DAWN旨在大幅减少构建和维护机器学习系统所需的时间、成本和专业知识。

ABSTRACT

Despite incredible recent advances in machine learning, building machine learning applications remains prohibitively time-consuming and expensive for all but the best-trained, best-funded engineering organizations. This expense comes not from a need for new and improved statistical models but instead from a lack of systems and tools for supporting end-to-end machine learning application development, from data preparation and labeling to productionization and monitoring. In this document, we outline opportunities for infrastructure supporting usable, end-to-end machine learning applications in the context of the nascent DAWN (Data Analytics for What's Next) project at Stanford.

研究动机与目标

• 解决当前构建机器学习应用成本高昂且复杂的问题，这些问题通常需要大量专业工程师和数据科学家团队参与。
• 克服由人工密集型数据准备、特征工程和生产化流程造成的机器学习开发瓶颈，而非算法创新本身。
• 通过使领域专家（无需具备机器学习、分布式系统或硬件方面的深厚专业知识）能够构建和部署高质量、生产就绪的机器学习系统，实现机器学习的民主化。
• 减少在医疗保健和商业分析等多样化领域中开发、部署和监控机器学习应用所需的时间、成本和工程投入。
• 构建一个全栈式、开源的基础设施，统一数据管道、模型训练、硬件加速和分布式执行，实现无缝的端到端机器学习开发。

提出的方法

• 设计一个名为DAWN Stack的全栈系统，将数据摄入、特征提取、模型训练和生产部署整合为一个统一、可用的框架。
• 利用高级抽象和领域特定语言（DSL），简化数据标注和特征工程，降低对人工驱动、专家主导的数据整理的依赖。
• 针对新兴硬件基础架构（包括低精度加速器和可重构FPGA）优化机器学习工作负载，以提升性能和能效。
• 开发分布式运行时，自动管理异步操作、负载均衡和资源分配，跨异构集群实现高效扩展训练和推理。
• 与现有机器学习框架（如TensorFlow和Spark）集成，确保广泛的兼容性和采用，同时扩展其自动化调优和监控能力。
• 应用关于算法-硬件协同设计的理论洞见，实现学习算法在目标平台上的自动、硬件感知调优，以获得最佳性能。

实验结果

研究问题

• RQ1 如何在不依赖深度系统或机器学习专业知识的前提下，降低非专家用户指定和部署机器学习应用的时间与成本？
• RQ2 哪些系统抽象和编程模型能够自动化数据准备、特征工程和模型生产化流程，同时保持高性能和高可靠性？
• RQ3 硬件感知的系统设计（尤其是低精度计算和可重构计算）如何提升机器学习工作负载的效率和可扩展性？
• RQ4 何种统一的编程模型能够有效管理分布式机器学习执行中的设备内并行性（如GPU/FPGA）和设备间并行性（如集群）？
• RQ5 如何在分布式和无服务器环境中，自动调优学习算法以实现在多样化硬件和网络条件下的最优性能？

主要发现

• DAWN项目表明，工业界机器学习中的大部分工程投入集中在数据准备、特征工程和生产化上，而非新模型的开发。
• 现有系统如Snorkel、MacroBase和DeepDive已在生产环境中展现出强大的实际可行性，验证了DAWN方法的可行性。
• 硬件感知优化（包括低精度执行和基于FPGA的加速）可在不牺牲模型准确性的前提下，显著提升性能并降低功耗。
• 能够自动管理异步操作、负载分布和容错机制的分布式运行时，可实现跨集群的可扩展、高鲁棒性的机器学习模型部署。
• 高级抽象与底层系统及硬件优化的结合，显著提升了易用性，降低了非专家用户进入的门槛。
• 初步结果证实，对机器学习栈实现端到端自动化，可大幅减少构建和维护生产级机器学习系统的时间与成本。