[论文解读] Support vector regression model for BigData systems

Alessandro Rizzi|arXiv (Cornell University)|Dec 5, 2016

Cloud Computing and Resource Management参考文献 18被引用 6

一句话总结

本文提出一种支持向量回归（SVR）模型，用于预测大数据系统中MapReduce作业的执行时间，利用机器学习方法克服基于仿真模型的计算成本。在大多数情况下，SVR优于线性回归，尤其在噪声数据下表现更优，且当使用核心数倒数（1/nCores）作为关键特征时，可实现最优配置下相对误差低于10%的最高精度。

ABSTRACT

Nowadays Big Data are becoming more and more important. Many sectors of our economy are now guided by data-driven decision processes. Big Data and business intelligence applications are facilitated by the MapReduce programming model while, at infrastructural layer, cloud computing provides flexible and cost effective solutions for allocating on demand large clusters. In such systems, capacity allocation, which is the ability to optimally size minimal resources for achieve a certain level of performance, is a key challenge to enhance performance for MapReduce jobs and minimize cloud resource costs. In order to do so, one of the biggest challenge is to build an accurate performance model to estimate job execution time of MapReduce systems. Previous works applied simulation based models for modeling such systems. Although this approach can accurately describe the behavior of Big Data clusters, it is too computationally expensive and does not scale to large system. We try to overcome these issues by applying machine learning techniques. More precisely we focus on Support Vector Regression (SVR) which is intrinsically more robust w.r.t other techniques, like, e.g., neural networks, and less sensitive to outliers in the training set. To better investigate these benefits, we compare SVR to linear regression.

研究动机与目标

• 为解决在Hadoop和Tez系统中准确预测大数据作业执行时间的挑战。
• 克服在大规模环境下基于仿真的性能建模在计算上的不可行性。
• 评估机器学习技术（特别是线性回归和SVR）在可扩展且精确的性能预测中的应用。
• 识别在集群规模和作业特性背景下，SVR最有效的特征与核函数类型。
• 实现在基于云的大数据系统中成本效益高且高效的容量分配。

提出的方法

• 采用支持向量回归（SVR）并使用线性、二次和三次多项式以及高斯（RBF）核函数来建模作业执行时间。
• 通过特征工程提取相关作业与集群属性，其中1/nCores被识别为高度预测性的特征。
• 采用灰箱方法，结合领域特定的MapReduce模型与机器学习，以指导特征选择。
• 基于Hadoop和Tez工作负载的真实执行数据，将SVR与线性回归进行对比。
• 通过交叉验证优化SVR超参数，以平衡偏差与方差。
• 在多个查询工作负载（如Q2、Q3、Q4）上验证模型，覆盖不同集群规模（20个核心）。

实验结果

研究问题

• RQ1 在大数据工作负载中，SVR是否能比线性回归提供更精确的执行时间预测？
• RQ2 不同SVR核函数类型（多项式、高斯）在预测作业完成时间方面表现如何？
• RQ3 在Hadoop和Tez系统中，哪些作业与集群特征最能预测执行时间？
• RQ4 核心数倒数（1/nCores）是否作为性能建模的更优特征？
• RQ5 基于历史数据训练的机器学习模型能否实现可扩展且成本效益高的云环境大数据系统容量规划？

主要发现

• SVR在所有测试工作负载（Q2、Q3、Q4）中均持续优于线性回归，平均相对误差更低。
• 高斯核和多项式SVR核函数分别将平均误差降低至4.01%（Q2）、22.14%（Q3）和42.43%（Q4）。
• 线性回归在多个情况下未能收敛，尤其是在高方差或噪声较大的条件下。
• 1/nCores特征实现了最佳预测性能，优于所有非线性SVR变体。
• 表现最佳的模型在Q2上实现了3.10%的相对误差，表明其在集群规模预测中具有高精度。
• 采用SVR的AROMA类系统可实现约12%的平均误差来估算完成时间，支持SLA合规性。