[论文解读] Resource Usage Estimation of Data Stream Processing Workloads in Datacenter Clouds

Alireza Khoshkbarforoushha, Rajiv Ranjan+4 more|arXiv (Cornell University)|Jan 28, 2015

Data Management and Algorithms参考文献 34被引用 14

一句话总结

本文提出一种基于混合密度网络（MDN）的方法，用于估计数据流处理工作负载中资源使用的完整概率密度函数（PDF），以解决单点估计的局限性。通过建模多峰态、时变的资源消耗特性，该方法在Linear Road和TPC-H基准测试中，于均方误差和负对数预测密度等多种误差度量下均实现了高精度。

ABSTRACT

Real-time computation of data streams over affordable virtualized infrastructure resources is an important form of data in motion processing architecture. However, processing such data streams while ensuring strict guarantees on quality of services is problematic due to: (i) uncertain stream arrival pattern; (ii) need of processing different types of continuous queries; and (iii) variable resource consumption behavior of continuous queries. Recent work has explored the use of statistical techniques for resource estimation of SQL queries and OLTP workloads. All these techniques approximate resource usage for each query as a single point value. However, in data stream processing workloads in which data flows through the graph of operators endlessly and poses performance and resource demand fluctuations, the single point resource estimation is inadequate. Because it is neither expressive enough nor does it capture the multi-modal nature of the target data. To this end, we present a novel technique which uses mixture density networks, a combined structure of neural networks and mixture models, to estimate the whole spectrum of resource usage as probability density functions. The proposed approach is a flexible and convenient means of modeling unknown distribution models. We have validated the models using both the linear road benchmark and the TPC-H, observing high accuracy under a number of error metrics: mean-square error, continuous ranked probability score, and negative log predictive density.

研究动机与目标

• 解决动态数据流处理工作负载中单点资源估计不足的问题。
• 建模连续查询处理中资源消耗的多峰态和时变特性。
• 提供一种灵活、数据驱动的方法，将资源使用的完整范围表示为概率密度函数。
• 在真实世界基准上通过多种误差度量对方法进行严格验证。

提出的方法

• 该方法采用混合密度网络（MDNs），将神经网络与高斯混合模型结合，以建模复杂的多峰态资源使用分布。
• 输入特征包括流到达速率、查询类型和算子配置，这些特征被输入MDN以预测资源消耗的完整PDF。
• MDN通过反向传播端到端训练，以最小化预测似然性，从而优化负对数预测密度。
• 模型输出一组高斯分量，表示CPU、内存和I/O使用量随时间变化的完整分布。
• 该方法通过提供概率预测而非点估计，支持不确定性感知的资源供应。
• 在Linear Road和TPC-H基准上，使用多种误差度量（包括连续概率评分CRPS）进行验证。

实验结果

研究问题

• RQ1 与单点估计相比，概率模型是否能更好地捕捉数据流处理中动态且多峰态的资源使用模式？
• RQ2 混合密度网络在多样化流工作负载中，能否准确预测资源消耗的完整分布？
• RQ3 所提出的方法在预测准确性和不确定性量化方面是否优于传统点估计技术？
• RQ4 在不同流到达模式和查询类型下，MDN-based估计器的鲁棒性如何？

主要发现

• 在Linear Road和TPC-H基准测试中，基于MDN的方法相比单点估计方法显著降低了均方误差（MSE）。
• 该模型在预测完整分布方面表现出高精度，连续概率评分（CRPS）较低，表明其预测不确定性的校准性更优。
• 负对数预测密度（NLPD）值持续低于基线方法，证实了其在概率预测性能上的提升。
• 该方法有效捕捉了多峰态资源使用模式，尤其在负载波动和多样化查询类型下表现突出。
• 该模型在不同流处理场景中表现出良好的泛化能力，对数据到达速率和查询复杂度的变化具有鲁棒性。
• 结果表明，将资源使用建模为PDF而非点估计，可实现更可靠、更具表现力的云数据中心资源预测。