[论文解读] Gaussian process regression as a predictive model for Quality-of-Service in Web service systems

Jakub M. Tomczak, Jerzy Świątek+1 more|arXiv (Cornell University)|Jul 30, 2012

Gaussian Processes and Bayesian Inference参考文献 25被引用 3

一句话总结

本文提出使用线性核的高斯过程回归（GPR）作为服务质量（QoS）属性（如延迟）的概率预测模型。该方法采用非参数贝叶斯方法建模输入请求流与QoS结果之间的关系，在预测精度方面相较于CART模型表现出统计上显著的提升，平均绝对误差（MAE）的p值为1.84×10⁻⁵，均方误差（MSE）的p值为0.018。

ABSTRACT

In this paper, we present the Gaussian process regression as the predictive model for Quality-of-Service (QoS) attributes in Web service systems. The goal is to predict performance of the execution system expressed as QoS attributes given existing execution system, service repository, and inputs, e.g., streams of requests. In order to evaluate the performance of Gaussian process regression the simulation environment was developed. Two quality indexes were used, namely, Mean Absolute Error and Mean Squared Error. The results obtained within the experiment show that the Gaussian process performed the best with linear kernel and statistically significantly better comparing to Classification and Regression Trees (CART) method.

研究动机与目标

• 解决理论性能预测模型与Web服务系统实际应用之间的差距。
• 基于输入请求流和系统配置，开发QoS属性（如延迟）的预测模型。
• 在受控仿真环境中评估高斯过程回归相对于CART等传统方法的性能。
• 提供一种概率性、非参数化框架，以考虑由于内部噪声和未知过程导致的系统行为不确定性。
• 通过准确的QoS预测，支持动态资源分配和服务选择等优化任务。

提出的方法

• 将QoS预测建模为使用高斯过程的非参数回归问题，其中函数f从零均值和核函数k(x, x’)的高斯过程先验中抽取。
• 将观测到的QoS输出y建模为y = f(x) + ε，其中ε为均值为零、精度为β⁻¹的高斯白噪声。
• 采用类型2最大似然估计法，从训练数据中学习核函数和噪声方差的超参数。
• 使用三种核函数：线性核、平方指数核，以及结合线性和平方指数成分的复合核。
• 开发了定制的仿真环境，以生成具有多个需求类别的合成Web流量，采用泊松过程和对数正态分布的请求大小。
• 实现轮转调度器以模拟各类需求的执行，每类需求在单位时间内具有固定的执行速率。

实验结果

研究问题

• RQ1 在给定输入请求流的情况下，高斯过程回归能否有效预测Web服务系统中的QoS属性（如延迟）？
• RQ2 高斯过程回归在QoS属性预测精度方面与CART相比表现如何？
• RQ3 在Web服务QoS建模背景下，哪种核函数（线性、平方指数或复合核）能实现最佳预测性能？
• RQ4 高斯过程回归相较于CART的性能提升是否具有统计显著性？
• RQ5 所提出的仿真环境能否准确模拟真实世界的Web服务行为，以实现可靠的性能评估？

主要发现

• 使用线性核的高斯过程回归在所有测试模型中实现了最低的平均绝对误差（MAE）和均方误差（MSE）。
• 线性核在预测QoS属性方面优于平方指数核和复合核，表明其对输入相似性的建模更优。
• 复合核（作为线性和平方指数成分的和）的性能略优于单独使用平方指数核。
• 两样本t检验表明，使用线性核的GPR与CART在MAE上的差异具有统计显著性，p值为1.84×10⁻⁵。
• 对于MSE，GPR（线性核）与CART之间的差异在5%显著性水平下也具有统计显著性，p值为0.018。
• 仿真环境成功生成了真实的Web流量模式，并在受控条件下实现了对预测模型的可靠评估。