[论文解读] Function Based Nonlinear Least Squares and Application to Jelinski--Moranda Software Reliability Model

Jingwei Liu, Meizhi Xu|arXiv (Cornell University)|Aug 25, 2011

Software Reliability and Analysis Research参考文献 20被引用 4

一句话总结

本文提出了一种基于函数的非线性最小二乘估计（FNLSE）方法，以改进Jelinski–Moranda软件可靠性模型中的参数估计。该方法引入了一种基于幂变换的新方法（powLSE），在平均修复时间（MTBF）预测精度方面优于经典的最小二乘估计（LSE）、最大似然估计（MLE）和对数LSE。该方法通过将变换函数作为权重来处理异方差性问题，实验结果基于六个基准数据集表明，采用最优幂指数的powLSE在递归相对误差和Braun统计量方面显著低于其他对比方法。

ABSTRACT

A function based nonlinear least squares estimation (FNLSE) method is proposed and investigated in parameter estimation of Jelinski-Moranda software reliability model. FNLSE extends the potential fitting functions of traditional least squares estimation (LSE), and takes the logarithm transformed nonlinear least squares estimation (LogLSE) as a special case. A novel power transformation function based nonlinear least squares estimation (powLSE) is proposed and applied to the parameter estimation of Jelinski-Moranda model. Solved with Newton-Raphson method, Both LogLSE and powLSE of Jelinski-Moranda models are applied to the mean time between failures (MTBF) predications on six standard software failure time data sets. The experimental results demonstrate the effectiveness of powLSE with optimal power index compared to the classical least--squares estimation (LSE), maximum likelihood estimation (MLE) and LogLSE in terms of recursively relative error (RE) index and Braun statistic index.

研究动机与目标

• 为解决经典最小二乘估计（LSE）和对数LSE（LogLSE）在Jelinski–Moranda软件可靠性模型参数估计中的局限性。
• 克服软件故障数据中的异方差性问题，该问题会降低传统方法的估计精度。
• 提出一种通用框架——基于函数的非线性最小二乘估计（FNLSE），通过将变换函数作为加权机制，扩展传统LSE方法。
• 提出并评估一种基于幂变换的LSE（powLSE）方法，采用最优幂指数以提升预测精度。
• 通过在六个标准软件故障时间数据集上使用递归相对误差和Braun统计量标准，验证所提方法的有效性。

提出的方法

• FNLSE通过将变换函数应用于响应变量，形式化为加权非线性最小二乘估计（WNLSE），其中变换参数通过最小化残差平方和进行优化。
• 该方法推广了传统LSE和LogLSE，当变换为自然对数时，LogLSE即为特例。
• 引入幂变换函数作为灵活的变换族，通过网格搜索选择最优幂指数以最小化预测误差。
• 在powLSE下，Jelinski–Moranda模型的参数估计通过使用幂函数变换故障时间数据，并应用牛顿-拉夫森法求解非线性优化问题推导得出。
• 采用两种统计标准进行评估：递归相对误差（RE）和Braun统计量，均在滚动的训练与测试数据子集上计算。
• 通过分析残差随时间变化的方差，评估异方差性，表明数据对建模误差的敏感性反映在方差模式中。

实验结果

研究问题

• RQ1 与经典LSE和LogLSE相比，基于函数的非线性最小二乘估计（FNLSE）框架是否能提升Jelinski–Moranda软件可靠性模型中的参数估计精度？
• RQ2 所提出的基于幂变换的LSE（powLSE）方法，若采用优化的幂指数，是否在标准故障数据集上表现出优于MLE、LSE和LogLSE的MTBF预测性能？
• RQ3 FNLSE方法如何处理软件故障数据中的异方差性？这是否提升了模型的稳健性和预测精度？
• RQ4 变换函数的选择（如对数变换与幂变换）在多大程度上影响Jelinski–Moranda模型的预测误差和统计拟合度？
• RQ5 FNLSE框架是否可推广至Jelinski–Moranda模型以外的其他软件可靠性模型？

主要发现

• 在所有六个基准数据集上，采用最优幂指数的powLSE方法在递归相对误差（RE）和Braun统计量方面均达到最低值，优于MLE、LSE和LogLSE。
• 在JDM-II和JDM-IV数据集上，采用最优指数的powLSE相比LSE，Braun统计量分别降低了7.6%和3.8%，表明预测精度得到提升。
• 最优幂指数在不同数据集中有所不同：JDM-I为-1/2，JDM-II为-2，JDM-III为1/4，其余为1，表明不同数据集对变换的敏感性存在差异。
• 在JDM-II数据集上，采用最优指数的powLSE方法Braun统计量为0.512，而LSE为0.847；在JDM-IV数据集上，分别为0.918和0.994，显示出一致的性能提升。
• 所有六个数据集均观察到异方差性，方差随时间增加，而powLSE方法有效缓解了其对估计精度的负面影响。
• FNLSE框架被证明是一种加权非线性最小二乘方法，其中变换函数起到数据压缩和方差稳定化的作用。