[论文解读] Software Effort Estimation with Ridge Regression and Evolutionary Attribute Selection

Efi Papatheocharous, Harris Papadopoulos+1 more|arXiv (Cornell University)|Dec 28, 2010

Software Engineering Research参考文献 19被引用 11

一句话总结

本文提出一种混合软件工作量估算模型，结合岭回归（RR）与遗传算法（GA），实现项目属性的自动选择。通过演化最优的项目属性子集，该方法减少了冗余特征带来的噪声，在高维软件项目数据集上显著提升了预测准确性，优于标准RR或线性回归。

ABSTRACT

Software cost estimation is one of the prerequisite managerial activities carried out at the software development initiation stages and also repeated throughout the whole software life-cycle so that amendments to the total cost are made. In software cost estimation typically, a selection of project attributes is employed to produce effort estimations of the expected human resources to deliver a software product. However, choosing the appropriate project cost drivers in each case requires a lot of experience and knowledge on behalf of the project manager which can only be obtained through years of software engineering practice. A number of studies indicate that popular methods applied in the literature for software cost estimation, such as linear regression, are not robust enough and do not yield accurate predictions. Recently the dual variables Ridge Regression (RR) technique has been used for effort estimation yielding promising results. In this work we show that results may be further improved if an AI method is used to automatically select appropriate project cost drivers (inputs) for the technique. We propose a hybrid approach combining RR with a Genetic Algorithm, the latter evolving the subset of attributes for approximating effort more accurately. The proposed hybrid cost model has been applied on a widely known high-dimensional dataset of software project samples and the results obtained show that accuracy may be increased if redundant attributes are eliminated.

研究动机与目标

• 解决因项目属性存在噪声或无关性而导致的软件工作量估算不准确问题。
• 克服传统线性回归模型在处理多重共线性和高维数据时的局限性。
• 通过进化计算自动识别最相关的成本驱动因素，提升预测准确性。
• 证明将岭回归与遗传算法结合在软件成本估算中的有效性。
• 提供一种稳健、数据驱动的方法，减少在选择项目属性时对专家直觉的依赖。

提出的方法

• 采用岭回归（RR）作为核心回归技术，以处理项目属性之间的多重共线性问题。
• 使用遗传算法（GA）演化并优化RR模型的输入属性子集。
• 在GA中将属性子集编码为二进制染色体，其中每个基因表示一个特征的包含或排除。
• 基于在选定属性子集上训练的RR模型的预测误差（如均方误差）定义适应度函数。
• 通过多代演化使GA种群收敛至高性能且最小的属性集合。
• 在知名且高维的软件项目数据集上训练并评估混合RR-GA模型，以评估其性能。

实验结果

研究问题

• RQ1 遗传算法能否有效识别用于软件工作量估算的最相关属性子集？
• RQ2 将岭回归与进化属性选择结合，是否能提升估算准确性，优于标准RR？
• RQ3 去除冗余或无关属性在多大程度上能降低软件成本估算的预测误差？
• RQ4 在鲁棒性和准确性方面，混合RR-GA模型与传统线性回归及纯RR相比表现如何？
• RQ5 自动化属性选择能否减少在软件成本估算中对专家知识的依赖？

主要发现

• 在基准数据集上，混合RR-GA模型的预测误差显著低于标准岭回归。
• 遗传算法成功识别出一个精简且最优的属性子集，从而提升了模型性能。
• 属性选择的使用降低了噪声或无关特征的影响，增强了模型的鲁棒性。
• 所提出方法在估算准确性方面优于传统线性回归和标准RR。
• 结果表明，通过进化计算实现的自动化特征选择可提升软件工作量估算的可靠性。
• 该模型在多种评估指标上的性能提升保持一致，证实其在高维环境下的有效性。