[논문 리뷰] Function Based Nonlinear Least Squares and Application to Jelinski--Moranda Software Reliability Model

Jingwei Liu, Meizhi Xu|arXiv (Cornell University)|2011. 08. 25.

Software Reliability and Analysis Research참고 문헌 20인용 수 4

한 줄 요약

이 논문은 제린스키–모란다 소프트웨어 신뢰성 모델의 매개변수 추정을 향상시키기 위해 기능 기반 비선형 최소제곱 추정(FNLSE) 방법을 제안한다. 이는 새로운 파wr 변환 기반 접근법(powLSE)을 도입하여 기존의 LSE, MLE, LogLSE보다 MTBF 예측 정확도에서 뛰어난 성능을 보인다. 이 방법은 변환 함수를 가중치로 간주함으로써 이질분산 문제를 해결하며, 6개의 기준 데이터셋에 대한 실험 결과, 최적의 파워 지수를 가진 powLSE가 경쟁 방법들보다 유의미하게 낮은 순차 상대 오차 및 브라운 통계량 값을 기록한다.

ABSTRACT

A function based nonlinear least squares estimation (FNLSE) method is proposed and investigated in parameter estimation of Jelinski-Moranda software reliability model. FNLSE extends the potential fitting functions of traditional least squares estimation (LSE), and takes the logarithm transformed nonlinear least squares estimation (LogLSE) as a special case. A novel power transformation function based nonlinear least squares estimation (powLSE) is proposed and applied to the parameter estimation of Jelinski-Moranda model. Solved with Newton-Raphson method, Both LogLSE and powLSE of Jelinski-Moranda models are applied to the mean time between failures (MTBF) predications on six standard software failure time data sets. The experimental results demonstrate the effectiveness of powLSE with optimal power index compared to the classical least--squares estimation (LSE), maximum likelihood estimation (MLE) and LogLSE in terms of recursively relative error (RE) index and Braun statistic index.

연구 동기 및 목표

• 제린스키–모란다 소프트웨어 신뢰성 모델의 매개변수 추정에서 고전적 최소제곱추정(LSE) 및 로그 기반 LSE(LogLSE)의 한계를 해결하기 위해.
• 기존 방법에서 정확도가 떨어지는 소프트웨어 장애 데이터의 이질분산 문제를 극복하기 위해.
• 기존 LSE를 변환 함수를 가중치 메커니즘으로 통합함으로써 확장하는 일반적인 프레임워크인 기능 기반 비선형 최소제곱 추정(FNLSE)을 개발하기 위해.
• 최적의 파워 지수를 가진 파wr 변환 기반 LSE(powLSE) 방법을 제안하고, 향상된 예측 정확도를 평가하기 위해.
• 6개의 표준 소프트웨어 장애 시간 데이터셋에서 순차 상대 오차 및 브라운 통계량 기준으로 제안된 방법을 검증하기 위해.

제안 방법

• 응답 변수에 변환 함수를 적용함으로써 FNLSE를 가중치가 부여된 비선형 최소제곱 추정(WNLSE)으로 공식화하며, 잔차 제곱합을 최소화하기 위해 변환 매개변수를 최적화한다.
• 이 방법은 기존의 LSE와 LogLSE를 일반화하며, 변환이 자연로그일 경우 LogLSE가 특수한 경우로 포함된다.
• 유연한 변환 가족으로서의 파워 변환 함수를 도입하고, 예측 오차를 최소화하기 위해 그리드 서치를 통해 최적의 파워 지수를 선택한다.
• Jelinski–Moranda 모델의 매개변수 추정은 파워 함수를 사용해 장애 시간 데이터를 변환하고, 비선형 최적화 문제를 해결하기 위해 뉴턴-라프슨 방법을 적용함으로써 유도된다.
• 두 가지 통계 기준인 순차 상대 오차(RE)와 브라운 통계량을 사용해 방법을 평가하며, 이는 윈도우 기반의 학습 및 테스트 데이터 부분집합에서 계산된다.
• 이질분산은 시간에 따른 잔차 분산 분석을 통해 평가되며, 데이터의 민감도가 모델링 오차에 반영되는 방식으로 분산 패턴이 드러난다.

실험 결과

연구 질문

• RQ1 기능 기반 비선형 최소제곱 추정(FNLSE) 프레임워크는 고전적 LSE 및 LogLSE에 비해 제린스키–모란다 소프트웨어 신뢰성 모델의 매개변수 추정 정확도를 향상시킬 수 있는가?
• RQ2 최적의 파워 지수를 가진 제안된 파워 변환 기반 LSE(powLSE)는 표준 장애 데이터셋에서 MLE, LSE, LogLSE보다 더 나은 MTBF 예측 성능을 보일 수 있는가?
• RQ3 FNLSE 방법은 소프트웨어 장애 데이터의 이질분산을 어떻게 다루며, 이는 모델의 강건성 및 예측 정확도를 향상시키는가?
• RQ4 예를 들어 로그 변환 대비 파워 변환과 같은 변환 함수의 선택이 제린스키–모란다 모델의 예측 오차 및 통계적 적합도에 어떤 영향을 미치는가?
• RQ5 FNLSE 프레임워크는 제린스키–모란다 모델을 초월해 다른 소프트웨어 신뢰성 모델에 일반화될 수 있는가?

주요 결과

• 최적의 파워 지수를 가진 powLSE는 모든 6개의 기준 데이터셋에서 가장 낮은 순차 상대 오차(RE) 및 브라운 통계량 값을 기록하여 MLE, LSE, LogLSE를 모두 압도했다.
• JDM-II 및 JDM-IV 데이터셋에서 최적 지수를 가진 powLSE는 LSE 대비 브라운 통계량을 각각 7.6%, 3.8% 감소시켜 더 높은 예측 정확도를 보였다.
• 최적의 파워 지수 값은 데이터셋에 따라 달라졌으며, JDM-I에서는 -1/2, JDM-II에서는 -2, JDM-III에서는 1/4, 나머지에서는 1로, 각각 데이터셋에 특화된 민감도를 보였다.
• JDM-II에서 최적 지수를 가진 powLSE는 브라운 통계량 0.512를 기록했고, LSE는 0.847이었으며, JDM-IV에서는 powLSE가 0.918, LSE가 0.994를 기록하여 일관된 향상이 확인되었다.
• 모든 6개의 데이터셋에서 이질분산이 관찰되었으며, 분산은 시간이 지남에 따라 증가했고, powLSE 방법은 이로 인한 정확도 저하 영향을 효과적으로 완화했다.
• FNLSE 프레임워크는 가중치가 부여된 비선형 최소제곱의 한 형태로 입증되었으며, 변환 함수는 데이터 압축 및 분산 안정화 메커니즘으로 작용한다.