[논문 리뷰] Comparison of Data Imputation Techniques and their Impact

Darren Blend, Tshilidzi Marwala|ArXiv.org|2008. 12. 08.

Data Mining Algorithms and Applications참고 문헌 14인용 수 8

한 줄 요약

이 논문은 8개 카테고리로 구성된 임신 전 조사에서 누락된 데이터를 보정하기 위해 자동연관 신경망(NN), 뉴로-퍼지(NF) 시스템, 하이브리드 NN-NF 방법을 평가한다. NN 방법은 NF보다 평균 5.8% 높은 성능을 보이며, 하이브리드 접근법은 15.9% 높은 정확도를 달성하지만 계산 효율성은 50% 떨어진다. 그러나 보정된 데이터는 주성분 분석(PCA) 관계를 크게 변화시키고 평균 36.7% 감소한 표준편차를 보이며 결과의 오해를 유발할 수 있다.

ABSTRACT

Missing and incomplete information in surveys or databases can be imputed using different statistical and soft-computing techniques. This paper comprehensively compares auto-associative neural networks (NN), neuro-fuzzy (NF) systems and the hybrid combinations the above methods with hot-deck imputation. The tests are conducted on an eight category antenatal survey and also under principal component analysis (PCA) conditions. The neural network outperforms the neuro-fuzzy system for all tests by an average of 5.8%, while the hybrid method is on average 15.9% more accurate yet 50% less computationally efficient than the NN or NF systems acting alone. The global impact assessment of the imputed data is performed by several statistical tests. It is found that although the imputed accuracy is high, the global effect of the imputed data causes the PCA inter-relationships between the dataset to become altered. The standard deviation of the imputed dataset is on average 36.7% lower than the actual dataset which may cause an incorrect interpretation of the results.

연구 동기 및 목표

• 실제 설문 조사 데이터에서 누락된 값을 보정하기 위한 자동연관 신경망, 뉴로-퍼지 시스템, 하이브리드 보정 방법의 성능 평가.
• 보정된 데이터가 주성분 분석(PCA) 관계와 통계적 해석에 미치는 전반적인 영향 평가.
• 다양한 보정 기법 간 정확도와 계산 효율성 간의 상충 관계 규명.
• 높은 보정 정확도가 차원 축소 기법에서 신뢰할 수 있는 후속 통계 분석으로 이어지는지 여부 조사, 특히 차원 축소 맥락에서.

제안 방법

• 연구는 자동연관 신경망을 사용해 알려진 데이터 패턴을 기반으로 누락된 값을 학습하고 재구성한다.
• 뉴로-퍼지 시스템은 신경망 학습 원리를 적용한 퍼지 추론 시스템을 활용해 보정을 모델링한다.
• 하이브리드 방법은 자동연관 신경망과 뉴로-퍼지 시스템을 핫디크 보정과 융합해 정확도를 향상시킨다.
• 각 방법의 성능은 원본 데이터와 PCA 변환된 데이터 조건 하에서 8개 카테고리로 구성된 임신 전 조사 데이터셋을 대상으로 평가된다.
• 보정 정확도 비교 및 보정된 데이터가 PCA 기반 상관관계에 미치는 영향 평가를 위해 통계적 검정을 실시한다.
• 보정된 데이터셋의 표준편차를 원본 데이터와 비교해 데이터 변동성 왜곡 정도를 정량화한다.

실험 결과

연구 질문

• RQ1 자동연관 신경망, 뉴로-퍼지 시스템, 그리고 그들의 하이브리드 조합은 실제 설문 조사 데이터셋에서 보정 정확도 측면에서 어떻게 성과를 내는가?
• RQ2 개별 보정 방법과 하이브리드 보정 방법 간의 계산 효율성 상충 관계는 어떠한가?
• RQ3 데이터 보정이 주성분 분석에 의해 드러나는 변수 간 상관관계에 얼마나 큰 영향을 미치는가?
• RQ4 보정된 데이터셋의 표준편차는 원본 데이터셋과 비교해 어떠한가? 이는 통계적 해석에 어떤 함의를 갖는가?
• RQ5 높은 보정 정확도가 주로 차원 축소 기법인 PCA와 같은 분석에서 신뢰할 수 있는 후속 분석을 보장하는가?

주요 결과

• 자동연관 신경망은 모든 시험 조건에서 뉴로-퍼지 시스템보다 평균 5.8% 높은 보정 정확도를 기록한다.
• 하이브리드 NN-NF 방법은 개별 방법보다 15.9% 높은 정확도를 달성하지만 계산 효율성은 50% 떨어진다.
• 높은 보정 정확도에도 불구하고, 보정된 데이터의 전반적 영향은 주성분 분석에서 변수 간 상관관계를 변화시킨다.
• 보정된 데이터셋의 표준편차는 원본 데이터셋보다 평균 36.7% 낮아, 데이터 변동성에 심각한 왜곡이 있음을 시사한다.
• 표준편차 감소는 후속 통계 분석에서 데이터 패턴과 관계를 잘못 이해하게 할 수 있다.
• 통계적 검정 결과, 정확한 보정 데이터일지라도 원본 데이터셋의 진짜 구조를 잘못 반영할 수 있으며, 특히 PCA 기반 분석에서 그러한 경향이 뚜렷하다.