[논문 리뷰] A computational study on imputation methods for missing environmental data

Paul Dixneuf, Fausto Errico외 1명|arXiv (Cornell University)|2021. 08. 21.

Soil and Water Nutrient Dynamics참고 문헌 18인용 수 5

한 줄 요약

이 계산적 연구는 혼합형 데이터셋에서 환경 데이터의 누락된 값을 보완하기 위한 방법—missForest, MICE, KNN—을 평가한다. missForest는 혼합형 데이터에서 정확도 면에서 두 방법을 모두 능가했으며, 보정 오차를 최대 150%까지 감소시켰다. 반면 KNN는 가장 빠른 성능을 보였다. 이 방법은 퀘벡의 실질적인 응용 사례인 하수처리 데이터에 성공적으로 적용되어 환경 모니터링 분야에서의 실용적 유용성을 입증했다.

ABSTRACT

Data acquisition and recording in the form of databases are routine operations. The process of collecting data, however, may experience irregularities, resulting in databases with missing data. Missing entries might alter analysis efficiency and, consequently, the associated decision-making process. This paper focuses on databases collecting information related to the natural environment. Given the broad spectrum of recorded activities, these databases typically are of mixed nature. It is therefore relevant to evaluate the performance of missing data processing methods considering this characteristic. In this paper we investigate the performances of several missing data imputation methods and their application to the problem of missing data in environment. A computational study was performed to compare the method missForest (MF) with two other imputation methods, namely Multivariate Imputation by Chained Equations (MICE) and K-Nearest Neighbors (KNN). Tests were made on 10 pretreated datasets of various types. Results revealed that MF generally outperformed MICE and KNN in terms of imputation errors, with a more pronounced performance gap for mixed typed databases where MF reduced the imputation error up to 150%, when compared to the other methods. KNN was usually the fastest method. MF was then successfully applied to a case study on Quebec wastewater treatment plants performance monitoring. We believe that the present study demonstrates the pertinence of using MF as imputation method when dealing with missing environmental data.

연구 동기 및 목표

• 혼합형 데이터 유형을 포함한 환경 데이터베이스에서 누락된 데이터 보완 방법의 성능을 평가하는 것.
• 다양한 환경 데이터셋에서 missForest, MICE, KNN의 정확도 및 계산 효율성을 비교하는 것.
• 특히 복잡하고 이질적인 데이터 환경에서, 보완 방법의 실질적 적용 가능성을 평가하는 것.
• 연속형, 이산형, 순서형 변수가 혼합된 특성을 가진 환경 데이터에 가장 강력한 보완 방법을 규명하는 것.

제안 방법

• 혼합형 데이터 유형(연속형, 이산형, 순서형 변수 포함)을 가진 10개의 사전 처리된 환경 데이터셋을 사용한 계산 기반 벤치마크를 시행하였다.
• 세 가지 보완 방법을 평가: missForest(랜덤 포레스트 기반 방법), MICE(연쇄 방정식 기반 다변량 보완), KNN(k-가장 가까운 이웃 보완).
• 예측 오차를 정량화하기 위해 평균 제곱 오차(MSE)와 평균 절대 오차(MAE)를 사용하여 보완 정확도를 측정하였다.
• 일반화 가능성을 확보하기 위해 여러 데이터셋에서 각 방법의 성능을 평가하였으며, 결과를 집계하여 총합 정확도와 속도를 비교하였다.
• 실제 사례 연구로 퀘벡의 하수처리 공장 데이터에 missForest를 적용하여 실용적 유용성을 검증하였다.

실험 결과

연구 질문

• RQ1 missForest, MICE, KNN는 혼합형 환경 데이터셋에서 보완 정확도 측면에서 어떻게 비교될 수 있는가?
• RQ2 환경 데이터의 맥락에서 각 보완 방법의 상대적 계산 효율성은 어떠한가?
• RQ3 특히 혼합형 데이터베이스에서 보완 방법 간 성능 격차는 데이터 유형 구성에 따라 유의미하게 달라지는가?
• RQ4 missForest는 복잡하고 이질적인 변수 유형을 가진 실질적인 환경 데이터셋을 효과적으로 처리할 수 있는가?

주요 결과

• missForest는 혼합형 환경 데이터셋에서 특히 정확도 면에서 MICE 및 KNN를 일관되게 능가하였다.
• 혼합형 데이터베이스에서는 다른 방법들과 비교해 missForest가 보완 오차를 최대 150%까지 감소시켜 뚜렷한 성능 우위를 보였다.
• k-가장 가까운 이웃(KNN)은 세 가지 방법 중에서 가장 빠른 성능을 보이며 뛰어난 계산 효율성을 입증하였다.
• missForest와 다른 방법들 간의 성능 격차는 혼합형 변수 유형을 포함한 데이터셋에서 가장 두드러졌으며, 이는 missForest가 이질적인 환경 데이터에 적합함을 시사한다.
• 퀘벡의 하수처리 공장에 대한 실질적 사례 연구에서 missForest의 성공적인 적용은 환경 모니터링 시스템에서의 실용적 타당성을 확인시켰다.