[논문 리뷰] On Cokriging, Neural Networks, and Spatial Blind Source Separation for Multivariate Spatial Prediction

Christoph Muehlmann, Klaus Nordhausen외 1명|arXiv (Cornell University)|2020. 07. 01.

Blind Source Separation Techniques참고 문헌 32인용 수 16

한 줄 요약

이 논문은 다변량 공간 데이터를 독립적인 단변량 성분으로 분해하기 위해 공간적 빈도 분리(Spatial Blind Source Separation, SBSS)를 전처리 단계로 사용하는 새로운 공간 예측 프레임워크를 제안한다. 이를 통해 단변량 크리깅 예측이 간단해지며, 시뮬레이션 및 실제 지화학적 데이터에서 전통적인 공크리깅(Cokriging)과 신경망보다 우수하거나 동등한 성능을 보인다. 특히 SBSS 모델의 가정이 성립할 경우 성능 향상이 두드러지며, 상호의존성을 분리함으로써 다변량 예측을 단순화하면서도 성능 손실를 최소화함을 입증한다.

ABSTRACT

Multivariate measurements taken at irregularly sampled locations are a common form of data, for example in geochemical analysis of soil. In practical considerations predictions of these measurements at unobserved locations are of great interest. For standard multivariate spatial prediction methods it is mandatory to not only model spatial dependencies but also cross-dependencies which makes it a demanding task. Recently, a blind source separation approach for spatial data was suggested. When using this spatial blind source separation method prior the actual spatial prediction, modelling of spatial cross-dependencies is avoided, which in turn simplifies the spatial prediction task significantly. In this paper we investigate the use of spatial blind source separation as a pre-processing tool for spatial prediction and compare it with predictions from Cokriging and neural networks in an extensive simulation study as well as a geochemical dataset.

연구 동기 및 목표

• 공간적 빈도 분리(Spatial Blind Source Separation, SBSS)가 상호의존성을 분리함으로써 다변량 공간 예측을 단순화하는 데 효과적인 전처리 도구가 될 수 있는지 조사하기 위해.
• 시뮬레이션 및 실제 공간 데이터에서 SBSS-크리깅의 예측 성능을 고전적 공크리깅 및 신경망 기반 접근법과 비교하기 위해.
• 다양한 공간적 의존성 구조와 데이터 조건 하에서 SBSS-크리깅의 강건성과 효율성을 평가하기 위해.
• 다변량 공간 모델링의 복잡성을 저감시키되 예측 정확도를 손상시키지 않는다는 경험적 증거를 제공하기 위해.

제안 방법

• SBSS는 다변량 공간 랜덤 필드 X(s)를 선형 혼합 모델 X(s) = ΩZ(s) + µ를 통해 p개의 독립적인 단변량 잠재 필드 Z(s)로 분해한다. 여기서 Ω는 전_RANK 행렬이다.
• 해석 행렬은 공간 거리에 적용된 커널 함수(Gaussian, ball, ring)로부터 유도된 국소 공분산 행렬과 전역 표본 공분산 행렬을 동시에 대각화하여 추정된다.
• SBSS 이후 각 잠재 필드 Zj(s)는 선택된 공분산 모델(Matérn 또는 Spherical)과 담합 효과를 포함한 일반 크리깅을 통해 독립적으로 예측된다.
• 최종 X(s)의 예측은 kriged된 잠재 필드 예측에 역혼합 행렬을 적용하여 재구성된다.
• 신경망의 경우 입력 특징으로는 공간 좌표와 가장 가까운 m개의 이웃값(m=10 또는 5)을 포함하며, 배치 정규화(BN) 및 자기정규화(SNN) 네트워크를 모두 테스트하였다.
• 예측 성능 평가에는 시뮬레이션 및 실제 데이터(moss 지화학 데이터셋)에서 테스트 세트의 평균제곱오차(MSE)를 사용하였다.

실험 결과

연구 질문

• RQ1 SBSS는 다변량 공간 데이터의 상호의존성을 효과적으로 분리하여 후속 예측 작업을 단순화할 수 있는가?
• RQ2 다양한 공간적 의존성 구조 하에서 SBSS-크리깅의 예측 정확도는 공크리깅 및 신경망과 비교해 어떻게 되는가?
• RQ3 SBSS 모델의 가정이 만족될 경우 SBSS-크리깅의 성능이 향상되는가?
• RQ4 신경망은 다변량 공간 예측에서 크리깅 기반 방법에 비해 어느 정도 뛰어나거나 열등한가?
• RQ5 SBSS에서 커널 함수의 선택(예: ball vs. ring)이 예측 성능에 유의미한 영향을 미치는가?

주요 결과

• 시뮬레이션에서 SBSS-크리깅은 공크리깅과 유사한 성능을 보였으며, SBSS 모델의 가정이 성립할 경우 약간의 우위를 보였다.
• 시뮬레이션 및 실제 데이터 설정 모두에서 Matérn 공분산 모델이 Spherical 모델보다 略적으로 더 우수한 결과를 도출하였다.
• 신경망은 모든 크리깅 기반 방법보다 열등한 성능를 보였으며, SNN이 BN보다 약간 더 뛰어났다.
• 실제 데이터 예제에서 m=10개의 이웃을 사용한 경우 m=5보다 더 나은 성능를 보였지만, 여전히 크리깅 방법에 뒤지지 않았다.
• 단일 50 km 볼 커널과 네 개의 겹치지 않는 고리형 커널(0–25, 25–50, 50–75, 75–100 km)을 사용한 SBSS는 거의 동일한 MSE를 기록하여 커널 선택에 대해 강건함을 보였다.
• 실제 박쥐 데이터셋(n=594)에서 SBSS-크리깅는 모든 방법 중 가장 낮은 MSE를 기록하였으며, 일부 설정에서는 공크리깅보다도 뛰어난 성능를 보였다.