[논문 리뷰] Data-Driven Reduction for Multiscale Stochastic Dynamical Systems

Carmeline J. Dsilva, Ronen Talmon외 3명|arXiv (Cornell University)|2015. 01. 21.

Neural Networks and Applications참고 문헌 22인용 수 8

한 줄 요약

이 논문은 분산 거리 척도를 사용한 확산 맵을 통해 다스케일 스토케스틱 동역계에서 빠른 동역학을 억제하는 메할라노비스 거리 척도를 사용하여 데이터 기반으로 느린 변수를 추출하는 방법을 제안한다. 짧은 시간 간격의 궤적 붐을 통해 국소 공분산을 추정함으로써, 비선형 관측 함수가 존재하더라도 빠르게 저항력 있는 방식으로 느린 변수를 복원할 수 있으며, 기억 항목이 없는 차원 감소를 가능하게 하고, 여러 센서나 측정 유형 간의 데이터 융합을 지원한다.

ABSTRACT

Multiple time scale stochastic dynamical systems are ubiquitous in science and engineering, and the reduction of such systems and their models to only their slow components is often essential for scientific computation and further analysis. Rather than being available in the form of an explicit analytical model, often such systems can only be observed as a data set which exhibits dynamics on several time scales. We will focus on applying and adapting data mining and manifold learning techniques to detect the slow components in such multiscale data. Traditional data mining methods are based on metrics (and thus, geometries) which are not informed of the multiscale nature of the underlying system dynamics; such methods cannot successfully recover the slow variables. Here, we present an approach which utilizes both the local geometry and the local dynamics within the data set through a metric which is both insensitive to the fast variables and more general than simple statistical averaging. Our analysis of the approach provides conditions for successfully recovering the underlying slow variables, as well as an empirical protocol guiding the selection of the method parameters.

연구 동기 및 목표

• 해석 모델이 없이 오직 데이터만 제공될 때 다스케일 스토케스틱 동역계에서 느린 변수를 식별하는 방법을 개발하는 것.
• 유럽 거리 척도에 의존하는 표준 다양체 학습 기법이 데이터의 시간 스케일 분리 특성을 반영하지 못하는 한계를 극복하는 것.
• 빠른 변수에 민감하지 않고 국소 공분산 추정을 통해 내재된 느린 동역학을 포착하는 척도를 구축하는 것.
• 기본적인 느린 동역학을 존중하는 저차원 매개변수화를 통해 복잡한 시스템의 단순화 모델링을 가능하게 하는 것.
• 다양한 측정 함수나 센서에서 온 데이터를 동일한 좌표계로 융합할 수 있도록 지원하는 것.

제안 방법

• 이 방법은 빠른 변동을 억제하고 느린 변화를 강조하기 위해 메할라노비스 거리 척도를 사용한 확산 맵을 적용한다.
• 각 데이터 포인트 주변의 짧은 시간 간격 궤적 붐에서 국소 공분산 행렬을 추정하여 메할라노비스 척도를 정의한다.
• 메할라노비스 거리는 국소 분산 구조를 고려함으로써 빠른 방향을 압축하여, 빠른 동역학에 민감하지 않은 척도를 만든다.
• 커널 스케일 파rameter $\sigma_{\text{kernel}}$와 통합 시간 $\delta t$는 첫 번째 확산 맵 좌표가 느린 변수를 잘 포착하도록 조정된다.
• 비선형 관측 함수에 대해 불변이므로, 다양한 센서나 측정 유형에서 온 데이터를 동일한 좌표계로 융합할 수 있다.
• 국소 공분산 행렬 $\|\mathbf{C}\|$와 $\|\mathbf{E}_C\|$의 상대 크기를 기반으로 $\delta t$와 $\sigma_{\text{kernel}}$를 선택하는 경험적 프로토콜을 제공한다.

실험 결과

연구 질문

• RQ1 단지 시간 시리즈 데이터만 제공될 때 데이터 기반 방법이 다스케일 스토케스틱 동역계에서 진짜 느린 변수를 복원할 수 있는가?
• RQ2 빠른 변수에 민감하지 않으면서도 느린 다양체의 내재 기하학을 유지할 수 있는 척도를 어떻게 설계할 수 있는가?
• RQ3 첫 번째 확산 맵 좌표가 진짜 느린 변수와 일치하기 위한 조건은 무엇인가?
• RQ4 성공적인 느린 변수 복원을 위해 $\delta t$와 $\sigma_{\text{kernel}}$ 파rameter는 어떻게 선택해야 하는가?
• RQ5 이 방법은 여러 센서나 관측 함수에서 온 데이터에 적용 가능하며, 동일한 좌표계에서 데이터 융합을 가능하게 하는가?

주요 결과

• 메할라노비스 거리는 데이터에서 빠른 방향을 효과적으로 압축하여, 확산 맵에 사용될 경우 느린 변수를 정확히 복원하는 데 기여한다.
• 당신의 $\|\mathbf{E}_C\| \ll \|\mathbf{C}\|$ 조건이 성립할 경우, 첫 번째 확산 맵 좌표는 진짜 느린 변수와 일치하며, 이는 성공적인 복원을 의미한다.
• 당신의 $\delta t = 10^{-7}$ 및 $\sigma_{\text{kernel}}^2 = 10^{-2}$ 조건에서는 그림 9(a)에서 보듯이 느린 변수를 일대일로 복원한다.
• 당신의 $\delta t = 10^{-3}$ 또는 $\sigma_{\text{kernel}}^2 = 10^1 조건에서는 파rameter 선택이 부적절하여 느린 변수 복원에 실패한다.
• 비선형 관측 함수에 대해 불변이므로, 다양한 센서에서 온 데이터를 하나의 매개변수화로 융합할 수 있다.
• 유한한 표본 효과와 데이터 밀도가 $\delta t$와 $\sigma_{\text{kernel}}$의 선택을 제약하며, 이는 유한 표본 영역에서의 추가 분석이 필요함을 시사한다.