[논문 리뷰] Recursive Variational Bayesian Dual Estimation for Nonlinear Dynamics and Non-Gaussian Observations

Yuan Zhao, Il Memming Park|arXiv (Cornell University)|2017. 07. 27.

Neural dynamics and brain function참고 문헌 29인용 수 2

한 줄 요약

이 논문은 비정규 관측이 있는 비선형 상태공간 모델을 위한 재귀적 변동 베이지안 이중 추정 프레임워크를 제안한다. 확률적 경사 하강 변동 베이지안을 사용하여 잠재 동역학, 관측 모델, 블랙박스 인식 모델을 동시에 학습한다. 이 방법은 일정한 시간 및 공간 복잡도를 확보하여 신경 시스템에서 실시간 온라인 학습과 자동 실험 설계를 가능하게 한다.

ABSTRACT

New technologies for recording the activity of large neural populations during complex behavior provide exciting opportunities for investigating the neural computations that underlie perception, cognition, and decision-making. Nonlinear state space models provide an interpretable signal processing framework by combining an intuitive dynamical system with a probabilistic observation model, which can provide insights into neural dynamics, neural computation, and development of neural prosthetics and treatment through feedback control. It brings the challenge of learning both latent neural state and the underlying dynamical system because neither is known for neural systems a priori. We developed a flexible online learning framework for latent nonlinear state dynamics and filtered latent states. Using the stochastic gradient variational Bayes approach, our method jointly optimizes the parameters of the nonlinear dynamical system, the observation model, and the black-box recognition model. Unlike previous approaches, our framework can incorporate non-trivial distributions of observation noise and has constant time and space complexity. These features make our approach amenable to real-time applications and the potential to automate analysis and experimental design in ways that testably track and modify behavior using stimuli designed to influence learning.

연구 동기 및 목표

• 신경 시스템에서 알려지지 않은 잠재 신경 동역학과 관측 모델을 학습하는 데 도전하는 것.
• 동역학 시스템 파라미터, 관측 모델 파라미터, 인식 모델 파라미터를 동시에 최적화하는 온라인 학습 프레임워크를 개발하는 것.
• 비틀림이 있는 비정규 관측 노이즈 분포 하에서 실시간 추론과 학습을 가능하게 하는 것.
• 신경 보철물과 행동 간섭에서 자동 실험 설계와 피드백 제어를 지원하는 것.

제안 방법

• 잠재 상태 동역학, 관측 모델, 인식 모델을 동시에 최적화하기 위해 확률적 경사 하강 변동 베이지안(SGVB)을 사용한다.
• 진정한 잠재 상태에 대한 사후 분포를 근사하기 위해 블랙박스 인식 모델을 사용한다.
• 온라인 학습 중에 일정한 시간 및 공간 복잡도를 유지하기 위해 재귀적 추론을 적용한다.
• 확률적 관측 모델을 통해 유연하고 비정규 관측 노이즈 분포를 통합한다.
• 동역학 시스템과 필터링된 잠재 상태를 동시에 학습하기 위해 이중 추정 접근법을 활용한다.
• 새로운 데이터로 모델 파라미터를 점진적으로 업데이트함으로써 온라인 적응을 가능하게 한다.

실험 결과

연구 질문

• RQ1 통합된 온라인 프레임워크가 신경 시스템에서 비선형 잠재 동역학과 비정규 관측 모델을 동시에 학습할 수 있는가?
• RQ2 복잡한 비선형 상태공간 모델의 온라인 학습에서 일정한 시간 및 공간 복잡도를 유지할 수 있는가?
• RQ3 이 프레임워크는 적응형 자극을 통해 행동의 실시간 추적과 수정을 어느 정도 지원할 수 있는가?
• RQ4 이 방법은 신경 기록에서 흔히 발생하는 비틀림이 있는 관측 노이즈 분포를 효과적으로 다룰 수 있는가?
• RQ5 기존의 오프라인 또는 배치 방법에 비해 재귀적 변동 베이지안 접근법은 성능과 확장성 측면에서 어떻게 비교되는가?

주요 결과

• 제안된 방법은 일정한 시간 및 공간 복잡도를 확보하여 확장 가능한 온라인 학습을 가능하게 한다.
• 비정규 관측 노이즈를 효과적으로 모델링하여 현실적인 신경 데이터 분석에 필수적인 요소를 확보한다.
• 실시간 추론과 파라미터 업데이트를 지원하여 피드백 루프 실험 제어에 적합하다.
• 동역학, 관측 모델, 인식 모델을 동시에 최적화함으로써 분리된 접근법보다 추정 정확도가 향상된다.
• 학습된 신경 동역학에 기반해 자동으로 자극을 동적으로 조정함으로써 자동 실험 설계를 가능하게 한다.
• 재귀적 구조 덕분에 과거 데이터를 저장하지 않고도 효율적인 점진적 학습이 가능하여 실용적 구현 가능성이 향상된다.