[논문 리뷰] Neural Kalman Filtering

Beren Millidge, Alexander Tschantz외 2명|arXiv (Cornell University)|2021. 02. 19.

Neural dynamics and brain function참고 문헌 40인용 수 10

한 줄 요약

이 논문은 기울기 하강 근사와 헤브시안 플라스티시티를 사용하여 칼만 필터의 생물학적으로 타당한 신경 구현을 제안한다. 이는 국소적이고 분산 가중 예측 오차 계산 및 온라인 다이내믹스 모델 학습을 위한 헤브시안 플라스티시티를 가능하게 한다. 시뮬레이션된 추적 작업에서 정확한 칼만 필터링 성능에 빠르게 수렴함을 보이며, 뇌 내 베이지안 필터링을 위한 신경 기반 구현 가능한 프레임워크를 제공한다.

ABSTRACT

The Kalman filter is a fundamental filtering algorithm that fuses noisy sensory data, a previous state estimate, and a dynamics model to produce a principled estimate of the current state. It assumes, and is optimal for, linear models and white Gaussian noise. Due to its relative simplicity and general effectiveness, the Kalman filter is widely used in engineering applications. Since many sensory problems the brain faces are, at their core, filtering problems, it is possible that the brain possesses neural circuitry that implements equivalent computations to the Kalman filter. The standard approach to Kalman filtering requires complex matrix computations that are unlikely to be directly implementable in neural circuits. In this paper, we show that a gradient-descent approximation to the Kalman filter requires only local computations with variance weighted prediction errors. Moreover, we show that it is possible under the same scheme to adaptively learn the dynamics model with a learning rule that corresponds directly to Hebbian plasticity. We demonstrate the performance of our method on a simple Kalman filtering task, and propose a neural implementation of the required equations.

연구 동기 및 목표

• 복잡한 행렬 연산을 피하고 생물학적 제약 조건과 호환되는 칼만 필터의 신경 구현을 개발하기 위해.
• 칼만 필터의 기울기 하강 근사가 국소적이고 단순한 계산을 가능하게 하여 신경 회로에 적합한지 보여주기 위해.
• 필터링 중에 다이내믹스 모델을 적응적으로 학습하기 위한 헤브시안 학습 규칙을 유도하기 위해.
• 제안된 방법이 추적 작업에서 정확한 칼만 필터에 수렴하는지 보여주기 위해.
• 노이즈 감소와 센서 융합을 위한 계층적皮질 처리에서 칼만 필터링을 잠재적인 저수준 빌딩 블록으로 위치시키기 위해.

제안 방법

• 행렬 역행렬과 칼만 이득 계산을 국소적이고 분산 가중 예측 오차 업데이트로 대체하는 기울기 하강 근사를 도출하여 칼만 필터를 근사한다.
• 국소적 시냅스 가중치를 사용하는 비율 코딩된 적분-화염 뉴런으로 상태 추정과 오차 보정을 구현한다.
• 예측 오차가 상태 업데이트와 시냅스 플라스티시티를 모두 유도하며, 가중치는 기울기 하강 프레임워크에서 유도된 헤브시안 규칙에 따라 업데이트된다.
• 다이내믹스 및 관측 행렬을 동일한 기울기 기반 학습 규칙을 통해 업데이트 가능한 학습 가능한 파라미터로 모델링한다.
• 상태 추정치, 감각 예측값, 예측 오차를 위한 별도의 뉴런 집단을 포함하는 신경 구조를 구성하며, 피드포워드 및 피드백 경로를 통해 연결한다.
• 계산을 국소적 선형 연산과 곱셈형 시냅스 가중치로 제한함으로써 생물학적 타당성을 강화하지만, 연결성 패턴의 한계는 인정한다.

실험 결과

연구 질문

• RQ1 칼만 필터가 기울기 하강 근사를 통해 국소적이고 생물학적으로 타당한 계산을 신경 회로에서 가능하게 할 수 있는가?
• RQ2 동일한 기울기 프레임워크가 헤브시안 유사 플라스티시티 규칙을 통해 다이내믹스 모델의 온라인 학습을 지원할 수 있는가?
• RQ3 제안된 신경 구현이 표준 필터링 작업에서 정확한 칼만 필터에 얼마나 잘 수렴하는가?
• RQ4 이 구현의 생물학적 타당성을 제한하는 주요 아키텍처적 및 계산적 제약 조건은 무엇인가?
• RQ5 칼만 필터링은 감각운동 통합을 위한 계층적 피질 아키텍처에서 저수준의 조합 가능한 처리 단위로 기능할 수 있는가?

주요 결과

• 제안된 기울기 하강 근사는 시뮬레이션된 추적 작업에서 정확한 칼만 필터 솔루션에 매우 빠르게 수렴하며 분석적 성능을 정확히 재현한다.
• 이 방법은 계산 비용이 높은 행렬 연산을 국소적이고 분산 가중 예측 오차의 합으로 대체하여 더 단순한 신경 구현을 가능하게 한다.
• 기울기 프레임워크에서 유도된 헤브시안 플라스티시티 규칙은 초기화 시 정규 분포 노이즈가 있더라도 다이내믹스 모델을 성공적으로 학습한다.
• 신경 구조는 비율 코딩된 적분-화염 뉴런을 사용하며, 공통된 계산 원리를 통해 상태 추정과 적응형 학습을 모두 지원한다.
• 일부 생물학적으로 비합리적인 가정(예: 완전한 연결성 및 대칭적인 전방/후방 가중치)이 존재하지만, 생물학적으로 타당한 조건 하에서도 모델은 강력한 성능을 보였다.
• 결과적으로 칼만 필터링은 노이즈 감소와 상태 추정을 위한 계층적 피질 회로에서 기초적인 저수준 처리 모듈이 될 수 있음을 시사한다.