[논문 리뷰] A Generic Approach to Solving Jump Diffusion Equations with Applications to Neural Populations

Marc de Kamps|arXiv (Cornell University)|2013. 09. 06.

stochastic dynamics and bifurcation참고 문헌 22인용 수 5

한 줄 요약

이 논문은 특성 방법을 통해 미분 찰프먼-코모고로프 방정식을 마스터 방정식으로 변환함으로써 점프 확산 방정식을 해결하는 일반적인 방법을 제시한다. 이는 이동항을 제거하고 밀도 기울기의 영향을 받지 않는 해를 가능하게 하며, 1차원 시스템에 대해 일반적으로 적용 가능하다. 이는 누출 및 제곱 적분-화염 신경 집단에 대해 시험되었으며, 큰 점프와 빠른 동역학 조건에서도 정확한 해를 도출한다. 수치적 성능는 몽테카를로 방법보다 최소 한 계급 이상 뛰어나다.

ABSTRACT

Diffusion processes have been applied with great success to model the dynamics of large populations throughout science, in particular biology. One advantage is that they bridge two different scales: the microscopic and the macroscopic one. Diffusion is a mathematical idealisation, however: it assumes vanishingly small state changes at the microscopic level. In real biological systems this is often not the case. The differential Chapman-Kolmogorov equation is more appropriate to model population dynamics that is not well described by drift and diffusion alone. Here, the method of characteristics is used to transform deterministic dynamics away and find a coordinate frame where this equation reduces to a Master equation. There is no longer a drift term, and solution methods there are insensitive to density gradients, making the method suitable for jump processes with arbitrary jump sizes. Moreover, its solution is universal: it no longer depends explicitly on the deterministic system. We demonstrate the technique on simple models of neuronal populations. Surprisingly, it is suitable for fast neural dynamics, even though in the new coordinate frame state space may expand rapidly towards infinity. We demonstrate universality: the method is applicable to any one dimensional neural model and show this on populations of leaky- and quadratic-integrate-and-fire neurons. In the diffusive limit, excellent approximations of Fokker-Planck equations are achieved. Nothing in the approach is particular to neuroscience, and the neural models are simple enough to serve as an example of dynamical systems that demonstrates the method.

연구 동기 및 목표

• 상태 변화가 무시할 만큼 작은 경우가 아닌 생물학적 및 복잡계를 모델링할 때 확산 근사의 한계를 해결하기 위해.
• 임의의 점프 크기에서 유효하며 밀도 프로파일의 매끄러움에 대한 가정 없이도 유효한, 미분 찰프먼-코모고로프 방정식의 해 프레임워크를 개발하기 위해.
• 특히 스파iking 동역학의 맥락에서, 신경 집단 모델에 대해 이 방법의 보편성과 수치적 효율성을 입증하기 위해.
• 결정론적 동역학과 소음 과정을 분리함으로써 현실적인 동역학을 갖는 대규모 신경망의 정확한 시뮬레이션을 가능하게 하기 위해.
• 신경과학을 넘어서 금융 등 점프 확산 과정이 널리 존재하는 분야로의 적용 가능성을 확장하기 위해.

제안 방법

• 특성 방법을 사용하여 미분 찰프먼-코모고로프 방정식을 마스터 방정식으로 변환함으로써 이동항을 제거하고 동역학을 단순화한다.
• 결정론적 동역학을 제거하는 좌표 변환을 정의함으로써, 해가 밀도 기울기에 영향을 받지 않고 소음 과정에만 의존하게 한다.
• 누출 및 제곱 적분-화염 신경 모델의 동역학에 기반하여, 상태 진동과 스파이크 행동에 맞게 조정된 분할 기반 전이 행렬을 구성한다.
• 크로네커 델타와 인덱스 매핑을 사용하여 스파이크 리셋과 스파이크 후 상태 공간으로의 확률 재진입을 모델링한다.
• 루ン게-쿠타-페르블베르그 적분을 통해 수치적 해를 구현하며, 입력당 O(N) 스케일링을 달성하고 몽테카를로 방법보다 최소 한 계급 이상 빠른 성능을 확보한다.
• 흥진성 및 억제성 입력을 별도의 전이 행렬 설정과 다른 분할 및 확률 이동 규칙을 통해 처리한다.

실험 결과

연구 질문

• RQ1 작은 상태 전이를 가정하지 않고도 점프 확산 방정식을 해결할 수 있는 일반적 방법을 개발할 수 있는가?
• RQ2 밀도 기울기에 민감하지 않은, 이동항이 없는 마스터 방정식으로 변환된 미분 찰프먼-코모고로프 방정식은 어떻게 도출할 수 있는가?
• RQ3 이 방법은 임의의 점프 크기와 빠른 동역학을 갖는 신경 집단 모델에 얼마나 적용 가능한가?
• RQ4 이 방법은 누출 및 제곱 적분-화염 뉴런과 같은 스파이킹 및 비스파이킹 뉴런 모델 모두에서 정확한 해를 도출할 수 있는가?
• RQ5 기울기나 불연속적인 밀도 프로파일로 인해 기존 방법이 실패하는 경우에도 이 방법은 수치적 효율성과 안정성을 유지하는가?

주요 결과

• 이동항을 제거함으로써 찰프먼-코모고로프 방정식을 마스터 방정식으로 성공적으로 변환하여, 기저의 결정론적 시스템과 무관한 보편적 해를 도출한다.
• 해가 밀도 기울기에 민감하지 않기 때문에, 임의의 점프 크기와 비매끄러운 확률 밀도 프로파일을 갖는 시스템에 대해 강건하다.
• 누출-적분-화염 뉴런의 경우, 리셋 박스에서 명확한 수평선이 관찰되며, 이는 스파이크 후 리셋 메커니즘을 반영한다.
• 제곱 적분-화염 뉴런의 경우, 외곽 박스가 넓고 확률 이동이 최소한이므로, 스파이크 기간 동안 시냅스 영향이 거의 없음을 반영한다.
• 루ン게-쿠타-페르블베르그 적분을 통한 수치적 통합은 몽테카를로 시뮬레이션보다 최소 한 계급 이상 빠른 성능을 달성한다.
• 확산 근사 근처에서 이 방법은 푸아송-플랑크 방정식의 우수한 근사치를 회복하여, 기존의 확산 모델과의 일致성을 입증한다.