[논문 리뷰] Learning binary or real-valued time-series via spike-timing dependent plasticity

Takayuki Osogami|arXiv (Cornell University)|2016. 12. 15.

Advanced Memory and Neural Computing참고 문헌 16인용 수 3

한 줄 요약

이 논문은 이전 제약 조건을 완화함으로써 동적 볼츠만 기계(DyBM)를 이진 및 실수형 시계열 데이터를 동시에 학습할 수 있도록 확장한다. 이로 인해 이진 데이터에 대해 로지스틱 회귀로, 실수형 데이터에 대해선 가우시안 DyBM로 기능할 수 있게 되었으며, 시냅스 적성 흔적을 통합함으로써 장기적 의존성을 포착함으로써 VAR 모델 대비 예측 정확도를 최대 20% 향상시켰다. 계산 비용은 유사한 수준을 유지한다.

ABSTRACT

A dynamic Boltzmann machine (DyBM) has been proposed as a model of a spiking neural network, and its learning rule of maximizing the log-likelihood of given time-series has been shown to exhibit key properties of spike-timing dependent plasticity (STDP), which had been postulated and experimentally confirmed in the field of neuroscience as a learning rule that refines the Hebbian rule. Here, we relax some of the constraints in the DyBM in a way that it becomes more suitable for computation and learning. We show that learning the DyBM can be considered as logistic regression for binary-valued time-series. We also show how the DyBM can learn real-valued data in the form of a Gaussian DyBM and discuss its relation to the vector autoregressive (VAR) model. The Gaussian DyBM extends the VAR by using additional explanatory variables, which correspond to the eligibility traces of the DyBM and capture long term dependency of the time-series. Numerical experiments show that the Gaussian DyBM significantly improves the predictive accuracy over VAR.

연구 동기 및 목표

• 계산 유연성과 적용 가능성을 제한했던 이전 제약 조건을 완화함으로써 동적 볼츠만 기계(DyBM)를 일반화하는 것.
• 이진 값 시계열에 대해 DyBM이 로지스틱 회귀로 해석될 수 있음을 보여주어 스파ike 패턴의 효율적 학습을 가능하게 하는 것.
• 실수형 시계열을 모델링하기 위해 가우시안 DyBM을 개발하고, 벡터 자기회귀(VAR) 모델을 시냅스 적성 흔적을 통합함으로써 확장하여 장기적 의존성을 모델링하는 것.
• 가우시안 DyBM이 계산 복잡도를 유지하면서도 VAR 모델에 비해 유의미하게 높은 예측 성능을 달성함을 보여주는 것.
• 확장된 DyBM에서 온라인, 분산, 자연 기울기 기반 학습을 가능하게 하여 확장 가능한 시계열 모델링을 실현하는 것.

제안 방법

• 에너지 함수의 매트릭스-벡터 표현을 허용함으로써 DyBM의 제약 조건을 완화하여 이진 시계열에 대해 로지스틱 회귀로 해석할 수 있도록 하는 것.
• 다변량 정규분포를 사용하여 실수형 시계열을 모델링하는 가우시안 DyBM 모델을 도입하고, 최대 로그우도 기반으로 모수를 학습하는 것.
• 과거 스파이크의 지수 감쇠 합으로 표현되는 시냅스 적성 흔적을 예측 모델의 추가 설명 변수로 통합하는 것.
• 각 시간 단계에서 매개변수와 내부 상태(적성 흔적, FIFO 큐)를 업데이트하기 위해 아달라그(adagrad) 적응 기반 자연 기울기 업데이트 규칙을 사용하는 온라인 학습을 구현하는 것.
• 시계열의 조건부 평균을 과거 입력과 적성 흔적의 선형 조합으로 모델링하고, 적성 흔적이 기하급수 감쇠를 통해 장기적 의존성을 포착하는 방식으로 설계하는 것.
• 가우시안 DyBM이 VAR의 일반화임을 도출하며, 지연 변수 d를 과거 스파이크의 감쇠 합(적성 흔적)으로 대체함으로써, 감쇠률 μ=0일 경우 특수한 경우로 VAR로 수렴함을 보여주는 것.

실험 결과

연구 질문

• RQ1 DyBM은 STDP를 고려할 때 생물학적으로 타당성을 유지하면서도 더 유연한 계산을 가능하게 일반화될 수 있는가?
• RQ2 DyBM은 실수형 시계열을 어떻게 모델링할 수 있으며, VAR와 같은 전통적 시계열 모델과의 관계는 어떠한가?
• RQ3 가우시안 DyBM에서 적성 흔적이 기존 VAR 모델에 비해 예측 정확도를 얼마나 향상시키는가?
• RQ4 가우시안 DyBM은 성능을 저하시키지 않고도 온라인 및 분산 방식으로 효율적으로 학습될 수 있는가?
• RQ5 적성 흔적을 통합할 경우 계산 비용은 어떻게 되며, 시계열 길이와 도달 지연에 따라 효율적으로 확장되는가?

주요 결과

• 가우시안 DyBM은 해당 VAR 모델 대비 예측 평균제곱오차를 최대 20%까지 감소시키며, 이 개선 효과는 장기적 의존성을 포착하기 위해 적성 흔적을 사용한 데 기인한다.
• 단일 감쇠률을 사용할 경우 가우시안 DyBM은 VAR와 동일한 계산 복잡도를 유지하며, 학습 시간은 도달 지연 d에 대해 선형적으로 증가한다.
• 단기 도달 지연(d=1) 조건에서도 VAR의 d=16에 비해 뛰어난 성능을 보이며, 적성 흔적이 장기간의 시간적 맥락을 효과적으로 포착함을 입증한다.
• 적성 흔적 덕분에 가우시안 DyBM은 VAR의 고정 지연 구조를 초월해 장기적 의존성을 모델링할 수 있어, 복잡한 시간 동적 특성을 가진 시계열에서 더 우수한 일반화 성능을 달성한다.
• 가우시안 DyBM은 자연 기울기 기반 확률적 경사하강법과 아달라그 학습률 적응 기법을 사용해 온라인으로 안정적이고 효율적인 매개변수 업데이트를 수행할 수 있다.
• 가우시안 DyBM은 분산 환경에서도 계산적으로 효율적이며, 각 매개변수 업데이트가 국소적으로 가용한 정보에만 의존하므로 확장 가능한 학습을 가능하게 한다.