[논문 리뷰] Boltzmann machines for time-series

Takayuki Osogami|arXiv (Cornell University)|2017. 08. 20.

Neural Networks and Reservoir Computing참고 문헌 42인용 수 8

한 줄 요약

이 논문은 시간열 모델링을 위한 볼츠만 기계를 검토하며, 온라인 환경에서 국소적 학습이 가능한 동적 볼츠만 기계(DyBMs)에 초점을 맞춘다. 백프로파게이션스루타임(BPTT)과는 달리, BPTT는 시퀀스 길이에 비례해 선형적인 계산 복잡도를 가지지만, DyBMs는 스파이크 타이밍 의존성 플라스티시티(STDP)에 영감을 받은 시간적으로 국소적인 학습 규칙을 사용하여, 이력 길이에 관계없이 일정한 단계당 복잡도로 효율적인 온라인 학습을 가능하게 한다.

ABSTRACT

We review Boltzmann machines extended for time-series. These models often have recurrent structure, and back propagration through time (BPTT) is used to learn their parameters. The per-step computational complexity of BPTT in online learning, however, grows linearly with respect to the length of preceding time-series (i.e., learning rule is not local in time), which limits the applicability of BPTT in online learning. We then review dynamic Boltzmann machines (DyBMs), whose learning rule is local in time. DyBM's learning rule relates to spike-timing dependent plasticity (STDP), which has been postulated and experimentally confirmed for biological neural networks.

연구 동기 및 목표

• 순환 볼츠만 기계의 온라인 학습에서 백프로파게이션스루타임(BPTT)의 높은 계산 비용을 해결하기 위해.
• 시간적으로 국소적인 학습 규칙을 가진 동적 볼츠만 기계(DyBMs)를 스케일러블한 대안으로 제시하기 위해.
• 스파이크 타이밍 의존성 플라스티시티(STDP)를 통해 DyBM 학습을 생물학적으로 타당한 것으로 연결하기 위해.
• 장기 의존성을 가진 시간열 모델의 효율적인 온라인 학습을 가능하게 하기 위해.
• 에너지 기반 모델에 국소적 학습 동역학을 사용하는 스케일러블하고 미분 가능한 시간열 모델링 프레임워크를 제공하기 위해.

제안 방법

• 볼츠만 기계의 시간열 확장으로서 순환 구조와 국소적 학습 규칙을 가진 동적 볼츠만 기계(DyBMs)를 제안한다.
• 장기 의존성을 효율적으로 근사하기 위해 할인 인자 γ를 사용한 재귀적 기울기 계산을 사용한다.
• 온라인 학습에서 일정한 단계당 복잡도를 유지하기 위해 기울기 추정치에 대한 재귀적 업데이트 규칙을 적용한다.
• 학습 안정화를 위해 은닉 유닛 활동 차이의 모멘텀 유사 재귀 평균을 사용한다.
• 과거 시간 단계에 걸친 예측 오차의 시간 할인 합을 사용해 파라미터를 업데이트하는 학습 규칙을 적용한다.
• 양방향 DyBMs로 프레임워크를 확장하여 전진 및 역방향 모델이 파라미터를 공유함으로써 학습 안정성과 수렴성을 향상시킨다.

실험 결과

연구 질문

• RQ1 장기간의 시퀀스를 가진 온라인 설정에서 볼츠만 기계 모델을 효율적으로 학습시킬 수 있는가?
• RQ2 순환 에너지 기반 모델에서 BPTT의 계산 복잡도는 어떻게 감소시킬 수 있는가?
• RQ3 시간열 모델링에서 학습 규칙의 생물학적 타당성은 무엇인가?
• RQ4 국소적 학습 규칙이 시퀀스 모델링에서 BPTT와 비교해 유사한 성능을 달성할 수 있는가?
• RQ5 온라인 파라미터 업데이트를 위해 은닉 유닛 활동 차이를 효율적으로 추적하는 방법은 무엇인가?

주요 결과

• DyBM 학습 규칙은 이전 시간열의 길이에 관계없이 온라인 학습에서 일정한 단계당 계산 복잡도를 달성한다.
• DyBM의 학습 규칙은 수학적으로 스파이크 타이밍 의존성 플라스티시티(STDP)와 유사하여 생물학적 신경 플라스티시티와 연결된다.
• 할인 인자 γ를 사용한 재귀적 기울기 계산은 과거 상태를 저장하지 않더라도 장기 의존성을 효율적으로 근사할 수 있게 한다.
• 양방향 DyBMs의 사용은 전진 및 역방향 방향에서 상보적인 학습 동역학을 활용함으로써 학습 안정성과 파라미터 추정을 향상시킨다.
• 최소한의 메모리 오버헤드로 시간열 생성, 예측, 이상 탐지에 대한 스케일러블한 온라인 학습을 지원한다.
• 실험 결과 DyBMs가 계산 효율성을 유지하면서도 시간열 작업에서 경쟁적인 성능을 달성한다.