[논문 리뷰] Adaptive Drift-Diffusion Process to Learn Time Intervals

François Rivest, Yoshua Bengio|arXiv (Cornell University)|2011. 03. 11.

Neural dynamics and brain function참고 문헌 19인용 수 31

한 줄 요약

이 논문은 중심 시계, 무한적 누적기, 사전 정의된 지연선에 의존하지 않고 시간 간격을 학습하는 적응형 이동확산 모델을 제안한다. 단순한 시간 적분기에서 유도된 기하학적 학습 규칙을 사용함으로써, 모델은 웨버의 법칙 정밀도(시간 변동성이 간격 크기에 비례)를 달성하며, 간격 길이에 관계없이 동일한 수의 시행 내에 수렴한다. 이는 신경 시스템에서 시간 간격 측정을 생물학적으로 타당한 방식으로 해결하는 데 기여한다.

ABSTRACT

Animals learn the timing between consecutive events very easily. Their precision is usually proportional to the interval to time (Weber's law for timing). Most current timing models either require a central clock and unbounded accumulator or whole pre-defined populations of delay lines, decaying traces or oscillators to represent elapsing time. Current adaptive recurrent neural networks fail at learning to predict the timing of future events (the 'when') in a realistic manner. In this paper, we present a new model of interval timing, based on simple temporal integrators, derived from drift-diffusion models. We develop a simple geometric rule to learn 'when' instead of 'what'. We provide an analytical proof that the model can learn inter-event intervals in a number of trials independent of the interval size and that the temporal precision of the system is proportional to the timed interval. This new model uses no clock, no gradient, no unbounded accumulators, no delay lines, and has internal noise allowing generations of individual trials. Three interesting predictions are made.

연구 동기 및 목표

• 생물학적으로 타당한 방식으로 상호작용 간격을 학습하는 데 도전 과제를 해결하기 위해.
• 중앙 시계, 지연선, 또는 진동기 등에 의존하는 기존 모델의 한계를 극복하기 위해.
• 사건이 언제 발생하는지를 학습할 수 있는 순환 신경망을 개발하기 위해.
• 시간 정밀도가 간격 크기에 비례하도록 보장하여 웨버의 법칙과 일치시켜야 하며.
• 간격 길이에 관계없이 동일한 수의 시행 내에 수렴하는 학습 규칙을 제공하기 위해.

제안 방법

• 시간 경과를 나타내기 위해 이동확산 과정에서 유도된 단순한 시간 적분기를 사용한다.
• 피드백에 기반하여 적분기의 파라미터를 조정하기 위해 기하학적 학습 규칙을 적용함으로써, 사건의 발생 시기를 학습할 수 있도록 한다.
• 기울기 기반 학습을 피하고 적응형 임계값을 사용하여 무한적 누적을 방지하기 위해 학습 규칙을 설계한다.
• 생물학적 변동성을 시뮬레이션하고 개별 시행의 반응 생성을 가능하게 하기 위해 내부 노이즈를 통합한다.
• 사전 정의된 진동기 집단, 감쇠하는 흔적, 또는 지연선이 필요로 하지 않는다.
• 해석적 유도를 통해 간격 크기에 관계없이 시행 수가 일정한 수렴을 보임을 입증한다.

실험 결과

연구 질문

• RQ1 순환 신경망은 중심 시계 없이 향후 사건의 시기를 예측할 수 있는가?
• RQ2 시간 간격에 비례하는 시간 정밀도를 달성하기 위해 어떤 학습 규칙을 설계할 수 있는가(웨버의 법칙)?
• RQ3 간격 길이에 관계없이 시간 간격 학습에서 빠른 수렴을 달성할 수 있는가?
• RQ4 무한적 누적기나 사전 정의된 지연선 없이도 시간 간격 학습을 수행할 수 있는가?
• RQ5 내부 노이즈는 학습 프레임워크 내에서 개별 시행에 맞는 시간 반응을 가능하게 하는 데 어떤 역할을 하는가?

주요 결과

• 모델은 간격 크기에 관계없이 동일한 수의 시행 내에 상호작용 간격을 학습하며, 효율적인 학습을 보여준다.
• 시간 정밀도가 측정된 간격 크기에 비례하여 변화하며, 시간 측정에 있어 웨버의 법칙을 충족한다.
• 모델은 중심 시계, 무한적 누적기, 지연선, 또는 사전 정의된 진동기를 필요로 하지 않는다.
• 기하학적 학습 규칙은 시스템이 '무엇'이 아니라 '언제' 사건이 발생하는지를 학습할 수 있도록 한다.
• 내부 노이즈 덕분에 개별 시행의 반응 생성이 가능해져 생물학적 타당성이 향상된다.
• 해석적 증명을 통해 모델이 유한한 학습 단계 내에 정확한 시간 측정으로 수렴함을 확인한다.