[논문 리뷰] TACOS: Task Agnostic Continual Learning in Spiking Neural Networks

Nicholas Soures, Peter Helfer외 3명|arXiv (Cornell University)|2024. 08. 16.

Advanced Memory and Neural Computing인용 수 4

한 줄 요약

TACOS는 활동에 의존하는 메타플라스티시티, 시냅스 통합 및 이형성 감쇠를 활용하여 작업 경계 없이 메모리 크기 증가 없이 안정적인 지식 유지가 가능한 스파iking 신경망을 위한 작업 무관 연속 학습 프레임워크를 제안한다. 도메인 증분 학습에서 정규화 기반 모델보다 뛰어나며, 치명적 간섭을 최대 5배 감소시키면서 기준 SNN보다 평균 정확도를 22% 높게 유지한다.

ABSTRACT

Catastrophic interference, the loss of previously learned information when learning new information, remains a major challenge in machine learning. Since living organisms do not seem to suffer from this problem, researchers have taken inspiration from biology to improve memory retention in artificial intelligence systems. However, previous attempts to use bio-inspired mechanisms have typically resulted in systems that rely on task boundary information during training and/or explicit task identification during inference, information that is not available in real-world scenarios. Here, we show that neuro-inspired mechanisms such as synaptic consolidation and metaplasticity can mitigate catastrophic interference in a spiking neural network, using only synapse-local information, with no need for task awareness, and with a fixed memory size that does not need to be increased when training on new tasks. Our model, TACOS, combines neuromodulation with complex synaptic dynamics to enable new learning while protecting previous information. We evaluate TACOS on sequential image recognition tasks and demonstrate its effectiveness in reducing catastrophic interference. Our results show that TACOS outperforms existing regularization techniques in domain-incremental learning scenarios. We also report the results of an ablation study to elucidate the contribution of each neuro-inspired mechanism separately.

연구 동기 및 목표

• 학습 또는 추론 시 작업 정체성 정보가 필요 없이 연속 학습에서 치명적 기억 상실을 해결하는 것.
• 생물학적 시냅스 메커니즘을 모방하여 확장 가능하고 에너지 효율적인 스파킹 신경망을 위한 연속 학습 프레임워크를 개발하는 것.
• 학습한 작업 수에 따라 변하지 않는 고정된 메모리 예산으로 안정적인 지식 유지 성능을 달성하는 것.
• 활동에 의존하는 메타플라스티시티와 시냅스 통합의 안정성과 유연성의 균형을 이루는 역할을 규명하는 것.
• 국소 학습 규칙을 가진 다층, 지도 학습 기반 SNN에서 뇌에 영감을 받은 메커니즘이 효과적인지 입증하는 것.

제안 방법

• TACOS는 전·후성 활동에 따라 동적으로 시냅스 강도를 조절하는 활동에 의존하는 메타플라스티시티를 갖춘 복잡한 시냅스 모델을 사용한다.
• 강화된 시냅스 통합을 통합하여 강화된 시냅스의 자발적 감쇠를 줄여 장기 기억 유지성을 향상시킨다.
• 비활성 시냅스를 약화시켜 선택적 유연성을 증진하고 간섭을 감소시키기 위해 이형성 감쇠를 적용한다.
• 예측 오차가 발생할 때만 오차 기반 신경조절이 학습 업데이트를 유도하여 효율적이고 타겟된 유연성을 가능하게 한다.
• 모든 학습 규칙은 시냅스 국소적이며, 전역적 작업 정보나 외부 감독이 필요로 하지 않는다.
• 모델은 학습한 작업 수와 관계없이 고정된 수의 파라미터와 메모리 크기를 사용한다.

Figure 1 : Supervised spiking neural network architecture described in this work. Error is propagated directly to all layers through random feedback, where the induction of plasticity is dependent on a Hebbian-like surrogate gradient rule. Unlike traditional neural networks, our model has more compl

실험 결과

연구 질문

• RQ1 메타플라스티시티와 시냅스 통합과 같은 뇌에 영감을 받은 메커니즘이 작업 경계 정보 없이 스파킹 신경망에서 치명적 기억 상실을 줄일 수 있는가?
• RQ2 활동에 의존하는 메타플라스티시티는 안정성과 유연성의 균형을 이루는 데 고정된 메타플라스티시티 상태보다 어떻게 비교되는가?
• RQ3 제한된 학습 데이터로도 많은 수의 순차적 작업에서 TACOS가 성능을 얼마나 오랫동안 유지할 수 있는가?
• RQ4 연속 학습에서 메타플라스티시티 수준에 따라 유연성과 안정성의 상호 균형은 어떻게 변화하는가?
• RQ5 TACOS는 오미닛글로트에서 소수의 예제, 도메인 증분 학습과 같은 도전적인 실제 연속 학습 시나리오로 일반화될 수 있는가?

주요 결과

• TACOS는 스플릿-MNIST 및 스플릿-FMNIST 작업에서 기준 SNN 대비 치명적 간섭을 약 5배 감소시켰다.
• 기준 모델보다 약 3배 낮은 유연성에도 불구하고, TACOS는 작업 간 평균 정확도에서 22% 높은 성능을 달성했다.
• 50개 작업의 스플릿-오미닛글로트 벤치마크에서 낮은 메타플라스티시티(m=25) 상태는 기준 SNN 대비 최종 평균 정확도를 6% 향상시켰다.
• 최대 메타플라스티시티 상태 m=25에서 성능의 전환점이 나타나 안정성과 유연성의 최적 균형이 이루어짐을 시사한다.
• 제거 실험 결과, 메타플라스티시티와 시냅스 통합이 각각 기억 상실 감소와 유지력 향상에 독립적으로 기여하는 것으로 확인되었다.
• 학습 데이터 감소로 인한 성능 저하를 작업 지속 시간에 따라 메타플라스티시티 및 통합 파라미터를 조정함으로써 보완할 수 있었다.

Figure 3 : Accuracy of each task over time for TACOS with different maximum plasticity settings, a fixed metaplasticity model with different metaplasticity strengths, and a baseline SNN on split-MNIST. The dashed gray line indicates when the model has been trained on the task specified on the x-axis