[논문 리뷰] Situation-based memory in spiking neuron-astrocyte network

Susanna Gordleeva, Yuliya Tsybina외 5명|arXiv (Cornell University)|2022. 02. 15.

Advanced Memory and Neural Computing인용 수 4

한 줄 요약

이 논문은 국소적 환경 내에서 상황 기반 기억—즉각적이고 맥락에 특화된 자극 패턴의 빠른 재구성을 가능하게 하는 스파iking 뉴런-아스트로시트 수용체 네트워크 모델을 제안한다. 아스트로시트 수용체에 의한 조절을 통한 이중 네트워크 뉴로모픽 아키텍처를 사용하여, 표준 스파킹 신경망에 비해 향상된 재구성 품질을 보여주며, 효과적인 상황 기반 학습과 기억에 있어 아스트로시트 수용체의 구조적 필수성을 강조한다.

ABSTRACT

Mammalian brains operate in a very special surrounding: to survive they have to react quickly and effectively to the pool of stimuli patterns previously recognized as danger. Many learning tasks often encountered by living organisms involve a specific set-up centered around a relatively small set of patterns presented in a particular environment. For example, at a party, people recognize friends immediately, without deep analysis, just by seeing a fragment of their clothes. This set-up with reduced "ontology" is referred to as a "situation". Situations are usually local in space and time. In this work, we propose that neuron-astrocyte networks provide a network topology that is effectively adapted to accommodate situation-based memory. In order to illustrate this, we numerically simulate and analyze a well-established model of a neuron-astrocyte network, which is subjected to stimuli conforming to the situation-driven environment. Three pools of stimuli patterns are considered: external patterns, patterns from the situation associative pool regularly presented to the network and learned by the network, and patterns already learned and remembered by astrocytes. Patterns from the external world are added to and removed from the associative pool. Then we show that astrocytes are structurally necessary for an effective function in such a learning and testing set-up. To demonstrate this we present a novel neuromorphic model for short-term memory implemented by a two-net spiking neural-astrocytic network. Our results show that such a system tested on synthesized data with selective astrocyte-induced modulation of neuronal activity provides an enhancement of retrieval quality in comparison to standard spiking neural networks trained via Hebbian plasticity only. We argue that the proposed set-up may offer a new way to analyze, model, and understand neuromorphic artificial intelligence systems.

연구 동기 및 목표

• 동적이고 국소적인 환경에서 뉴런-아스트로시트 수용체 네트워크가 어떻게 빠르고 맥락에 특화된 기억 재구성을 지원하는지 조사한다.
• 반복적으로 나타나는 자극 패턴이 제한된 환경(즉, '상황')에서 효율적인 기억 저장 및 재구성의 과제를 해결한다.
• 상황 기반 학습 과제에서 기억 성능 향상에 있어 아스트로시트 수용체의 필요성을 입증한다.
• 스파iking 신경망의 특성과 아스트로시트 수용체 유도 조절을 활용하여 향상된 단기 기억 기능을 갖춘 뉴로모픽 모델을 개발하고 검증한다.
• 맥락 민감한 기억 기능을 갖춘 뉴로모픽 인공지능 시스템을 모델링하고 설계하기 위한 생물학적으로 타당한 프레임워크를 제공한다.

제안 방법

• 상황 기반 자극 조건 하에서 잘 알려진 스파킹 뉴런-아스트로시트 수용체 네트워크 모델의 수치 시뮬레이션.
• 외부 자극, 상황에 특화된 연합 패턴, 이미 학습된 아스트로시트 수용체 기억 패턴의 세 가지 자극 풀 구현.
• 헤비안 학습을 통한 뉴런 학습과 함께, 아스트로시트 수용체에 의한 뉴런 활동 조절을 통한 기억 재구성 향상.
• 단기 기억 기능을 시뮬레이션하기 위해 이중 네트워크 스파킹 뉴런-아스트로시트 수용체 네트워크 아키텍처 설계.
• 선택적 아스트로시트 수용체 유도 조절을 통해 시냅스 효율성을 동적으로 조절하고 패턴 인식 정밀도 향상.
• 통제된 자극 제시 및 제거 프rotocol 하에서 합성 데이터를 사용하여 재구성 품질 평가.

실험 결과

연구 질문

• RQ1 뉴런-아스트로시트 수용체 네트워크는 국소적이고 시간 제한된 환경에서 어떻게 빠르고 맥락에 특화된 기억 재구성을 지원하는가?
• RQ2 아스트로시트 수용체는 상황 기반 학습 시나리오에서 기억 재구성 품질 향상에 어떤 역할을 하는가?
• RQ3 아스트로시트 수용체 조절 기능을 갖춘 뉴로모픽 스파킹 네트워크는 헤비안 학습법만을 사용한 표준 스파킹 신경망보다 성능이 뛰어나다고 할 수 있는가?
• RQ4 외부 자극이 연합 풀에 동적으로 추가되고 제거될 경우 기억 성능에 어떤 영향을 미치는가?
• RQ5 제안된 모델에서 효과적인 상황 기반 기억 기능을 위해 아스트로시트 수용체 존재가 얼마나 구조적으로 필수적인가?

주요 결과

• 아스트로시트 수용체에 의한 조절이 헤비안 학습법만을 사용한 표준 스파킹 신경망에 비해 재구성 품질을 크게 향상시켰다.
• 아스트로시트 수용체의 영향을 제거할 경우 기억 정밀도가 떨어지므로, 상황 기반 기억 과제에서 최적 성능을 내기 위해 아스트로시트 수용체가 구조적으로 필수적임을 확인했다.
• 이중 네트워크 뉴로모픽 모델은 상황에 특화된 패턴을 높은 정확도로 회상하는 단기 기억 기능을 성공적으로 구현했다.
• 외부 자극이 연합 풀에 동적으로 추가되고 제거되는 상황에서도 시스템은 뛰어난 성능을 보였으며, 실제 환경 변화를 반영했다.
• 선택적 아스트로시트 수용체 유도 조절 하에서 모델는 개선된 패턴 인식과 기억 재구성 성능를 달성했으며, 맥락 민감한 학습에서의 기능적 우수성을 확인했다.
• 결과는 뉴런-아스트로시트 수용체 네트워크가 동적이고 조절 가능한 아키텍처를 지니고 있어 상황 기반 기억을 본질적으로 처리하는 데 적합하다는 가설을 지지한다.