[논문 리뷰] Method of increasing the information capacity of associative memory of oscillator neural networks using high-order synchronization effect

Andrei Velichko, Maksim Belyaev외 2명|arXiv (Cornell University)|2018. 05. 14.

Nonlinear Dynamics and Pattern Formation참고 문헌 25인용 수 3

한 줄 요약

이 논문은 열적으로 결합된 VO₂ 스위치에서 고차 동기화를 활용하여 옹환자 신경망(ONNs)의 정보 용량을 크게 증가시키는 새로운 방법을 제안한다. 두 개 및 세 개의 옹환자 시스템에 대한 수치 모델링을 통해 저자들은 동기화 차수—공통 주파수에서의 고조파 비율로 정의됨—가 세 옹환자 시스템에서는 최대 약 650개의 고유한 동기 상태(Ns)와 두 옹환자 시스템에서는 약 260개의 동기 상태를 가능하게 하며, 최적의 결합 강도에서 용량이 최대화되고 노이즈는 이를 감소시킴을 입증한다.

ABSTRACT

Computational modelling of two- and three-oscillator schemes with thermally coupled $VO_2$-switches is used to demonstrate a novel method of pattern storage and recognition in an impulse oscillator neural network (ONN) based on the high-order synchronization effect. The method ensures high information capacity of associative memory, i.e. a large number of synchronous states $N_s$. Each state in the system is characterized by the synchronization order determined as the ratio of harmonics number at the common synchronization frequency. The modelling demonstrates attainment of $N_s$ of several orders both for a three-oscillator scheme $N_s$~650 and for a two-oscillator scheme $N_s$~260. A number of regularities are obtained, in particular, an optimal strength of oscillator coupling is revealed when $N_s$ has a maximum. A general tendency toward information capacity decrease is shown when the coupling strength and switch inner noise amplitude increase. An algorithm of pattern storage and test vector recognition is suggested. It is also shown that the coordinate number in each vector should be one less than the switch number to reduce recognition ambiguity. The demonstrated method of associative memory realization is a general one and it may be applied in ONNs with various mechanisms and oscillator coupling topology.

연구 동기 및 목표

• 옹환자 신경망에서 연상 기억의 정보 용량을 증가시키는 방법을 개발하기 위해.
• 다양한 안정적인 동기 상태를 가능하게 하는 고차 동기화의 역할을 조사하기 위해.
• 메모리 용량을 최대화하는 데 최적의 결합 강도와 노이즈 수준을 특정하기 위해.
• 벡터 인식의 모호성을 최소화하는 실용적인 알고리즘을 제안하기 위해.

제안 방법

• 열적으로 결합된 VO₂ 스위치를 사용한 두 개 및 세 개의 옹환자 신경망의 수치 모델링.
• 동기화 차수를 공통 동기 주파수에서의 고조파 비율로 정의하여 고유한 동기 상태를 특성화하기 위해.
• 다양한 결합 강도와 노이즈 진폭에서 안정적인 동기 상태 수(Ns)를 분석하기 위해 수치 시뮬레이션을 사용하기 위해.
• 옹환자의 수와 그들의 동기 패턴에 기반하여 테스트 벡터의 저장 및 인식을 위한 알고리즘 도입.
• 벡터 좌표 수를 스위치 수에서 하나를 뺀 값으로 설정하여 인식의 모호성을 줄이기 위해.
• 일반적인 적용 가능성을 보장하기 위해 다양한 결합 구조와 메커니즘에서 시스템의 동작 분석하기 위해.

실험 결과

연구 질문

• RQ1 VO₂ 스위치를 갖춘 옹환자 네트워크에서 고차 동기화는 어떻게 다수의 고유한 동기 상태를 가능하게 하는가?
• RQ2 안정적인 동기 상태 수(Ns)를 최대화하는 데 최적의 결합 강도는 무엇인가?
• RQ3 결합 강도와 내부 노이즈가 증가할수록 연상 기억의 정보 용량에 어떤 영향을 미치는가?
• RQ4 이러한 시스템에서 옹환자의 수와 최대 달성 가능한 Ns 사이의 관계는 무엇인가?
• RQ5 벡터 인식의 모호성을 최소화하는 일반적인 알고리즘을 설계할 수 있는가?

주요 결과

• 세 옹환자 시스템은 최대 약 650개의 고유한 동기 상태(Ns ~ 650)를 달성하여 높은 정보 용량을 입증하였다.
• 두 옹환자 시스템은 최대 약 260개의 고유한 동기 상태(Ns ~ 260)를 달성하여 확장 가능성을 확인하였다.
• 안정적인 동기 상태 수(Ns)가 최대에 도달하는 최적의 결합 강도가 특정되었다.
• 최적 값 이상으로 결합 강도를 증가시키면 Ns가 감소하여 상충 관계가 있음을 나타내었다.
• 내부 노이즈 진폭이 높아질수록 안정적인 동기 상태 수가 감소하여 메모리 용량이 열악해졌다.
• 스위치 수에서 하나를 뺀 값으로 벡터 좌표 수를 설정함으로써 인식의 모호성이 감소됨을 확인하였다.