[논문 리뷰] Learning in cognitive systems with autonomous dynamics

Claudius Gros, Gregor Kaczor|ArXiv.org|2008. 04. 08.

Neural dynamics and brain function참고 문헌 16인용 수 6

한 줄 요약

이 논문은 자율 인지 시스템을 위한 생물학적으로 영감을 받은 학습 프레임워크를 제안하며, 자가유지 내부 활동 상태 간의 일시적 전이 기간 동안 비지도 특징 추출이 이루어진다. 경쟁적 동역학을 갖춘 조밀한 동질적 연상 네트워크(dHAN)를 활용하여, 일시적 분기점 상태 간의 민감 기간 동안 외부 감독 없이도 빠르게 비지도 독립 성분 분석을 수행할 수 있도록 자율적으로 학습 신호를 생성한다. 이는 바-스트립 입력에 대해 효과적이다.

ABSTRACT

The activity patterns of highly developed cognitive systems like the human brain are dominated by autonomous dynamical processes, that is by a self-sustained activity which would be present even in the absence of external sensory stimuli. During normal operation the continuous influx of external stimuli could therefore be completely unrelated to the patterns generated internally by the autonomous dynamical process. Learning of spurious correlations between external stimuli and autonomously generated internal activity states needs therefore to be avoided. We study this problem within the paradigm of transient state dynamics for the internal activity, that is for an autonomous activity characterized by a infinite time-series of transiently stable attractor states. We propose that external stimuli will be relevant during the sensitive periods, the transition period between one transient state and the subsequent semi-stable attractor. A diffusive learning signal is generated unsupervised whenever the stimulus influences the internal dynamics qualitatively. For testing we have presented to the model system stimuli corresponding to the bar-stripes problem and found it capable to perform the required independent-component analysis on its own, all the time being continuously and autonomously active.

연구 동기 및 목표

• 외부 자극이 아닌 내재적인 자가유지 신경 동역학에 의해 구동되는 자율 인지 시스템의 패러다임을 개발하는 것.
• 매우 자율적인 시스템에서 외부 자극과 내부적으로 생성된 활동 패턴 간의 오류 상관관계를 방지하는 과제를 해결하는 것.
• 자극이 내부 동역학에 의미 있게 영향을 주고 학습을 유도할 수 있는 시점과 방법을 규명하는 것.
• 특정 전이 단계—민감 기간—동안에만 활성화되는 비지도 학습 메커니즘을 구현하는 것.
• 이러한 학습 메커니즘이 희소한 시간적 입력, 예를 들어 바-스트립 패턴에 대해 독립 성분 분석을 수행할 수 있는지의 타당성을 테스트하는 것.

제안 방법

• 시간에 따라 변화하는 일시적이고 반안정적인 분기점 상태 시리즈를 생성하는 조밀한 동질적 연상 네트워크(dHAN)를 사용하여 내부 동역학을 모델링한다.
• 성장률 $ r_i(t) $ 로 제어되는 연속 시간 신경 활동을 정의하며, $ r_i > 0 $ 인 경우 $ \dot{x}_i = (1 - x_i)r_i $, $ r_i < 0 $ 인 경우 $ \dot{x}_i = x_i r_i $ 를 만족한다.
• 내부 동역학에 질적으로 영향을 주고 학습을 유도할 수 있는 전이 간격인 '민감 기간'을 정의한다.
• 민감 기간 동안 외부 자극이 내부 동역학의 궤적을 변화시키면, 이를 기반으로 비지도로 확산 학습 신호를 생성한다.
• 합성 시냅스 가중치 $ v_{ij}^{pq} $ 에 대해 수식 (6)에 따라 직교화 절차를 적용하여 겹치는 승리 코али션( winning coalitions )을 허용하고 포화를 방지하며, '실수를 통한 학습' 원칙과 일치한다.
• 15개의 사이트로 구성된 선형 체인 dHAN을 사용하여 14개의 잠재적 승리 코알리션((0,1), (1,2), ..., (14,15))을 모델링하고, 10개의 바-스트립 입력 패턴에 대한 수용 영역과 특징 반응을 시뮬레이션한다.

실험 결과

연구 질문

• RQ1 자기 유지를 유지하면서도 외부 자극으로부터 학습할 수 있는 인지 시스템은 어떻게 구성할 수 있는가? 이 과정에서 오류 상관관계를 피할 수 있는가?
• RQ2 외부 자극이 내부 동역학에 의미 있게 영향을 주고 학습을 유도할 수 있는 시간적 조건—특히 전이 단계—는 무엇인가?
• RQ3 자기 유지를 유지하는 동역학적 시스템이 내부의 일시적 상태 전이만을 학습 트리거로 사용하여 비지도 독립 성분 분석을 수행할 수 있는가?
• RQ4 겹치는 승리 코알리션과 포화되지 않는 시냅스 업데이트는 경쟁적 자율 네트워크에서 특징 추출 성능에 어떤 영향을 미치는가?
• RQ5 희소하고 약간 연속적인 자극 조건에서도 제안된 학습 메커니즘이 얼마나 강인한가?

주요 결과

• 모델은 전이 상태 전이만을 학습 트리거로 사용하여 10개의 바-스트립 입력 문제에 대해 비지도 독립 성분 분석을 성공적으로 수행하였다.
• 학습은 빠르게 비지도로 발생하였으며, 그림 7에 나타나 있듯이 14개의 잠재적 승리 코알리션 각각에 대해 구분된 수용 영역이 형성되었다.
• 수용 영역는 양수 및 음수 가중치를 모두 가지며, 이는 수식 (6)의 직교화 절차에 의해 유도된 복잡한 직교화된 시냅스 구성 구조를 반영한다.
• 수식 (6)에 따라 활성, 직교화된, 비활성 기여를 균형 있게 조절함으로써 시냅스 포화를 피하였으며, 이는 '실수를 통한 학습' 원칙과 일치한다.
• 모델는 독립 입력 패턴 수보다 많은 승리 코알리션(과잉 완성도) 조건에서도 특징 추출 성능이 강인함을 보였지만, 일부 바(예: 마지막에서 두 번째 수직 바)는 완전히 해소되지 않았다.
• 초기 결과는 이 프레임워크가 다양한 입력 조건에서도 기능함을 시사하며, 향후 자연 풍경 분석 및 연속적 입력에의 확장 가능성을 뒷받침한다.