[논문 리뷰] A correlation game for unsupervised learning yields computational interpretations of Hebbian excitation, anti-Hebbian inhibition, and synapse elimination

H. Sebastian Seung, Jonathan Zung|arXiv (Cornell University)|2017. 04. 03.

Neural dynamics and brain function참고 문헌 27인용 수 14

한 줄 요약

이 논문은 비지도 학습을 비선형 신경망 내 히브시안 흥분과 반-히브시안 억제 사이의 제로섬 상호작용 게임으로 공식화한다. 여기서 흥분은 입력-출력 상관관계를 최대화하고, 억제는 출력-출력 상관관계를 최소화한다. 라그랑주 이중 공식을 통해 유도된 시냅스 경쟁과 제거 메커니즘은 네트워크가 물체의 구성 요소를 닮은 희박한 특징을 학습하도록 한다. 이는 MNIST 데이터에 대해 이론적이고 실험적으로 검증되었다.

ABSTRACT

Much has been learned about plasticity of biological synapses from empirical studies. Hebbian plasticity is driven by correlated activity of presynaptic and postsynaptic neurons. Synapses that converge onto the same neuron often behave as if they compete for a fixed resource; some survive the competition while others are eliminated. To provide computational interpretations of these aspects of synaptic plasticity, we formulate unsupervised learning as a zero-sum game between Hebbian excitation and anti-Hebbian inhibition in a neural network model. The game formalizes the intuition that Hebbian excitation tries to maximize correlations of neurons with their inputs, while anti-Hebbian inhibition tries to decorrelate neurons from each other. We further include a model of synaptic competition, which enables a neuron to eliminate all connections except those from its most strongly correlated inputs. Through empirical studies, we show that this facilitates the learning of sensory features that resemble parts of objects.

연구 동기 및 목표

• 비선형 신경망 내 히브시안 가소성, 반-히브시안 억제, 시냅스 경쟁/제거의 계산적 해석을 제공한다.
• 입력-출력 상관관계를 최대화하고 출력-출력 상관관계를 최소화하는 제약 조건 하에 비지도 학습을 최적화 문제로 공식화한다.
• 시냅스 경쟁과 제거가 어떻게 희박한 연결성을 이끌어내어 물체-부분 유사 특징 학습을 가능하게 하는지 보여준다.
• 라그랑주 승수를 억제적 가중치로 사용하여 게임 이론 프레임워크에서 생물학적으로 타당한 가소성 규칙을 유도한다.
• 시냅스 제거가 조밀한 연결성과 비교해 물체-부분 특징 학습을 얼마나 향상시키는지 보여준다.

제안 방법

• 비지도 학습을 제약 조건 최적화 문제로 공식화한다: 출력-입력 상관관계를 최대화하고 출력-출력 상관관계에 상한을 둔다.
• 라그랑주 이중성을 사용하여 히브시안 흥분과 반-히브시안 억제가 상반된 플레이어로 작용하는 제로섬 게임으로 해석되는 게임 이론적 공식화를 유도한다.
• 정수형 선형 단위(ReLU)와 가소성 있는 가중치를 갖는 비선형 신경망을 구현하며, 이중 공식화에서 유도된 히브시안 및 반-히브시안 규칙에 따라 가중치를 갱신한다.
• 한 신경망에 집중된 흥분성 시냅스에 자원 제약 조건을 적용하여 약한 연결을 제거하는 시냅스 경쟁 메커니즘을 도입한다.
• 각 신경망의 시냅스 가중치 합이 일정한 값을 갖도록 하는 페널티 함수를 정의함으로써, 라그랑주 승수가 클수록 희박한 연결성이 유도된다.
• 이론적 분석을 통해 생존한 시냅스가 가장 상관관계가 높은 입력에 해당하며, 이는 이진 가중치를 갖는 희박한 주성분 분석 해와 동치임을 확인한다.

실험 결과

연구 질문

• RQ1 히브시안 흥분과 반-히브시안 억제를 비지도 학습을 위한 단일 계산적 프레임워크 내에서 어떻게 공식화할 수 있는가?
• RQ2 시냅스 경쟁과 제거의 계산적 역할은 신경 표현에서 희박하고 부분 유사 특징을 형성하는 데 어떻게 기여하는가?
• RQ3 상관관계 게임 공식화는 신경망에서 희박한 연결성이 어떻게 나타나는지를 어떻게 설명하는가?
• RQ4 상관관계 최대화의 라그랑주 이중 공식화는 피드포워드 및 라터럴 연결에 대해 생물학적으로 타당한 가소성 규칙을 도출할 수 있는가?
• RQ5 시냅스 제거가 조밀한 연결성과 비교해 물체-부분 특징 학습을 얼마나 향상시키는가?

주요 결과

• 상관관계 게임 프레임워크는 비지도 학습을 제로섬 게임으로 설명하며, 히브시안 흥분과 반-히브시안 억제가 상반된 플레이어로 작용한다.
• 라그랑주 이중 공식화는 최적화 원리에서 자연스럽게 유도된 히브시안 및 반-히브시안 가소성 규칙을 갖는 신경망을 이끌어낸다.
• 고정된 가중치 합 제약 조건을 통해 강제된 시냅스 경쟁과 제거로 인해, 유일하게 가장 상관관계가 높은 입력만 생존하는 희박한 연결성이 형성된다.
• MNIST에서의 실험 결과는 시냅스 제거가 조밀한 네트워크가 전체 물체 특징을 학습하는 데 반해, 물체의 일부를 닮은 특징을 학습할 수 있음을 보여준다.
• 이론적 분석은 생존한 시냅스가 상위-k 상관관계가 높은 입력에 해당하며, 이는 이진 가중치를 갖는 희박한 주성분 분석 해와 동치임을 확인한다.
• 측면 억제의 강도는 가중치 벡터의 유사도가 클수록 증가하며, 이는 네트워크가 유사한 입력 선호도를 갖는 신경망을 활성적으로 상관관계 없애는 것을 나타낸다.