[논문 리뷰] Kernelized information bottleneck leads to biologically plausible 3-factor Hebbian learning in deep networks

Roman Pogodin, Peter E. Latham|arXiv (Cornell University)|2020. 06. 12.

Advanced Memory and Neural Computing참고 문헌 46인용 수 16

한 줄 요약

이 논문은 커널화된 정보 차단 프레임워크에서 유도된, 생물학적으로 타당한 3요소 히브시안 학습 규칙을 제안한다. 힐버트-슈미트 독립성 기준을 생물학적으로 타당하게 계산 가능한 목적함수(pHSIC)로 근사화함으로써, 전역 오차 신호와 전·후시냅스 활동만을 사용하여 국소적이고 계층별로 가중치 갱신이 가능해지며, 역전파, 가중치 이동, 정밀한 레이블이 필요 없어진다. 이 방법은 MNIST, 패션-MNIST, Kuzushiji-MNIST, CIFAR10에서 역전파에 근접한 성능을 달성하며, 특히 나눗셈 정규화를 결합할 경우 뛰어난 성능을 보인다.

ABSTRACT

The state-of-the art machine learning approach to training deep neural networks, backpropagation, is implausible for real neural networks: neurons need to know their outgoing weights; training alternates between a bottom-up forward pass (computation) and a top-down backward pass (learning); and the algorithm often needs precise labels of many data points. Biologically plausible approximations to backpropagation, such as feedback alignment, solve the weight transport problem, but not the other two. Thus, fully biologically plausible learning rules have so far remained elusive. Here we present a family of learning rules that does not suffer from any of these problems. It is motivated by the information bottleneck principle (extended with kernel methods), in which networks learn to compress the input as much as possible without sacrificing prediction of the output. The resulting rules have a 3-factor Hebbian structure: they require pre- and post-synaptic firing rates and an error signal - the third factor - consisting of a global teaching signal and a layer-specific term, both available without a top-down pass. They do not require precise labels; instead, they rely on the similarity between pairs of desired outputs. Moreover, to obtain good performance on hard problems and retain biological plausibility, our rules need divisive normalization - a known feature of biological networks. Finally, simulations show that our rules perform nearly as well as backpropagation on image classification tasks.

연구 동기 및 목표

• 역전파의 한계를 피하는 완전히 생물학적으로 타당한 딥 네트워크 학습 규칙을 개발하는 것.
• 역전파의 세 가지 주요 비생물학적 특성인 가중치 이동, 정방향/역방향 순환 실행, 정밀한 레이블 의존성 문제를 해결하는 것.
• 정보 차단 원리에서 유도된 학습 규칙을 커널 방법을 활용하여 계산 가능하게 최적화할 수 있도록 하는 것.
• 학습 규칙이 국소적이고 확장 가능하며, 나눗셈 정규화와 같은 알려진 생물학적 신경 메커니즘과 호환되도록 보장하는 것.
• 정규화된 역전파나 레이블 감독 없이도 표준 이미지 분류 벤치마크에서 경쟁 가능한 성능을 보여주는 것.

제안 방법

• 상호정보량을 커널화된 공분산으로 대체하여 국소적 학습이 가능한 수정된 커널화된 정보 차단 목적함수를 사용한다.
• 신경세포가 여러 데이터 포인트의 활동을 저장할 필요 없이 계산 가능한 '생물학적으로 타당한 HSIC'(pHSIC)를 도입한다.
• 결과적으로 3요소 히브시안 학습 규칙을 도출한다: 전시냅스 활동, 후시냅스 활동, 출력 유사도에서 유도된 계층별 오차 신호.
• 오차 신호는 정밀한 레이블이 필요 없이 목표 출력 간의 쌍별 유사도에서 계산된다.
• 어려운 작업에서 학습을 안정화하고 생물학적 네트워크 동역학과 일치시키기 위해 나눗셈 정규화를 통합한다.
• 메서드는 계층별로 작동하며, 인접한 계층의 활동과 전역 교육 신호만을 사용하여 가중치를 갱신하고, 역방향 전파를 피한다.

실험 결과

연구 질문

• RQ1 정보 차단 원리에서 유도된 학습 규칙이 딥 네트워크에서 완전히 생물학적으로 타당하게 만들 수 있는가?
• RQ2 이러한 규칙이 가중치 이동 문제를 피하고, 정방향/역방향 순환 실행이 필요 없으며, 정밀한 레이블 의존성을 줄일 수 있는가?
• RQ3 나눗셈 정규화를 통합하면 도전적인 이미지 분류 작업에서 성능이 향상되며 생물학적 타당성도 유지되는가?
• RQ4 제안된 pHSIC 기반 규칙의 성능은 표준 벤치마크에서 역전파 및 다른 생물학적으로 영감을 받은 대안들과 비교해 어떻게 되는가?
• RQ5 이 메서드는 정규화된 역전파나 레이블이 없는 상태에서 다양한 데이터셋과 네트워크 아키텍처로 일반화 가능한가?

주요 결과

• pHSIC 기반 학습 규칙은 MNIST, 패션-MNIST, Kuzushiji-MNIST에서 역전파에 비해 1-3% 이내의 테스트 정확도를 달성하며, 2배 넓은 네트워크를 사용해 CIFAR10에서 AdamW와 배치 정규화를 적용해 94.5%의 정확도를 기록했다.
• CIFAR10에서 코시 유사도 커널과 나눗셈 정규화를 사용한 메서드는 2배 넓은 네트워크로 90.4%의 정확도를 기록했으며, 피드백 정렬 및 부호 대칭 방법을 능가했다.
• 나눗셈 정규화의 사용은 특히 SGD 기반 학습에서 안정성과 성능을 크게 향상시켰고, 다양한 초기화 세트 간의 분산을 감소시켰다.
• 정밀한 레이블이 필요 없이 목표 출력 간의 쌍별 유사도만으로도 높은 성능을 달성했다.
• pHSIC 목적함수는 원래 HSIC 목적함수에 대한 유효한 상한선을 유지하여 이론적 일관성을 보장하면서도 생물학적으로 타당한 계산이 가능하다.
• 학습 동역학을 통해 pHSIC가 입력 정보를 효과적으로 압축하면서도 출력에 대한 예측 능력을 유지함을 입증했으며, pHSIC와 HSIC 항목의 수렴을 관찰할 수 있었다.