[논문 리뷰] Hebbian Deep Learning Without Feedback

Adrien Journé, Hector Garcia Rodriguez외 2명|arXiv (Cornell University)|2022. 09. 23.

Advanced Memory and Neural ComputingEngineering인용 수 17

한 줄 요약

이 논문은 소프트 우승자-취하기(soft winner-take-all, WTA) 네트워크에서 헤브의 학습을 활용하여 피드백, 오차 신호, 목표 감독 없이 딥 네ural 네트워크를 훈련하는 생물학적으로 타당한 딥 러닝 알고리즘인 SoftHebb를 소개한다. 이 알고리즘은 오직 한 번의 비지도 사전 훈련 에포크만을 사용하여 MNIST(99.4%), CIFAR-10(80.3%), STL-10(76.2%), ImageNet(27.3%)에서 최신 기준 성능을 달성하며, 가중치 이동 문제, 국소적이지 않은 가소성, 업데이트 잠금과 같은 백프로파게이션 및 이전의 생물학적으로 타당한 방법의 핵심 제약을 제거한다.

ABSTRACT

Recent approximations to backpropagation (BP) have mitigated many of BP's computational inefficiencies and incompatibilities with biology, but important limitations still remain. Moreover, the approximations significantly decrease accuracy in benchmarks, suggesting that an entirely different approach may be more fruitful. Here, grounded on recent theory for Hebbian learning in soft winner-take-all networks, we present multilayer SoftHebb, i.e. an algorithm that trains deep neural networks, without any feedback, target, or error signals. As a result, it achieves efficiency by avoiding weight transport, non-local plasticity, time-locking of layer updates, iterative equilibria, and (self-) supervisory or other feedback signals -- which were necessary in other approaches. Its increased efficiency and biological compatibility do not trade off accuracy compared to state-of-the-art bio-plausible learning, but rather improve it. With up to five hidden layers and an added linear classifier, accuracies on MNIST, CIFAR-10, STL-10, and ImageNet, respectively reach 99.4%, 80.3%, 76.2%, and 27.3%. In conclusion, SoftHebb shows with a radically different approach from BP that Deep Learning over few layers may be plausible in the brain and increases the accuracy of bio-plausible machine learning. Code is available at https://github.com/NeuromorphicComputing/SoftHebb.

연구 동기 및 목표

• 백프로파게이션, 피드백 신호, 오차 목표 없이 작동하는 딥 러닝 알고리즘을 개발하여, 백프로파게이션의 핵심 생물학적 및 계산적 제약을 해결하는 것.
• 백프로파게이션 및 기타 생물학적으로 타당한 학습 방법에 내재된 가중치 이동 문제, 국소적이지 않은 가소성, 업데이트 잠금 메커니즘을 제거하는 것.
• 국소적이고 시냅스 가소성 규칙에 기반한 비지도, 헤브 스타일의 학습만을 사용하여 고정밀도 딥 네트워크를 달성하는 것.
• 피드백이 없는 딥 러닝이 생물학적 및 뉴로모픽 컴퓨팅 환경에서 가능하고 정확한가를 입증하는 것.

제안 방법

• 최근 소프트 우승자-취하기(soft WTA) 네트워크에서의 헤브 학습 이론을 기반으로 한 다층 딥 러닝 알고리즘인 SoftHebb를 제안한다.
• 가중치 벡터의 크기에 따라 조정되는 범위 의존적 적응형 학습률을 도입하여 단위 노름으로의 안정적이고 빠른 수렴을 가능하게 한다.
• 국소적, 헤브 스타일의 가소성 규칙을 사용하여 시냅스 가중치를 전후 시냅스 활동에만 기반해 업데이트하며, 오차 신호나 전역 피드백이 필요로 하지 않는다.
• 각 층에서 소프트 WTA 메커니즘을 적용하여 뉴런 간 경쟁을 유도하고, 희박하고 분산된 표현을 촉진한다.
• 백프로파게이션 또는 목표 감독 없이 한 번의 비지도 사전 훈련 단계를 거친 후 선형 분류기를 사용해 최종 예측을 수행한다.
• 조정된 초모수를 사용하여 RePU 및 소프트맥스 활성화 함수를 적용하여 깊은 층에서의 표현 학습을 최적화한다.

실험 결과

연구 질문

• RQ1 피드백, 오차 신호, 목표 감독 없이도 딥 네트워크가 효과적으로 훈련될 수 있는가?
• RQ2 가중치 이동 문제와 국소적이지 않은 가소성을 제거하면서도 고정밀도 딥 러닝을 달성할 수 있는가?
• RQ3 소프트 WTA 네트워크에서의 헤브 학습이 백프로파게이션 수준의 계층적 특징 학습을 지원할 수 있는가?
• RQ4 제안된 범위 의존적 적응형 학습률이 깊은 네트워크에서 수렴성과 성능에 어떤 영향을 미치는가?
• RQ5 SoftHebb는 표준 비전 벤치마크에서 복잡한 계층적 특징을 학습하는 데 얼마나 높은 표현 능력을 가지는가?

주요 결과

• SoftHebb는 다섯 개의 은닉 층과 선형 분류기를 사용하여 MNIST에서 99.4%의 정확도를 달성하며, 대부분의 생물학적으로 타당한 방법을 능가한다.
• CIFAR-10에서 SoftHebb는 오직 한 번의 비지도 사전 훈련 에포크만으로 80.3%의 정확도를 달성하며, 백프로파게이션 이외의 모든 피드백 없는 방법을 능가한다.
• STL-10에서 SoftHebb는 76.2%의 정확도를 기록하여 더 깊고 복잡한 데이터셋에서도 강력한 일반화 능력을 보였다.
• ImageNet에서 SoftHebb는 27.3%의 Top-1 정확도를 달성하였으며, 피드백이 없는 비지도 방법로서는 놀라운 성과이다.
• 범위 의존적 적응형 학습률은 단위 노름 가중치 벡터로의 더 빠른 수렴을 가능하게 하며, 다양한 가중치 초기화 설정에서의 강건성까지 향상시킨다.
• SoftHebb의 더 깊은 층에서의 수용 영역은 점점 더 복잡한 구조를 보이며, 가보르 유사 필터와 다양한 무늬의 조합을 포함하여 계층적 특징 학습을 나타낸다.