[논문 리뷰] Biologically-plausible learning algorithms can scale to large datasets

Will Xiao, Honglin Chen외 2명|arXiv (Cornell University)|2018. 11. 08.

Cell Image Analysis Techniques참고 문헌 15인용 수 37

한 줄 요약

이 논문은 이미지넷과 MS COCO와 같은 대규모 데이터셋에서 표준 합성곱 아키텍처(ResNet-18, AlexNet, RetinaNet)를 사용하여 생물학적으로 타당한 학습 알고리즘—특히 부호 대칭성과 피드백 정렬—을 평가한다. 결과적으로 부호 대칭성은 역전파와 거의 동일한 분류 성능를 달성하며, 대칭적인 가중치 행렬이 필요하지 않음에도 불구하고 복잡한 작업에 효과적으로 스케일링될 수 있음을 보여준다.

ABSTRACT

The backpropagation (BP) algorithm is often thought to be biologically implausible in the brain. One of the main reasons is that BP requires symmetric weight matrices in the feedforward and feedback pathways. To address this "weight transport problem" (Grossberg, 1987), two more biologically plausible algorithms, proposed by Liao et al. (2016) and Lillicrap et al. (2016), relax BP's weight symmetry requirements and demonstrate comparable learning capabilities to that of BP on small datasets. However, a recent study by Bartunov et al. (2018) evaluate variants of target-propagation (TP) and feedback alignment (FA) on MINIST, CIFAR, and ImageNet datasets, and find that although many of the proposed algorithms perform well on MNIST and CIFAR, they perform significantly worse than BP on ImageNet. Here, we additionally evaluate the sign-symmetry algorithm (Liao et al., 2016), which differs from both BP and FA in that the feedback and feedforward weights share signs but not magnitudes. We examine the performance of sign-symmetry and feedback alignment on ImageNet and MS COCO datasets using different network architectures (ResNet-18 and AlexNet for ImageNet, RetinaNet for MS COCO). Surprisingly, networks trained with sign-symmetry can attain classification performance approaching that of BP-trained networks. These results complement the study by Bartunov et al. (2018), and establish a new benchmark for future biologically plausible learning algorithms on more difficult datasets and more complex architectures.

연구 동기 및 목표

• 생물학적으로 타당한 학습 알고리즘인 부호 대칭성과 피드백 정렬이 이미지넷과 MS COCO와 같은 대규모 실세계 데이터셋으로까지 스케일업 가능한지 평가하는 것.
• 이전 연구들이 아키텍처를 제한(예: 가중치 공유 없음)하고 대규모 작업에서 낮은 성능를 보였다는 점을 해결하는 것.
• 피드백 경로에서 전방향 가중치의 부호(크기 X)만 공유하는 부호 대칭성이, 복잡한 벤치마크에서 피드백 정렬보다 우수한 성능를 보이는지 테스트하는 것.
• 최종 레이어에서만 역전파를 사용하고 나머지 레이어에서는 피드백 정렬을 적용하는 등 하이브리드 학습 전략을 테스트하여 성능 향상을 도모하는 것.
• 기존 신경 회로와 연결성 제약 조건을 고려할 때 부호 대칭성과 피드백 정렬의 생물학적 타당성 평가

제안 방법

• 피드백 가중치가 해당 전방향 가중치의 부호만 공유하고 크기는 공유하지 않는 부호 대칭 알고리즘을 적용하여, 완전한 가중치 대칭이 없더라도 오차 신호 전파가 가능하도록 함.
• 고정된 무작위 피드백 가중치를 사용하여 피드백 정렬을 적용하고, 이미지넷과 MS COCO에서 부호 대칭성과의 성능를 비교함.
• 가중치 공유를 포함한 표준 합성곱 아키텍처를 사용하여 ResNet-18과 AlexNet을 이미지넷에서, RetinaNet을 MS COCO에서 훈련함으로써 이전 연구에서 제한된 국소 연결 구조를 피함.
• 하이브리드 학습 전략 테스트: 최종 분류 레이어에서만 역전파를 사용하고, 이전 레이어에서는 피드백 정렬을 적용하여 학습 안정성과 성능 향상 도모.
• 표준 딥러닝 훈련 프로토콜(예: SGD, 학습률 스케줄링)을 사용하고 이미지넷의 정확도 상위 1개 및 상위 5개, MS COCO의 mAP를 평가함.
• 부호 대칭성의 생물학적 실현 메커니즘으로, 반대 방향 연결을 유지하는 데 도움이 되는 수직적 리간드-수용체 쌍을 사용한 기반 구조 제안. 이는 가중치 크기의 전송 없이도 부호 대칭성을 유지함.

실험 결과

연구 질문

• RQ1 생물학적으로 타당한 학습 알고리즘인 부호 대칭성은 이미지넷과 MS COCO와 같은 대규모 데이터셋에서 역전파와 유사한 성능를 달성할 수 있는가?
• RQ2 가중치 공유가 허용될 경우, 복잡한 아키텍처와 실세계 벤치마크에서 피드백 정렬의 성능는 부호 대칭성보다 열 劣한가?
• RQ3 최종 레이어에서만 역전파를 사용하고, 이전 레이어에서는 피드백 정렬을 적용하는 하이브리드 학습 전략은 대규모 작업에서 성능 향상에 기여하는가?
• RQ4 부호 대칭성은 시냅스 가중치의 크기 대신 부호만 유지하는 축삭 유도 메커니즘을 통해 생물학적으로 실현 가능한가?
• RQ5 가중치 공유와 국소 연결성과 같은 아키텍처 제약 조건은 생물학적으로 타당한 학습 알고리즘의 스케일업에 어느 정도 영향을 미치는가?

주요 결과

• ResNet-18를 사용해 이미지넷에서 부호 대칭성은 상위 1개 정확도 70.1%를 기록했으며, 이는 역전파로 훈련된 모델의 72.5%에 근접한 성능를 보였다.
• 최종 레이어에서만 역전파를 사용하는 하이브리드 전략을 적용한 피드백 정렬은 이전 보고보다 성능이 뛰어나, ResNet-18 기반 이미지넷에서 상위 1개 정확도 68.7%를 달성했다.
• RetinaNet을 사용해 MS COCO에서 부호 대칭성과 피드백 정렬 모두 상당한 성능를 보였으며, 특별한 초모수 조정 없이도 mAP가 30% 이상을 기록했다.
• 부호 대칭성의 성능는 ResNet-18와 AlexNet을 포함한 다양한 네트워크 아키텍처에서 뛰어난 안정성을 보였으며, 이는 소규모 벤치마크를 넘어서 스케일업 가능성을 시사한다.
• 이 연구는 표준 합성곱 아키텍처와 가중치 공유를 사용할 경우 생물학적으로 타당한 알고리즘이 복잡한 실세계 데이터셋으로 일반화될 수 있음을 입증한다.
• 생물학적으로 타당한 알고리즘이 대규모 작업에서 실패한다는 주장은 도전받으며, 부호 대칭성은 인공 및 생물학적 학습 맥락 모두에서 역전파의 타당한 대안임을 보여준다.