[논문 리뷰] Identifying Learning Rules From Neural Network Observables

Aran Nayebi, Sanjana Srivastava외 2명|arXiv (Cornell University)|2020. 10. 22.

Neural Networks and Applications참고 문헌 44인용 수 7

한 줄 요약

이 논문은 학습 규칙을 식별하기 위해 가중치, 활성도 및 계층별 활동 변화의 집합 통계를 사용하는 가상의 실험 프레임워크를 제안한다. 인공 신경망에서 시뮬레이션된 신경과학 실험을 통해 단순한 분류기들이 학습 규칙을 구분할 수 있음을 보여주며, 특히 활성도 패턴에 의존할 경우 측정 노이즈와 단위 부족 샘플링에 대해 강건함을 입증한다. 이는 생물학적 시스템에서 학습 규칙 식별을 위해 약 100–500개의 뉴런에 대한 전기생리학적 기록이 충분할 수 있음을 시사한다.

ABSTRACT

The brain modifies its synaptic strengths during learning in order to better adapt to its environment. However, the underlying plasticity rules that govern learning are unknown. Many proposals have been suggested, including Hebbian mechanisms, explicit error backpropagation, and a variety of alternatives. It is an open question as to what specific experimental measurements would need to be made to determine whether any given learning rule is operative in a real biological system. In this work, we take a "virtual experimental" approach to this problem. Simulating idealized neuroscience experiments with artificial neural networks, we generate a large-scale dataset of learning trajectories of aggregate statistics measured in a variety of neural network architectures, loss functions, learning rule hyperparameters, and parameter initializations. We then take a discriminative approach, training linear and simple non-linear classifiers to identify learning rules from features based on these observables. We show that different classes of learning rules can be separated solely on the basis of aggregate statistics of the weights, activations, or instantaneous layer-wise activity changes, and that these results generalize to limited access to the trajectory and held-out architectures and learning curricula. We identify the statistics of each observable that are most relevant for rule identification, finding that statistics from network activities across training are more robust to unit undersampling and measurement noise than those obtained from the synaptic strengths. Our results suggest that activation patterns, available from electrophysiological recordings of post-synaptic activities on the order of several hundred units, frequently measured at wider intervals over the course of learning, may provide a good basis on which to identify learning rules.

연구 동기 및 목표

• 신경망의 아키텍처나 손실 함수에 대한 사전 지식 없이도 집합 신경 관측치에서 학습 규칙을 식별할 수 있는지 여부를 규명하는 것.
• 학습 규칙 식별에 가장 효과적인 신경 측정치—가중치, 활성도 또는 활동 변화—유형을 평가하는 것.
• 경로 부족 샘플링 및 측정 노이즈와 같은 현실적인 실험 제약 조건 하에서 이러한 식별 방법의 강건성을 평가하는 것.
• 생물학적으로 타당한 학습 규칙을 구분하는 데 가장 정보가 많은 관측치 통계를 특정하는 것.
• 미래의 체내 실험 설계를 안내하기 위한 계산 프레임워크를 제공하는 것.

제안 방법

• 다양한 신경망 아키텍처, 손실 함수, 학습 규칙 하이퍼파ram터, 가중치 초기화 조건을 포함한 대규모 학습 경로 데이터셋을 시뮬레이션한다.
• 시냅스 가중치, 신경 활성도, 즉각적인 계층별 활동 변화의 세 가지 관측치에서 집합 통계를 추출한다.
• 이 관측치들만을 기반으로 기반 학습 규칙을 예측하기 위해 선형 및 비선형 분류기(랜덤 포레스트 포함)를 훈련한다.
• 단위를 부분적으로 샘플링하고 학습 경로의 시간 포인트에 대한 액세스를 제한하여 실험적 현실성을 도입한다.
• 훈련 중에 볼 수 없었던 아키텍처와 학습 커리큘럼에서의 일반화 성능을 평가한다.
• 통제된 편향을 통해 다양한 관측치가 측정 노이즈와 부족 샘플링에 얼마나 강건한지 비교한다.

실험 결과

연구 질문

• RQ1 신경망 아키텍처나 손실 함수에 대한 지식 없이도 집합 통계를 기반으로 학습 규칙을 신뢰성 있게 식별할 수 있는가?
• RQ2 실제 측정 제약 조건 하에서, 가중치, 활성도 또는 활동 변화 중 어떤 관측치가 학습 규칙 식별에 가장 강건한 신호를 제공하는가?
• RQ3 측정의 시간 간격이 경로 부족 샘플링 조건에서 학습 규칙 식별 정확도에 어떤 영향을 미치는가?
• RQ4 측정 노이즈와 단위 부족 샘플링이 학습 규칙 식별 성능에 얼마나 심각하게 악영향을 미치는가?
• RQ5 활성도 기반 통계는 볼 수 없었던 신경망 아키텍처와 학습 커리큘럼으로 일반화 가능한가?

주요 결과

• 아키텍처나 손실 함수에 대한 지식 없이도, 가중치, 활성도 또는 계층별 활동 변화의 집합 통계만으로도 다양한 학습 규칙 클래스를 신뢰성 있게 분리할 수 있다.
• 단순한 비선형 분류기(Random Forest)가 세 관측치 유형 모두에서 유사한 성능을 기록함으로써, 각각이 충분한 분류 정보를 제공하고 있음을 시사한다.
• 활성도 기반 통계는 가중치 기반 통계보다 단위 부족 샘플링과 측정 노이즈에 훨씬 더 강건하며, 작은 노이즈 수준에서도 가중치 기반 통계는 빠르게 성능이 떨어진다.
• 시간 간격이 넓은 측정치는 연속적인 측정치보다 경로 부족 샘플링에 더 강건하며, 특히 활성도 패턴에서 두드러진다.
• 시험용 아키텍처와 학습 커리큘럼으로도 일반화 성능가 유지됨을 확인하여, 이 방법이 특정 네트워크 구조나 작업에 과적합되지 않았음을 시사한다.
• 학습 중에 더 넓은 간격으로 샘플링된 약 100–500개의 뉴런의 시냅스 후 활동 전기생리학적 기록이 생물학적 시스템에서 학습 규칙 식별을 위한 실용적인 기반을 제공할 수 있다.