[논문 리뷰] The Inevitability of Probability: Probabilistic Inference in Generic Neural Networks Trained with Non-Probabilistic Feedback

A. Emin Orhan, Wei Ji|arXiv (Cornell University)|2016. 01. 12.

Neural Networks and Applications인용 수 5

한 줄 요약

이 논문은 비확률적 피드백을 사용하여 단순한 오차 기반 학습으로 훈련된 일반적인 피드포워드 및 순환 신경망이 심리물리적 과제에서 near-optimal 확률적 추론 능력을 자연스럽게 발달시킬 수 있음을 보여준다. 핵심 발견은 은닉층이 희박성 기반의 확률적 인구 코드를 형성하여, 매우 작은 네트워크 크기로도 강력한 일반화 능력을 갖춘 견고한 추론을 가능하게 한다. 이는 명시적인 확률적 감독 없이도 가능하다.

ABSTRACT

Humans and other animals have been shown to perform near-optimal probabilistic inference in a wide range of psychophysical tasks. On the face of it, this is surprising because optimal probabilistic inference in each case is associated with highly non-trivial behavioral strategies. Yet, typically subjects receive little to no feedback during most of these tasks and the received feedback is not explicitly probabilistic in nature. How can subjects learn such non-trivial behavioral strategies from scarce non-probabilistic feedback? We show that generic feed-forward and recurrent neural networks trained with a relatively small number of non-probabilistic examples using simple error-based learning rules can perform near-optimal probabilistic inference in standard psychophysical tasks. The hidden layers of the trained networks develop a novel sparsity-based probabilistic population code. In all tasks, performance asymptotes at very small network sizes, usually on the order of tens of hidden units, due to the low computational complexity of the typical psychophysical tasks. For the same reason, the trained networks also display remarkable generalization to stimulus conditions not seen during training. We further show that in a probabilistic binary categorization task involving arbitrary categories where both human and monkey subjects have been shown to perform probabilistic inference, a monkey subject's performance (but not human subjects' performance) is consistent with an error-based learning rule. Our results suggest that near-optimal probabilistic inference in standard psychophysical tasks emerges naturally and robustly in generic neural networks trained with error-based learning rules, even when neither the training objective nor the training examples are explicitly probabilistic, and that these types of networks can be used as simple plausible neural models of probabilistic inference.

연구 동기 및 목표

• 비확률적 피드백으로 훈련함에도 불구하고 신경망이 near-optimal 확률적 추론을 어떻게 달성할 수 있는지 조사하는 것.
• 오차 기반 학습 규칙이 일반적인 신경망 아키텍처에서 확률적 추론을 유도할 수 있는지 확인하는 것.
• 훈련된 네트워크의 은닉층에서 희박성 기반의 확률적 인구 코드가 어떻게 나타나는지 탐색하는 것.
• 훈련된 네트워크가 새로운 자극 조건에 대해 어떻게 일반화하는지 평가하는 것.
• 이진 분류 과제에서 영장류(원숭이) 및 인간의 행동 데이터와 모델 예측을 비교하는 것.

제안 방법

• 비확률적 예제를 사용하여 표준 오차 기반 학습 규칙으로 피드포워드 및 순환 신경망을 훈련하는 것.
• 은닉층에서 확률적 불확실성을 표현하기 위해 희박성 기반의 코딩 체계를 사용하는 것.
• 표준 심리물리적 과제에서 확률적 추론이 요구되는 네트워크 성능을 평가하는 것.
• 계산 효율성을 평가하기 위해 다양한 네트워크 크기에서 네트워크 행동을 분석하는 것.
• 훈련 중에 나타나지 않은 새로운 자극 조건으로의 일반화를 테스트하는 것.
• 이진 분류 과제에서 인간 및 원숭이 참가자의 행동 데이터와 모델 예측을 비교하는 것.

실험 결과

연구 질문

• RQ1 일반적인 신경망이 비확률적 피드백으로 훈련되어도 near-optimal 확률적 추론을 수행할 수 있는가?
• RQ2 확률적 추론을 지원하기 위해 은닉층에서 어떤 내부 표현(코딩)이 나타나는가?
• RQ3 이러한 네트워크가 최적의 성능를 달성하면서도 얼마나 작아질 수 있는가?
• RQ4 이러한 네트워크가 새로운 자극에 대해 얼마나 잘 일반화되는가?
• RQ5 관찰된 행동이 영장류에서 오차 기반 학습 규칙과 일치하는가?

주요 결과

• 비확률적 피드백과 훈련 목표에도 불구하고, 훈련된 네트워크는 심리물리적 과제에서 near-optimal 확률적 추론을 달성한다.
• 과제의 복잡도가 낮기 때문에, 네트워크 크기가 매우 작아도 성능이 점 渐진에 도달한다. 일반적으로 은닉 유닛 수가 수십 개 수준이다.
• 은닉층에서 희박성 기반의 확률적 인구 코드가 자발적으로 나타나며, 이는 불확실성을 인코딩한다.
• 훈련 중에 보지 못한 자극 조건으로도 네트워크가 강력한 일반화를 보인다.
• 원숭이 참가자가 수행한 확률적 분류 과제에서의 행동은 제안된 오차 기반 학습 규칙과 일치하지만, 인간의 행동과는 일치하지 않는다.
• 결과적으로, 생물학적으로 타당한 학습 규칙 하에서 확률적 추론이 신경망 내에서 자연스럽게 유도될 수 있음을 시사한다.