[논문 리뷰] Evolving Culture vs Local Minima

Yoshua Bengio|arXiv (Cornell University)|2012. 03. 14.

Language and cultural evolution참고 문헌 45인용 수 21

한 줄 요약

이 논문은 인간 문화와 언어가 깊이 있는 인지 아키텍처 내에서 고수준 추상화를 학습할 때 발생하는 최적화 곤경—특히 국소 최소값—을 극복하기 위한 수단으로 진화했다고 제안한다. 개인 간 정신 개념의 전달과 재조합을 가능하게 함으로써, 문화는 효과적인 표현을 빠르게 발견하는 데 도움이 되는 간접적 지도 방식으로 작용하며, 뇌가 학습 과정에서 열악한 국소 최소값에서 벗어나도록 한다.

ABSTRACT

We propose a theory that relates difficulty of learning in deep architectures to culture and language. It is articulated around the following hypotheses: (1) learning in an individual human brain is hampered by the presence of effective local minima; (2) this optimization difficulty is particularly important when it comes to learning higher-level abstractions, i.e., concepts that cover a vast and highly-nonlinear span of sensory configurations; (3) such high-level abstractions are best represented in brains by the composition of many levels of representation, i.e., by deep architectures; (4) a human brain can learn such high-level abstractions if guided by the signals produced by other humans, which act as hints or indirect supervision for these high-level abstractions; and (5), language and the recombination and optimization of mental concepts provide an efficient evolutionary recombination operator, and this gives rise to rapid search in the space of communicable ideas that help humans build up better high-level internal representations of their world. These hypotheses put together imply that human culture and the evolution of ideas have been crucial to counter an optimization difficulty: this optimization difficulty would otherwise make it very difficult for human brains to capture high-level knowledge of the world. The theory is grounded in experimental observations of the difficulties of training deep artificial neural networks. Plausible consequences of this theory for the efficiency of cultural evolutions are sketched.

연구 동기 및 목표

• 깊이 있는 아키텍처에서 고수준 추상화를 학습하는 데 어려움이 생기는 이유를 국소 최소값과 같은 최적화 과제로 설명하는 것.
• 인간 문화와 언어가 학습을 이끄는 데 어떻게 기능하는지, 표현 학습을 향상시키는 진화적 메커니즘으로서의 역할을 탐구하는 것.
• 문화적 전파 방식이 간접적 지도로 작용하여 복잡한 비선형 학습 문제를 해결하는 데 있어 집단적 진전을 가능하게 한다는 가설을 제안하는 것.
• 언어가 공유 가능한 정신 개념의 공간에서 탐색을 가속화하는 데 어떻게 재조합 연산자로 작용하는지 탐구하는 것.
• 딥 러닝 연구에서의 통찰을 인간 인지, 언어, 문화적 전파의 진화와 연결하는 것.

제안 방법

• 딥 러닝 최적화 곤경(국소 최소값)이 문화와 언어의 진화적 출현과 어떻게 연결되는지 이론적 프레임워크를 제안한다.
• 기대 오차를 최소화하는 기준 함수에 대한 최적화 과정으로서 인간 학습을 모델링한다 (C(θ) = ∫P(z)E(θ,z)dz), 국소 최소값이 진전을 저해함을 설명한다.
• 다른 사람들로부터 온 '힌트'를 간접적 지도로 도입하여, 더 나은 고수준 표현으로의 학습을 이끄는 데 기여한다.
• 언어를 정신 개념의 재조합과 최적화를 가능하게 하는 수단으로 프레임화하여, 아이디어 공간의 효율적 탐색을 가능하게 한다.
• 학습자 집단의 컴퓨터 시뮬레이션을 통해 공유된 고수준 추상화(의사소통을 통한)가 고립된 학습보다 더 빠른 수렴을 이끌어내는지 테스트한다.
• 메믹 알고리즘과 문화적 진화와의 유사성을 제시하며, 개방적이고 분산된 아이디어 교환 체계가 집단 지능을 향상시킨다는 것을 시사한다.

실험 결과

연구 질문

• RQ1 왜 깊이 있는 아키텍처에서 고수준 추상화를 학습하는 것이 특히 어려운가, 국소 최소값은 이 곤경에서 어떤 역할을 하는가?
• RQ2 의사소통을 통한 아이디어의 문화적 전파가 학습 과정에서 국소 최소값을 극복하는 데 어떻게 기여하는가?
• RQ3 언어는 정신 개념의 진화적 재조합 연산자로서 어떤 방식으로 작용하는가?
• RQ4 의사소통을 통해 고수준 추상화를 공유하는 학습자 집단이 고립된 학습보다 더 나은 일반화 성능을 달성할 수 있는가?
• RQ5 사회 구조와 의사소통 도구는 복잡한 인지 문제를 해결하는 데 있어 문화적 진화의 효율성에 어떻게 영향을 미치는가?

주요 결과

• 깊이 있는 아키텍처의 최적화 과정에서 국소 최소값의 존재는 고수준 추상화 학습에 핵심적인 장벽을 만든다.
• 의사소통을 통한 아이디어의 문화적 전파가 간접적 지도로 작용하여, 타인의 통찰을 활용해 열악한 국소 최소값에서 벗어나도록 돕는다.
• 언어는 정신 개념의 효율적 재조합과 최적화를 가능하게 하여, 공유 가능한 아이디어의 공간에서의 탐색을 가속화한다.
• 컴퓨터 시뮬레이션 결과, 고수준 추상화를 공유하는 집단은 고립된 학습자보다 더 빠르게 더 나은 해답으로 수렴함을 보이며, 전체 집단의 적합도가 향상된다.
• 아이디어 탐색의 다양성을 촉진하고 고품질의 멤을 신속하게 확산시키는(예: 개방형 접근과 분산 평가 시스템을 통해) 사회 구조는 문화적 진화의 효율성을 높인다.
• 이 이론은 문화적 진화가 지능의 부산물이 아니라, 특히 깊이 있는 아키텍처에서 개인 학습의 한계를 극복하는 데 핵심적인 역할을 한다는 것을 암시한다.