[논문 리뷰] Cognitive systems evolve complex representations for adaptive behavior

Lars Marstaller, Arend Hintze외 1명|arXiv (Cornell University)|2012. 06. 25.

Neural dynamics and brain function참고 문헌 48인용 수 5

한 줄 요약

이 논문은 적응 시스템 내 인지적 표현을 정량화하기 위해 정보이론적 측도 R을 제안한다. 유전적 알고리즘을 사용해 순환 신경망과 숨은 마르코프 게이트 네트워크를 진화시켜, 표현 능력 R이 진화 시간과 개별 에이전트의 수명 기간 동안 증가함을 보여주며, 성공적인 인지 시스템은 환경을 효과적으로 모델링하기 위해 양의 R을 유지해야 한다는 점을 시사한다.

ABSTRACT

Representations are internal models of the world that provide context to a sensory stream and are formed over evolutionary time as well as learned. We argue here that representations are the expected consequence of an adaptive process, give a formal definition of representation based on information theory, and quantify it using our new measure R. To measure how R changes over time, we evolve two types of networks—a recurrent artificial neural network and a network of hidden Markov gates—to solve a categorization task using a Genetic Algorithm. We find that the capacity to represent increases during evolutionary adaptation and that representations build up during the lifetime of these agents. We examine the concepts that are being represented, how they are logically encoded in the networks, and how they form as an agent behaves to solve a task. We conclude that any successful cognitive system that represents its environment within internal states should have a positive R.

연구 동기 및 목표

• 정보 이론을 사용해 인지 시스템 내 표현 개념을 형식화하기 위해.
• 시스템이 내부 표현을 형성할 수 있는 능력을 측정할 수 있는 정량적 측도 R을 개발하기 위해.
• 적응 에이전트의 진화적 및 발달적 과정에서 표현이 시간에 따라 어떻게 변화하는지 조사하기 위해.
• 작업 수행 행동 중 신경망 내에서 개념의 논리적 인코딩과 출현 방식을 분석하기 위해.

제안 방법

• 정보 이론을 사용해 표현을 형식적으로 정의하고, 표현 능력의 측도로 R을 설정하기 위해.
• 분류 작업을 해결하기 위해 진화적 알고리즘을 사용해 순환 신경망과 숨은 마르코프 게이트 네트워크의 두 아키텍처를 진화시키기 위해.
• 진화 및 개별 에이전트 수명 기간 동안의 R 변화를 측정하여 표현 복잡도의 발달을 추적하기 위해.
• 진화된 에이전트의 내부 상태를 분석하여 특정 개념이 어떻게 인코딩되고, 행동 상호작용을 통해 표현이 어떻게 출현하는지 파악하기 위해.
• 정보 이론적 도구를 사용해 감각 입력과 내부 상태 간의 상호정보량을 정량화하여 R의 기초를 마련하기 위해.
• 다양한 네트워크 유형 간 R의 증가를 비교하여 아키텍처가 표현 형성에 미치는 영향을 평가하기 위해.

실험 결과

연구 질문

• RQ1 인지 시스템의 진화적 적응 과정에서 표현 능력 측도 R은 어떻게 변화하는가?
• RQ2 대체로 사전에 설정된 표현이 아니라, 에이전트 수명 기간 동안 표현이 얼마나 축적되는가?
• RQ3 진화된 네트워크의 내부 상태에 포함된 개념의 논리적 구조는 무엇인가?
• RQ4 다른 네트워크 아키텍처(순환 네트워크 대비 숨은 마르코프 게이트 네트워크)는 R의 발달에 어떤 영향을 미치는가?
• RQ5 작업 성능과 인지 시스템에서 양의 R이 출현하는 관계는 무엇인가?

주요 결과

• R 측도는 진화적 적응 과정에서 유의미하게 증가하여, 인지 시스템의 표현 능력 향상이 이루어지고 있음을 나타낸다.
• 개별 에이전트 수명 기간 동안도 표현 능력 R이 증가함을 보여주며, 표현이 정적일 것이 아니라 상호작용을 통해 발달된다는 점을 시사한다.
• 진화된 네트워크의 내부 상태는 환경와의 행동 상호작용에서 유래한 논리적으로 일관된 개념을 인코딩하고 있다.
• 순환 신경망과 숨은 마르코프 게이트 네트워크 모두 시간이 지남에 따라 R이 증가함을 보이며, 표현 형성이 적응 시스템의 일반적 특성임을 시사한다.
• 성공적인 인지 시스템은 환경을 효과적으로 모델링하고 적응하기 위해 반드시 양의 R을 유지해야 한다는 점이 확인된다.
• 복잡한 표현의 출현은 시스템의 분류 작업 해결 능력과 직접적으로 관련되어 있으며, R은 표현의 정교함을 신뢰성 있게 나타내는 지표로 기능한다.