[논문 리뷰] Connectionism, Complexity, and Living Systems: a comparison of Artificial and Biological Neural Networks

Krishna Katyal, Jesse Parent외 1명|arXiv (Cornell University)|2021. 03. 14.

Neural Networks and Applications인용 수 5

한 줄 요약

이 논문은 인공신경망(ANNs)과 생물학적 신경망(BNNs)을 비교하여 BNNs로부터 유래한 핵심 원칙—표현적 복잡성, 복잡한 네트워크 구조/에너지 특성, 내구성 있는 기능—이 더 유연하고 몸체 기반인 ANNs의 개발을 이끌 수 있음을 밝힌다. 이는 형태학적 및 감각 통합을 통해 ANNs의 역동성, 내구성, 생명체 같은 행동을 향상시키기 위해 이러한 생물학적 원칙을 통합할 것을 제안한다.

ABSTRACT

While Artificial Neural Networks (ANNs) have yielded impressive results in the realm of simulated intelligent behavior, it is important to remember that they are but sparse approximations of Biological Neural Networks (BNNs). We go beyond comparison of ANNs and BNNs to introduce principles from BNNs that might guide the further development of ANNs as embodied neural models. These principles include representational complexity, complex network structure/energetics, and robust function. We then consider these principles in ways that might be implemented in the future development of ANNs. In conclusion, we consider the utility of this comparison, particularly in terms of building more robust and dynamic ANNs. This even includes constructing a morphology and sensory apparatus to create an embodied ANN, which when complemented with the organizational and functional advantages of BNNs unlocks the adaptive potential of lifelike networks.

연구 동기 및 목표

• 현재의 인공신경망(ANNs)에 부족한 생물학적 신경망(BNNs)의 핵심 원칙을 식별하는 것.
• BNNs의 표현적 복잡성, 네트워크 구조/에너지 특성, 및 功能적 내구성 원리가 더 적응형 ANNs의 설계에 어떻게 기여할 수 있는지 분석하는 것.
• 형태학적 및 감각 입력을 갖춘 몸체 기반 시스템에 ANNs를 통합하는 프레임워크를 제안하는 것. 이는 BNN의 조직 방식에서 영감을 받는다.
• 생물학적 영감을 바탕으로 더 역동적이고 생명체 같은 적응성을 보이는 인공신경망의 개발을 촉진하는 것.

제안 방법

• ANNs와 BNNs 간의 구조적 및 기능적 차이를 분석하여 지침 원리를 도출하는 것.
• 신경계에서의 정보 인코딩 능력 측정 척도로 표현적 복잡성을 집중적으로 고려하는 것.
• BNNs의 네트워크 수준 에너지 특성과 비선형 역학을 분석하여 더 효율적이고 내구성 있는 ANN 아키텍처 설계에 기여하는 것.
• 감각-운동 피드백 루프와 물리적 형태를 ANN 모델에 통합하여 몸체 기반 성질을 실현하는 것.
• BNNs의 원칙을 활용해 외부 요동과 노이즈에 대한 내구성을 향상시킨 ANNs의 설계를 이끄는 것.
• 순수 계산 모델에서 몸체 기반, 적응형 신경계 시스템으로의 전환을 주장하는 것. 이는 생물학적 시스템에서 영감을 받는다.

실험 결과

연구 질문

• RQ1 생물학적 신경망의 구조적 및 기능적 특성은 인공신경망과 어떻게 다를까?
• RQ2 생물학적 신경망으로부터 어떤 원리가 인공신경망의 강건성과 적응성 향상에 이식될 수 있을까?
• RQ3 생물학적 시스템의 표현적 복잡성은 더 강력한 인공신경망 설계에 어떻게 기여할 수 있을까?
• RQ4 감각 입력이 있는 물리적 몸체에 인공신경망을 통합하면 기능적 성능가 어떻게 향상될 수 있을까?
• RQ5 네트워크 수준의 에너지 특성과 비선형 역학은 생물학적 신경망에서 강건한 기능을 가능하게 하는 데 어떤 역할을 하는가? 이를 인공 시스템에서 어떻게 모방할 수 있을까?

주요 결과

• 생물학적 신경망은 더 높은 표현적 복잡성을 보이며, 더 풍부한 정보 처리 능력을 제공한다.
• BNNs의 비선형 역학과 에너지 효율적인 신호 전달을 갖춘 복잡한 네트워크 구조는 기능적 내구성에 크게 기여한다.
• BNNs의 내구성 있는 기능은 표준 ANNs에 존재하지 않는 분산적, 적응형, 자율 조직화 네트워크 특성에서 기인한다.
• 감각 피드백이 있는 물리적 형태에 ANNs를 통합하면 살아있는 시스템에서 관찰되는 것과 유사한 적응 잠재력을 해방시킬 수 있다.
• BNN의 원칙을 ANNs에 통합함으로써 더 역동적이고 내구성 있으며 생명체 같은 인공지능 시스템의 개발로 이르는 길이 열린다.