[논문 리뷰] Collective Intelligence for Deep Learning: A Survey of Recent Developments

David Ha, Yujin Tang|arXiv (Cornell University)|2021. 11. 29.

Cellular Automata and Applications참고 문헌 54인용 수 6

한 줄 요약

이 종합 검토는 자기조직화, 군집 행동, 잠재적 동역학과 같은 집단지능 원리가 딥러닝의 근본적 한계—저항성 부족, 적응성 부족, 고정된 환경 가정—을 어떻게 해결할 수 있는지 탐구한다. 복잡계 이론의 통찰을 통합함으로써, 분산형이고 상호작용 기반의 학습 아키텍처를 통해 더 견고하고 적응력 있으며 확장 가능한 AI 시스템으로의 패러다임 전환을 제안한다.

ABSTRACT

In the past decade, we have witnessed the rise of deep learning to dominate the field of artificial intelligence. Advances in artificial neural networks alongside corresponding advances in hardware accelerators with large memory capacity, together with the availability of large datasets enabled practitioners to train and deploy sophisticated neural network models that achieve state-of-the-art performance on tasks across several fields spanning computer vision, natural language processing, and reinforcement learning. However, as these neural networks become bigger, more complex, and more widely used, fundamental problems with current deep learning models become more apparent. State-of-the-art deep learning models are known to suffer from issues that range from poor robustness, inability to adapt to novel task settings, to requiring rigid and inflexible configuration assumptions. Collective behavior, commonly observed in nature, tends to produce systems that are robust, adaptable, and have less rigid assumptions about the environment configuration. Collective intelligence, as a field, studies the group intelligence that emerges from the interactions of many individuals. Within this field, ideas such as self-organization, emergent behavior, swarm optimization, and cellular automata were developed to model and explain complex systems. It is therefore natural to see these ideas incorporated into newer deep learning methods. In this review, we will provide a historical context of neural network research's involvement with complex systems, and highlight several active areas in modern deep learning research that incorporate the principles of collective intelligence to advance its current capabilities. We hope this review can serve as a bridge between the complex systems and deep learning communities.

연구 동기 및 목표

• 현재 딥러닝의 핵심적 한계, 즉 취약성, 일반화 능력 부족, 유연하지 못한 설정 가정 등을 특정하기.
• 자기조직화, 부상, 분산형 상호작용을 강조하는 집단지능이 이러한 한계를 어떻게 해결할 수 있는지 검토하기.
• 공학 기반 신경망 설계에서 더 적응력 있고 부상적이며 내구성이 있는 학습 시스템으로의 전환을 위한 복잡계 연구와 딥러닝 간 격차를 메우기.
• 자기대시, 모듈형 에이전트, 세포자동체 기반 아키텍처와 같은 집단지능 메커니즘을 통합한 최근 딥러닝의 진전을 조사하기.
• 공학 기반 신경망 설계에서 더 적응력 있고 부상적이며 내구성이 있는 학습 시스템으로의 전환을 주장하기.

제안 방법

• 자기조직화, 군집 최적화, 세포자동체를 포함한 집단지능 개념을 통합한 최근 딥러닝 연구를 종합하기.
• 다중 에이전트 상호작용을 가능하게 하는 아키텍처를 분석하기, 예를 들어 다중 에이전트 강화학습 및 자기대시 학습.
• 생물학적 및 물리적 시스템에서 영감을 얻은 신경망의 부상 행동을 검토하기, 모듈형 및 재구성 가능한 에이전트 설계 포함.
• 중앙 집중식 제어나 고정된 아키텍처 없이 국소적 상호작용을 통해 견고성과 적응성을 향상시키는 방법 검토하기.
• 신체화된 인지와 환경 상호작용이 명시적 재학습 없이도 적응적 행동을 가능하게 하는 역할 강조하기.
• 특히 확장 가능하고 일반화 가능한 AI의 맥락에서, 딥러닝과 복잡계 이론 간의 연결을 맵핑하기.

실험 결과

연구 질문

• RQ1 집단지능 원리가 딥러닝 모델의 견고성과 적응성에 어떻게 기여할 수 있는가?
• RQ2 다중 에이전트 시스템에서의 자기조직화 및 부상 행동은 표준 학습 분포를 초월해 일반화 능력을 어떻게 향상시키는가?
• RQ3 딥러닝에서 군집 행동이나 세포자동체와 같은 집단지능 현상과 가장 유사한 아키텍처 및 학습 메커니즘은 무엇인가?
• RQ4 딥러닝은 어떻게 고정된 공 ing된 아키텍처를 넘어서 더 다이나믹하고 자기조직화되는 시스템으로의 전환을 이룰 수 있는가?
• RQ5 분산형이고 국소적인 상호작용은 인공 에이전트에서 확장 가능하고 일반화 가능한 지능을 어떻게 가능하게 하는가?

주요 결과

• 자기조직화와 부상 행동과 같은 집단지능 원리는 적대적 변형과 분포 이동에 대한 모델의 견고성을 크게 향상시킬 수 있다.
• 자기대시와 다중 에이전트 학습 기반의 학습 방식은 명시적 보상 설계나 고정된 아키텍처 없이도 에이전트가 적응 전략을 개발할 수 있도록 한다.
• 생물학적 모듈성에서 영감을 얻은 모듈형 및 재구성 가능한 에이전트 시스템은 점진적 적응과 자가 조립을 가능하게 하여 고정 아키텍처 모델의 한계를 극복한다.
• 세포자동체 기반 아키텍처는 국소적이고 규칙 기반의 상호작용을 통해 부상적 패턴 형성과 계산을 보여주며, 확장 가능한 학습을 위한 새로운 길을 제시한다.
• 신체화된 인지와 환경 상호작용의 통합은 재학습 없이도 새로운 작업 환경에 일반화할 수 있도록 한다.
• 현재 딥러닝 시스템은 공학적으로 집약된 고정된 파ip라인에 의존하는 경우가 많다; 집단지능은 더 적응력 있고 내구성 있으며 일반화 가능한 AI 시스템으로의 길을 제시한다.