[논문 리뷰] Synergetic Learning Systems: Concept, Architecture, and Algorithms

Ping Guo, Qian Yin|arXiv (Cornell University)|2020. 05. 31.

Neural Networks and Applications참고 문헌 34인용 수 10

한 줄 요약

이 논문은 자연의 자율 조직화 및 진화 원리를 영감으로 삼아, 다수의 모델이 협동-경쟁 학습을 통해 공진화함으로써 제어 가능한 잠재 지능을 달성하는 인공지능 프레임워크인 시너지 학습 시스템(SLS)을 제안한다. 이 시스템은 자유 에너지 최소화와 통계역학을 활용하여 안정적이고 해석 가능하며 일반화 가능한 해답으로의 진화를 이끈다.

ABSTRACT

Drawing on the idea that brain development is a Darwinian process of ``evolution + selection'' and the idea that the current state is a local equilibrium state of many bodies with self-organization and evolution processes driven by the temperature and gravity in our universe, in this work, we describe an artificial intelligence system called the ``Synergetic Learning Systems''. The system is composed of two or more subsystems (models, agents or virtual bodies), and it is an open complex giant system. Inspired by natural intelligence, the system achieves intelligent information processing and decision-making in a given environment through cooperative/competitive synergetic learning. The intelligence evolved by the natural law of ``it is not the strongest of the species that survives, but the one most responsive to change,'' while an artificial intelligence system should adopt the law of ``human selection'' in the evolution process. Therefore, we expect that the proposed system architecture can also be adapted in human-machine synergy or multi-agent synergetic systems. It is also expected that under our design criteria, the proposed system will eventually achieve artificial general intelligence through long term coevolution.

연구 동기 및 목표

• 딥 러닝의 정체성과 한계, 즉 낮은 해석 가능성, 공통 이해 부족, 불안정성 문제를 해결한다.
• 자율 조직화, 시너지적 진화, 인간이 이끄는 선택을 통합한 통합된 AI 아키텍처를 개발하여 인공일반지능을 달성한다.
• 시스템 이론적 접근을 통해 딥 네URAL 네트워크의 구조 설계 및 모델 해석 가능성 문제를 해결한다.
• 열역학 및 통계역학 원리를 바탕으로 한 이론적 기반을 마련하여 '지능의 열역학'에 준하는 인공지능 진화 이론을 수립한다.

제안 방법

• 공통의 진화 목표 하에 경쟁과 협력을 통해 공진화하는 하위시스템(모델 또는 에이전트)으로 구성된 다중 에이전트 및 개방 복합 시스템 아키텍처를 제안한다.
• 시스템 진화의 주요 추진력으로 자유 에너지 최소화 원리를 활용하여 안정적이고 엔트로피가 낮으며 질서 있는 상태로의 진화를 이끈다.
• 맥스웰의 데모니즘을 영감으로 삼은 시너지 학습 메커니즘을 도입하여, 변동성에 의해 유도되는 진화 과정을 통해 정보 입자가 무질서에서 질서로 자발적으로 조직화된다.
• 통계역학과 진화 이론의 자율 조직 원리를 적용하여 자동적인 네트워크 구조 진화 및 아키텍처 최적화를 가능하게 한다.
• 세 부분으로 구성된 프레임워크를 사용한다: (I) 자유 에너지 최소화를 통한 시스템 수준의 진화, (II) 정보 집약을 통한 해석 가능한 모델 설계, (III) 자율 조직 이론에 기반한 자동 신경망 아키텍처 진화.
• 시스템을 경계 조건이 정의된 환경 하에서 예측 가능한 진화 경로를 가진 미분방정식으로 이끌어내는 동적 시스템으로 모델링한다.

실험 결과

연구 질문

• RQ1 물리 시스템에서 열역학이 차지하는 역할과 유사하게, 인공 시스템에서 지능적 행동이 나타나는 데 영향을 미치는 근본 원리는 무엇인가?
• RQ2 인간이 이끄는 선택과 자율 조직을 통해 장기적인 공진화를 통해 인공일반지능에 도달할 수 있는 인공지능 시스템은 어떻게 설계될 수 있는가?
• RQ3 정보 처리를 자율 조직화 및 자유 에너지 최소화 과정으로 모델링할 경우, 딥 네URAL 네트워크의 해석 가능성과 설계를 어떻게 향상시킬 수 있는가?
• RQ4 자연 진화와 통계역학 원리를 영감으로 삼은 시너지 학습 메커니즘을 통해 신경망의 아키텍처를 자동으로 진화시킬 수 있는가?
• RQ5 협동과 경쟁의 상호작용은 다중 모델 시스템에서 안정적이고 지능적인 행동이 나타나는 데 어떤 역할을 하는가?

주요 결과

• 자유 에너지 최소화를 통해 시너지 학습 시스템(SLS)은 예측 가능하고 제어 가능한 진화를 달성하며 안정적이고 질서 있는 상태로 수렴함을 보였다.
• SLS에서 나타나는 잠재 현상은 다수의 모델 간 상호작용에서 기인하며, 맥스웰의 데모니즘과 유사한 변동성에 의해 유도되는 과정을 통해 정보 입자가 무질서에서 질서로 집합한다.
• 시스템의 진화는 정의된 미분방정식 프레임워크에 의해 지배되어 주어진 환경 및 경계 조건 하에서의 진화 경로를 예측할 수 있다.
• 이 프레임워크는 시스템 수준의 엔트로피 감소와 구조적 군집화를 과정으로 모델링함으로써 해석 가능한 딥 러닝을 가능하게 한다.
• SLS는 통계역학과 자율 조직 원리를 바탕으로 한 '지능의 열역학'을 제안함으로써 향후 AI 개발을 위한 이론적 기반을 제공한다.
• 시스템의 아키텍처는 인간의 선택이 진화 경로를 이끄는 방식으로 자연 선택을 모방하면서도 의도적인 설계를 가능하게 하여 장기적인 공진화를 위한 인공일반지능 향한 여정을 지원한다.