[논문 리뷰] Toward the Starting Line: A Systems Engineering Approach to Strong AI

Tansu Alpcan, Sarah Erfani외 1명|arXiv (Cornell University)|2017. 07. 28.

Computability, Logic, AI Algorithms참고 문헌 28인용 수 5

한 줄 요약

이 논문은 인공통합지능(AGI) 향한 격차를 메우기 위한 시스템공학적 접근을 제안하며, 제어이론, 분산시스템, 정보이론, 신호처리의 원리를 주류 AI와 융합함으로써 진전을 이끌어내야 한다고 주장한다. 시스템 분야와 AI 간의 공통된 수학적 기초와 상호 육성 효과를 활용함으로써, 연결주의와 상징주의를 융합한 하이브리드 아키텍처를 통해 인간 수준의 적응성, 자율성, 이해 능력을 달성하고자 한다.

ABSTRACT

Artificial General Intelligence (AGI) or Strong AI aims to create machines with human-like or human-level intelligence, which is still a very ambitious goal when compared to the existing computing and AI systems. After many hype cycles and lessons from AI history, it is clear that a big conceptual leap is needed for crossing the starting line to kick-start mainstream AGI research. This position paper aims to make a small conceptual contribution toward reaching that starting line. After a broad analysis of the AGI problem from different perspectives, a system-theoretic and engineering-based research approach is introduced, which builds upon the existing mainstream AI and systems foundations. Several promising cross-fertilization opportunities between systems disciplines and AI research are identified. Specific potential research directions are discussed.

연구 동기 및 목표

• 주류 채택을 저해하는 개념적·방법론적 장벽을 규명함으로써 AGI 연구의 정체를 해결하고자 한다.
• 현재의 AI 시스템은 좁은 영역에서 성공을 거두었지만, 인간 지능의 유연성, 자율성, 맥락 이해 능력에 뒤쳐져 있음을 주장하고자 한다.
• AI를 제어이론, 정보이론, 분산시스템 이론과 통합하는 시스템이론적 프레임워크를 제안하여 AGI 개발을 가속화하고자 한다.
• 특히 하이브리드 아키텍처와 적응형 학습 시스템에서 시스템공학과 AI 간의 상호 육성 기회를 규명하고자 한다.
• 미래의 AGI 연구를 이끄는 연구 비전을 생물학적 원리와 형식적 시스템 모델에 기반하여 제안하고자 한다.

제안 방법

• 제어이론, 정보이론, 분산시스템을 통합한 시스템이론적 프레임워크를 도입하여 지능적 행동을 모델링한다.
• 양자리 연구 분야에서 공통적으로 사용되는 최적화, 동역학계, 게임이론, 오토마타 이론 등의 기존 수학적 기초를 활용한다.
• 형식적 검증과 같은 상징주의 AI와 딥러닝과 같은 연결주의 접근을 융합한 하이브리드 아키텍처를 제안하여 추론 능력과 적응성을 향상시킨다.
• 세포 및 유지보수 메커니즘을 영감으로 삼아 분산적이고 자율조직화되는 시스템을 통해 생물학적 지능을 모델링한다.
• 시스템이론과 최신 기술(예: 신경 터미트 머신)의 발전을 기반으로 강화학습과 이중제어 개념을 신경망 아키텍처에 통합한다.
• 형식적 상호작용 및 환경 동역학 모델을 사용하여 복잡한 환경에서 자율적이고 맥락 인식 기반의 AI 행동을 가능하게 한다.

실험 결과

연구 질문

• RQ1 시스템공학 원칙을 체계적으로 적용하여 AGI 달성에 걸리는 개념적·기술적 장벽을 극복할 수 있는 방법은 무엇인가?
• RQ2 제어, 정보이론 등 시스템 분야와 AI 연구 간의 상호 육성 기회 중 핵심은 무엇인가?
• RQ3 연결주의와 상징주의를 융합한 하이브리드 아키텍처는 어떻게 인간 수준의 유연성과 이해 능력을 갖춘 AI 시스템을 실현할 수 있는가?
• RQ4 발달, 유지보수, 세포 조직화와 같은 생물학적 원리는 어떻게 확장 가능한, 적응 가능한 지능 시스템 설계에 기여할 수 있는가?
• RQ5 인간의 간섭과 고전적 프로그래밍은 엔드 투 엔드 학습과 어떻게 통합되어 훈련 시간을 단축하고 후행 호환성을 향상시킬 수 있는가?

주요 결과

• 약한 AI 영역에서의 성공에도 불구하고 현재의 AI 기술은 자율성, 적응성, 개념적 이해 능력의 한계로 인해 인간 수준의 지능을 달성하지 못하고 있다.
• 최적화, 동역학계, 게임이론 등 AI와 시스템 연구 분야에서 공통된 수학적 기초를 통합함으로써 시스템공학적 접근이 AGI 달성에 실현 가능한 길을 제공한다.
• 상징적 추론과 딥러닝을 융합한 하이브리드 아키텍처는 자연어 이해, 네트워크 보안 등 AI-완전 문제를 해결할 수 있다.
• 자율조직화와 유지보수와 같은 생물학적 시스템은 강력하고 분산된 지능 시스템 설계에 영감을 줄 수 있다.
• 제어이론을 강화학습 및 신경망 아키텍처(예: 신경 터미트 머신)에 통합함으로써 더 적응성 있고 맥락 인식 기반의 AI 행동이 가능해진다.
• 형식적 시스템 모델과 분산시스템 이론은 블랙박스 학습을 넘어서 설명 가능하고 신뢰성 있고 안전한 AGI 시스템을 구축하기 위해 필요한 구조적 엄밀함을 제공할 수 있다.