[논문 리뷰] AI-GAs: AI-generating algorithms, an alternate paradigm for producing general artificial intelligence

Jeff Clune|arXiv (Cornell University)|2019. 05. 27.

Machine Learning and Data Classification참고 문헌 189인용 수 52

한 줄 요약

논문은 일반 AI에 대한 대안 경로로 AI-생성 알고리즘(AI-GAs)을 주장하며, 메타학습 아키텍처, 메타학습 학습 알고리즘, 효과적인 학습 환경 생성의 세 가지 기둥을 제시하고, AI-GAs가 가장 빠른 경로가 될 수 있는 이유를 논의하면서도 매뉴얼 경로의 가치를 인정합니다.

ABSTRACT

Perhaps the most ambitious scientific quest in human history is the creation of general artificial intelligence, which roughly means AI that is as smart or smarter than humans. The dominant approach in the machine learning community is to attempt to discover each of the pieces required for intelligence, with the implicit assumption that some future group will complete the Herculean task of figuring out how to combine all of those pieces into a complex thinking machine. I call this the "manual AI approach". This paper describes another exciting path that ultimately may be more successful at producing general AI. It is based on the clear trend in machine learning that hand-designed solutions eventually are replaced by more effective, learned solutions. The idea is to create an AI-generating algorithm (AI-GA), which automatically learns how to produce general AI. Three Pillars are essential for the approach: (1) meta-learning architectures, (2) meta-learning the learning algorithms themselves, and (3) generating effective learning environments. I argue that either approach could produce general AI first, and both are scientifically worthwhile irrespective of which is the fastest path. Because both are promising, yet the ML community is currently committed to the manual approach, I argue that our community should increase its research investment in the AI-GA approach. To encourage such research, I describe promising work in each of the Three Pillars. I also discuss AI-GA-specific safety and ethical considerations. Because it it may be the fastest path to general AI and because it is inherently scientifically interesting to understand the conditions in which a simple algorithm can produce general AI (as happened on Earth where Darwinian evolution produced human intelligence), I argue that the pursuit of AI-GAs should be considered a new grand challenge of computer science research.

연구 동기 및 목표

• 일반 AI를 위한 수동 AI 접근 방식과 이를 구성하는 다수의 구성 요소를 조합하는 데 따른 도전 과제를 제시합니다.
• 일부 구성 요소를 하나하나 수작업으로 설계하지 않고 일반 AI를 구축하는 방법을 학습하는 확장 가능한 대안으로 AI-GAs를 소개합니다.
• AI-GAs에 필수적인 세 가지 기둥을 개요하고 기대되는 연구 방향 및 안전 고려사항을 논의합니다.
• 매뉴얼 경로의 가치를 인정하면서 연구 투자를 AI-GAs로 전환할 것을 촉구합니다.

제안 방법

• 세 가지 기둥을 설명합니다: (1) 메타학습 아키텍처, (2) 학습 알고리즘의 메타학습, (3) 효과적인 학습 환경의 생성.
• AI-GA와 수동 접근 방식의 비교와 아키텍처, 학습자, 학습 환경의 자동 학습이 일반 AI를 어떻게 가능하게 할 수 있는지에 대해 논의합니다.
• 이전 연구를 검토하고 각 기둥에 대한 연구 방향을 제안합니다. 여기에는 아키텍처 탐색, 학습된 옵티마이저, 커리큘럼/데이터 생성을 포함합니다.
• AI-GAs를 대규모 도전 과제로 설정하는 프레이밍을 주장하고, 잠재적인 안전 및 윤리 고려사항을 논의합니다.

실험 결과

연구 질문

• RQ1 상호 연결된 세 가지 기둥을 통해 AI-GA가 처음부터 부트스트랩하여 일반 AI를 생산할 수 있습니까?
• RQ2 메타학습 아키텍처, 메타학습 학습 알고리즘, 자동 환경/커리큘럼 생성에 어떤 연구 방향과 기술적 도전과제가 존재합니까?
• RQ3 어떤 조건에서 AI-GAs가 일반 지능을 생산하는 데 있어 수동 AI 경로를 능가할 수 있습니까?

주요 결과

• 아키텍처 탐색이 CIFAR 및 ImageNet과 같은 벤치마크에서 손으로 설계된 아키텍처를 능가하기 시작했으며, 제1기둥에서 잠재력을 시사합니다.
• 메타학습 접근법(예: MAML 및 RNN 기반 메타러너) 은 더 빠른 적응 및 내부적으로 안내된 학습 전략을 제공할 수 있으며, 미분 가능한 가소성(differentiable plasticity) 및 신경조절(neuromodulation)과 같은 방법이 연속 학습을 향상시킵니다.
• 효과적인 학습 환경과 커리큘럼 생성을 가장 덜 탐구되었지만 가장 어려운 기둥으로 지목되며, 과제 분포와 훈련 데이터를 통해 학습 과정을 의미 있게 형성할 잠재력이 있습니다.
• AI-GA 프레임워크는 확장 가능하고 열린 형태의 진전을 가능하게 하며 가능한 지능의 기원과 공간에 대한 통찰을 제공할 수 있고, 장기 목표가 완전히 실현되지 않더라도 단기적 가치를 제공합니다.
• 본 논문은 AI-GAs에 고유한 안전 및 윤리 고려사항을 논의하고, AI-GAs를 대규모 과학적 도전으로 다루며 일반 AI로 가는 잠재적 최단 경로로 간주할 것을 주장합니다.