[論文レビュー] AI-GAs: AI-generating algorithms, an alternate paradigm for producing general artificial intelligence

Jeff Clune|arXiv (Cornell University)|May 27, 2019

Machine Learning and Data Classification参考文献 189被引用数 52

ひとこと要約

この論文は、一般AIへの代替経路としてAI生成アルゴリズム（AI-GA）を提案し、メタラーニング・アーキテクチャ、メタラーニング学習アルゴリズム、効果的な学習環境を生成するという3つの柱を概説し、AI-GAが最速の道筋になる可能性がある一方で manual path の価値も認める。

ABSTRACT

Perhaps the most ambitious scientific quest in human history is the creation of general artificial intelligence, which roughly means AI that is as smart or smarter than humans. The dominant approach in the machine learning community is to attempt to discover each of the pieces required for intelligence, with the implicit assumption that some future group will complete the Herculean task of figuring out how to combine all of those pieces into a complex thinking machine. I call this the "manual AI approach". This paper describes another exciting path that ultimately may be more successful at producing general AI. It is based on the clear trend in machine learning that hand-designed solutions eventually are replaced by more effective, learned solutions. The idea is to create an AI-generating algorithm (AI-GA), which automatically learns how to produce general AI. Three Pillars are essential for the approach: (1) meta-learning architectures, (2) meta-learning the learning algorithms themselves, and (3) generating effective learning environments. I argue that either approach could produce general AI first, and both are scientifically worthwhile irrespective of which is the fastest path. Because both are promising, yet the ML community is currently committed to the manual approach, I argue that our community should increase its research investment in the AI-GA approach. To encourage such research, I describe promising work in each of the Three Pillars. I also discuss AI-GA-specific safety and ethical considerations. Because it it may be the fastest path to general AI and because it is inherently scientifically interesting to understand the conditions in which a simple algorithm can produce general AI (as happened on Earth where Darwinian evolution produced human intelligence), I argue that the pursuit of AI-GAs should be considered a new grand challenge of computer science research.

研究の動機と目的

• 一般AIのための多くの構成要素を組み立てる際の manual AI アプローチとその課題を提示する。
• すべての構成要素を手作業で設計することなく、一般AIを構築する方法を学ぶスケーラブルな代替としてAI-GAsを導入する。
• AI-GAsに不可欠な3つの柱を概説し、期待される研究方向と安全性の考慮について論じる。
• manual path の価値を認めつつ、研究投資をAI-GAsへシフトすることを提唱する。

提案手法

• 3つの柱を説明する: (1) メタ学習アーキテクチャ、(2) アルゴリズムを学習するメタ学習、(3) 効果的な学習環境の生成。
• AI-GAと manual アプローチを比較し、アーキテクチャ、学習者、環境の自動学習が一般AIを可能にする方法を論じる。
• 先行研究をレビューし、各柱の研究方向を提案する。アーキテクチャ検索、学習可能な最適化手法、カリキュラム/データ生成を含む。
• AI-GAsを大規模な課題フレーミングとして主張し、潜在的な安全性と倫理的考慮事項を論じる。

実験結果

リサーチクエスチョン

• RQ1 AI-GAはゼロからブートストラップして、3つの相互連関する柱を通じて一般AIを生み出すことができるか？
• RQ2 メタ学習アーキテクチャ、メタ学習アルゴリズム、そして自動環境/カリキュラム生成に関する研究方向と技術的課題は何か？
• RQ3 どの条件下でAI-GAsは一般知能の生成において manual AI経路を上回る可能性があるか？

主な発見

• アーキテクチャ検索は CIFAR や ImageNet のようなベンチマークで手設計のアーキテクチャを上回り始めており、第一の柱に潜在能力を示している。
• メタ学習アプローチ（例: MAML および RNNベースのメタラーンナー）は、より高速な適応と内部的に誘導される学習戦略を生み出す可能性があり、微分可能可塑性やニューロモジュレーションのような手法が継続学習を改善する。
• 効果的な学習環境とカリキュラムを生成することは、最も探究が浅く、最も難しい柱として特定されており、タスク分布や訓練データを通じて学習プロセスを意味ある形で形成する可能性がある。
• AI-GAフレームワークは、スケーラブルでオープンエンドな進展を可能にし、可能な知能の起源と空間に関する洞察を提供する可能性があり、長期的な目標が完全に実現されなくても短期的な価値を提供する。
• 本論文はAI-GAsに特有の安全性と倫理的配慮を論じ、AI-GAsを偉大な科学的課題として扱い、一般AIへの潜在的最速経路として提唱する。