[論文レビュー] Toward the Starting Line: A Systems Engineering Approach to Strong AI

Tansu Alpcan, Sarah Erfani+1 more|arXiv (Cornell University)|Jul 28, 2017

Computability, Logic, AI Algorithms参考文献 28被引用数 5

ひとこと要約

本稿は、制御理論、分散システム、情報理論、信号処理の原則を主流のAIと統合することで、人工一般知能（AGI）へのギャップを埋めるためのシステム工学的手法を提唱する。これらの分野とAIの間で共有される数学的基盤や相互浸透を活用することで、接続主義と象徴主義を組み合わせたハイブリッドアーキテクチャの構築を提唱し、人間並みの適応性、自律性、理解力を実現する。

ABSTRACT

Artificial General Intelligence (AGI) or Strong AI aims to create machines with human-like or human-level intelligence, which is still a very ambitious goal when compared to the existing computing and AI systems. After many hype cycles and lessons from AI history, it is clear that a big conceptual leap is needed for crossing the starting line to kick-start mainstream AGI research. This position paper aims to make a small conceptual contribution toward reaching that starting line. After a broad analysis of the AGI problem from different perspectives, a system-theoretic and engineering-based research approach is introduced, which builds upon the existing mainstream AI and systems foundations. Several promising cross-fertilization opportunities between systems disciplines and AI research are identified. Specific potential research directions are discussed.

研究の動機と目的

• 主流の採用を妨げる概念的・手法的障壁を特定することで、AGI研究の停滞を是正すること。
• 現在のAIシステムは、特定分野のタスクにおいて成功を収めているが、人間知能が持つ柔軟性、自律性、文脈理解の欠如を主張すること。
• AIを制御理論、情報理論、分散システム理論と統合するシステム理論的フレームワークを提唱し、AGI開発を加速すること。
• 特にハイブリッドアーキテクチャと適応学習システムにおいて、システム工学とAIの間の相互浸透の機会を同定すること。
• 将来のAGI研究を導くべく、生物学的原則と形式的システムモデルに根ざした研究ビジョンを提示すること。

提案手法

• 制御理論、情報理論、分散システムを統合したシステム理論的フレームワークを採用し、知能的行動をモデル化すること。
• 最適化、力学系、ゲーム理論、オートマトン理論といった、システム研究とAI研究の両者に共通する既存の数学的基盤を活用すること。
• 形式的検証などの象徴的AIと、深層学習などの接続主義的手法を統合したハイブリッドアーキテクチャを提唱し、推論力と適応性を向上させること。
• 細胞およびホメオスタシス機構にインspiredされた分散的自己組織化システムを用いて、生物学的知能をモデル化すること。
• 制御理論と最近の進展（例：ニューラルチューリングマシン）を活用し、強化学習とデュアルコントロールの概念をニューラルアーキテクチャに統合すること。
• 対話と環境ダイナミクスの形式的モデルを統合し、複雑な状況下で自律的かつ文脈に適応したAI行動を可能にすること。

実験結果

リサーチクエスチョン

• RQ1 システム工学の原則を、AGIへの概念的・技術的障壁を克服するために体系的にどのように適用できるか？
• RQ2 制御理論、情報理論などのシステム分野とAI研究との間で、AGIの前進に寄与する主要な相互浸透の機会は何か？
• RQ3 接続主義と象徴主義を統合したハイブリッドアーキテクチャは、AIシステムにおいて人間並みの柔軟性と理解力をどのように達成できるか？
• RQ4 発達、ホメオスタシス、細胞組織の生物学的原則は、スケーラブルで適応可能な知能システムの設計にどのように応用できるか？
• RQ5 人間の干渉と古典的プログラミングをエンドツーエンド学習とどのように統合し、学習時間を短縮するとともに後方互換性を向上できるか？

主な発見

• 弱いAI分野における成功にもかかわらず、現在のAIの状態は、自律性、適応性、概念的理解の欠如により、人間並みの知能に到達していない。
• 最適化、力学系、ゲーム理論といった、AIとシステム研究の両者に共通する数学的基盤を統合することで、システム工学的手法がAGIへの実現可能性のある道筋を提供する。
• 象徴的推論と深層学習を統合したハイブリッドアーキテクチャは、自然言語理解やネットワークセキュリティといったAI-ハード問題を解決できる。
• 自己組織化やホメオスタシスといった生物学的システムの設計原則は、強固で分散型の知能システムを生み出すためのインスピレーション源となる。
• 制御理論と強化学習、ニューラルアーキテクチャ（例：ニューラルチューリングマシン）の統合により、より適応的で文脈に適応したAI行動が可能になる。
• 形式的システムモデルと分散システム理論は、ブラックボックス学習から脱却し、説明可能で信頼性が高く安全なAGIシステムを実現するための構造的厳密性を提供できる。