[论文解读] Toward the Starting Line: A Systems Engineering Approach to Strong AI

Tansu Alpcan, Sarah Erfani+1 more|arXiv (Cornell University)|Jul 28, 2017

Computability, Logic, AI Algorithms参考文献 28被引用 5

一句话总结

本文提出一种系统工程方法，旨在弥合通往人工通用智能（AGI）的差距，认为将控制理论、分布式系统、信息论和信号处理与主流人工智能（AI）相结合，可加速进展。通过利用系统学科与AI之间的共同数学基础及交叉融合，本文主张采用结合联结主义与符号主义的混合架构，以实现类人智能的适应性、自主性和理解力。

ABSTRACT

Artificial General Intelligence (AGI) or Strong AI aims to create machines with human-like or human-level intelligence, which is still a very ambitious goal when compared to the existing computing and AI systems. After many hype cycles and lessons from AI history, it is clear that a big conceptual leap is needed for crossing the starting line to kick-start mainstream AGI research. This position paper aims to make a small conceptual contribution toward reaching that starting line. After a broad analysis of the AGI problem from different perspectives, a system-theoretic and engineering-based research approach is introduced, which builds upon the existing mainstream AI and systems foundations. Several promising cross-fertilization opportunities between systems disciplines and AI research are identified. Specific potential research directions are discussed.

研究动机与目标

• 通过识别阻碍主流采纳的概念与方法论障碍，解决AGI研究中的停滞问题。
• 论证当前AI系统尽管在狭窄任务中取得成功，却缺乏人类智能所具备的灵活性、自主性与情境理解力。
• 倡导一种系统理论框架，将AI与控制理论、信息论及分布式系统理论统一，以加速AGI发展。
• 识别系统工程与AI之间的交叉融合机会，尤其聚焦于混合架构与自适应学习系统。
• 提出一个以生物原理与形式化系统模型为基础的研究愿景，以指导未来AGI研究。

提出的方法

• 采用系统理论框架，整合控制理论、信息论与分布式系统理论，以建模智能行为。
• 利用控制与AI研究共有的现有数学基础，如优化、动力系统、博弈论与自动机理论。
• 提出结合符号AI（如形式化验证）与联结主义方法（如深度学习）的混合架构，以提升推理能力与适应性。
• 通过受细胞与稳态机制启发的分布式自组织系统，建模生物智能。
• 将强化学习与双重控制概念整合进神经架构，借鉴系统理论与近期进展（如神经图灵机）。
• 利用交互与环境动态的形式化模型，实现在复杂环境中具备自主性与情境感知的AI行为。

实验结果

研究问题

• RQ1 如何系统性地应用系统工程原则，以克服AGI所面临的概念与技术障碍？
• RQ2 系统学科（如控制理论、信息论）与AI研究之间，有哪些关键的交叉融合机会可推动AGI发展？
• RQ3 如何通过结合联结主义与符号主义的混合架构，使AI系统实现类人智能的灵活性与理解力？
• RQ4 生物智能的发育、稳态与细胞组织原则，可在哪些方面为可扩展、自适应智能系统的设计提供启示？
• RQ5 如何将人类干预与经典编程与端到端学习相结合，以缩短训练时间并提升向后兼容性？

主要发现

• 尽管当前AI在弱AI领域取得成功，但其在自主性、适应性与概念理解方面的局限，仍使其无法实现类人智能。
• 系统工程方法通过统一AI与系统研究共有的数学基础（如优化、动力系统与博弈论），为实现AGI提供了可行路径。
• 将符号推理与深度学习相结合的混合架构，可解决AI完备问题，如自然语言理解与网络安全。
• 生物系统提供的设计原则（如自组织与稳态）可为构建鲁棒、分布式智能系统提供灵感。
• 将控制理论与强化学习及神经架构（如神经图灵机）相结合，可实现更具适应性与情境感知的AI行为。
• 形式化系统模型与分布式系统理论可提供构建结构严谨的系统所必需的支持，推动AI从黑箱学习迈向可解释、可靠与安全的AGI系统。