[论文解读] What is an intelligent system?

Martín Molina|arXiv (Cornell University)|Aug 31, 2020

Computability, Logic, AI Algorithms被引用 10

一句话总结

本文提出了一套务实、面向工程的框架，通过可观察的外部行为和功能分解来表征智能系统。它将智能系统定义为能够理性行动和理性思考的代理，整合感知、推理、行动与通信功能，并通过基于符号和联结主义AI方法的专家系统与自主机器人应用验证了该框架的有效性。

ABSTRACT

The concept of intelligent system has emerged in information technology as a type of system derived from successful applications of artificial intelligence. The goal of this paper is to give a general description of an intelligent system, which integrates previous approaches and takes into account recent advances in artificial intelligence. The paper describes an intelligent system in a generic way, identifying its main properties and functional components. The presented description follows a pragmatic approach to be used in an engineering context as a general framework to analyze and build intelligent systems. Its generality and its use is illustrated with real-world system examples and related with artificial intelligence methods.

研究动机与目标

• 为工程设计与分析提供一种通用且务实的智能系统表征方法。
• 将从基于规则的系统到自主系统的各种智能系统概念统一到一个单一的功能框架中。
• 阐明理性行为中‘理性行动’（目标优化）与‘理性思考’（合理推理）之间的区别，作为智能系统的核心属性。
• 将智能系统的功能组件映射到既有的AI方法，涵盖符号主义与联结主义方法。
• 通过真实案例（包括专家系统与自主城市交通管理系统）验证该框架的适用性。

提出的方法

• 通过外部行为定义智能系统：即能够感知环境并与之交互、与其他代理互动的代理。
• 引入理性的双重标准：理性行动（最大化成功）与理性思考（通过推理证明信念的合理性）。
• 提出将功能分解为三个核心过程：环境理解、在环境中行动、与他人通信。
• 将功能组件映射到AI方法：例如，HTN规划用于推理，GPS与传感器数据用于环境感知，透明性机制用于推理解释。
• 通过城市公交管理系统案例研究，展示该框架在真实世界复杂领域中的适用性。
• 将该框架应用于经典系统（如专家系统）与现代自主系统，以证明其广泛适用性。

实验结果

研究问题

• RQ1 从工程视角看，哪些核心行为与功能属性定义了智能系统？
• RQ2 如何区分理性行为中的‘理性行动’（行动优化）与‘理性思考’（合理推理）？
• RQ3 在从专家系统到自主机器人等多样化的智能系统中，哪些功能组件是一致存在的？
• RQ4 所提出的框架如何与现有AI方法（包括符号主义与联结主义方法）相对应？
• RQ5 该表征方法在多大程度上可应用于具有实际运行复杂性的现实系统？

主要发现

• 智能系统最适切的理解方式是将其视为一种代理：感知环境，理性行动以最大化任务成功率，并通过推理证明其决策的合理性。
• 智能系统的功能分解始终包含环境数据获取、世界建模、情境分析、价值赋值、行动推理以及与人类操作员的通信。
• 理性思考的整合——即对信念与决策的合理化解释——对于建立人类信任与问责制至关重要，尤其在医疗诊断或交通管理等高风险领域。
• 该框架成功地将现实系统（如西班牙维多利亚市的公交管理系统）映射到其功能组件，证明其在复杂动态环境中的适用性。
• 该方法将经典AI系统（如基于规则的专家系统）与现代自主系统统一于一个连贯、一致的表征体系之下。
• 该框架使开发者能够识别、分类并关联系统组件与特定AI方法，从而在工程背景下提升系统设计与分析能力。