[论文解读] A system of different layers of abstraction for artificial intelligence

Alexander Serb, Themis Prodromakis|arXiv (Cornell University)|Jul 22, 2019

Advanced Memory and Neural Computing参考文献 69被引用 6

一句话总结

本文提出了一种五层抽象体系的人工智能架构，将人工智能开发划分为硬件、算法、认知、社会和伦理五个层级。该框架映射了各层级之间的相互依赖关系，突出展示了复杂性-性能权衡与控制-复杂性权衡，以指导人工智能系统在创新、安全性和社会经济应用方面的发展。

ABSTRACT

The field of artificial intelligence (AI) represents an enormous endeavour of humankind that is currently transforming our societies down to their very foundations. Its task, building truly intelligent systems, is underpinned by a vast array of subfields ranging from the development of new electronic components to mathematical formulations of highly abstract and complex reasoning. This breadth of subfields renders it often difficult to understand how they all fit together into a bigger picture and hides the multi-faceted, multi-layered conceptual structure that in a sense can be said to be what AI truly is. In this perspective we propose a system of five levels/layers of abstraction that underpin many AI implementations. We further posit that each layer is subject to a complexity-performance trade-off whilst different layers are interlocked with one another in a control-complexity trade-off. This overview provides a conceptual map that can help to identify how and where innovation should be targeted in order to achieve different levels of functionality, assure them for safety, optimise performance under various operating constraints and map the opportunity space for social and economic exploitation.

研究动机与目标

• 为解决对人工智能的碎片化理解，提出一个统一的概念框架，整合多个子领域。
• 阐明从电子硬件到伦理考量等不同人工智能组件在抽象层级之间的相互关系。
• 通过映射各层级的性能、安全性和运行约束，识别战略性创新目标。
• 通过层级间的相互依赖关系，揭示人工智能系统中控制与复杂性之间的相互作用。
• 为在不同抽象层级上实现人工智能技术的技术与社会经济应用提供路线图。

提出的方法

• 提出一个五层抽象模型：物理层（硬件）、算法层（计算）、认知层（推理）、社会层（交互）和伦理层（价值对齐）。
• 将每一层定义为具有特定功能角色和约束的独立抽象层级。
• 在每一层内引入复杂性-性能权衡，指出更高的抽象可能降低性能但提升可管理性。
• 识别出跨层级的控制-复杂性权衡，即在某一层次上提高控制会增加相邻层级的复杂性。
• 使用概念映射展示层级之间相互关联的依赖关系，强调系统整体的一致性。
• 将该框架应用于指导开发、安全保证和在运行约束下的优化。

实验结果

研究问题

• RQ1 如何将人工智能的多样化子领域系统性地组织为一个连贯的多层级概念框架？
• RQ2 人工智能系统各层级内部，复杂性与性能之间的固有权衡是什么？
• RQ3 某一抽象层级上的控制机制如何影响相邻层级的复杂性？
• RQ4 该分层抽象模型在多大程度上能够指导人工智能开发中的创新与安全保证？
• RQ5 该框架如何支持在不同抽象层级上实现人工智能技术的社会经济与技术应用？

主要发现

• 五层抽象模型提供了一个全面的概念地图，整合了人工智能在物理、算法、认知、社会和伦理维度的各个方面。
• 每一层均表现出内在的复杂性-性能权衡，其中更高的抽象可能降低计算效率，但提升设计可扩展性。
• 层级间的依赖关系导致控制-复杂性权衡，即在某一层次上实施更紧密的控制会加剧相邻层级的复杂性。
• 该框架通过识别在功能、安全性和性能方面改进最具影响力的节点，实现有针对性的创新。
• 该模型支持系统性识别人工智能技术在社会和经济层面的应用机会。
• 所提出的体系为在技术与社会领域综合管理人工智能开发的多维度特性提供了结构化方法。