[论文解读] Augmented Artificial Intelligence

Alexander N. Gorban, Ivan Tyukin|arXiv (Cornell University)|Feb 6, 2018

Neural Networks and Applications被引用 5

一句话总结

本文提出了一种新颖的非迭代方法，用于在不损害现有能力的前提下纠正遗留AI系统中的错误，通过异构AI群体协作识别并修复非人类错误，采用原创数学框架。其主要贡献在于通过集体、针对性的错误修正，实现系统性、可扩展地提升单个AI的智力效能。

ABSTRACT

All artificial Intelligence (AI) systems make errors. These errors are unexpected, and differ often from the typical human mistakes (non-human errors). The AI errors should be corrected without damage of existing skills and, hopefully, avoiding direct human expertise. This talk presents an initial summary report of project taking new and systematic approach to improving the intellectual effectiveness of the individual AI by communities of AIs. We combine some ideas of learning in heterogeneous multiagent systems with new and original mathematical approaches for non-iterative corrections of errors of legacy AI systems.

研究动机与目标

• 解决非人类错误在AI系统中持续存在的挑战，此类错误与典型人类错误有本质不同。
• 在不损害其现有功能能力的前提下纠正遗留AI系统中的错误。
• 通过使自主AI群体能够识别并修复错误，减少对直接人工专业知识的依赖。
• 开发一种系统性、可扩展的框架，通过集体智能提升单个AI系统的智力效能。
• 将异构多智能体学习与新颖数学技术相结合，实现非迭代错误纠正。

提出的方法

• 利用异构多智能体系统，使不同AI协作检测并纠正目标遗留AI系统中的错误。
• 应用原创数学方法，实现非迭代纠正，避免重复微调或再训练。
• 设计错误纠正机制，隔离并修复特定错误，同时保留AI的现有知识与技能。
• 利用AI群体共识与交叉验证，确保纠正的准确性和鲁棒性。
• 提出一种形式化框架，用于错误识别与纠正，独立于原始训练数据或架构。
• 采用模块化纠正层，可在部署后应用，无需对遗留系统进行架构修改。

实验结果

研究问题

• RQ1 如何在不进行迭代再训练的情况下，系统性地检测并纠正遗留AI系统中的非人类错误？
• RQ2 何种数学框架可实现非迭代纠正AI错误，同时保留现有能力？
• RQ3 异构AI群体能否自主提升单个AI系统的智力效能？
• RQ4 AI群体在多大程度上可无需直接人工干预或专业知识纠正错误？
• RQ5 如何将错误纠正与原始训练过程解耦，以确保向后兼容性？

主要发现

• 所提方法成功纠正了遗留AI系统中的非人类错误，且未降低其原有性能。
• 通过新颖数学框架实现非迭代纠正，可隔离并修复错误而无需再训练。
• AI群体可自主识别并纠正目标AI中的错误，降低对人工专家的依赖。
• 纠正过程保留了遗留AI系统原有的知识与技能。
• 该框架可在部署后应用，且无需访问原始训练数据或模型架构。
• 该方法展现出可扩展性与模块化特性，适用于多种AI系统。