[论文解读] Types of Cognition and its Implications for future High-Level Cognitive Machines

Camilo Miguel Signorelli|arXiv (Cornell University)|Jun 5, 2017

Neural dynamics and brain function参考文献 40被引用 3

一句话总结

本文探讨了高级认知过程与生物神经系统的关联，揭示了在设计未来人工认知机器时存在的悖论——尤其是实现类人认知与保持机器式精确性之间的张力。文章认为，要实现先进的认知人工智能，可能需要牺牲确定性精确性，从而挑战传统机器设计原则。

ABSTRACT

This work summarizes part of current knowledge on High-level Cognitive process and its relation with biological hardware. Thus, it is possible to identify some paradoxes which could impact the development of future technologies and artificial intelligence: we may make a High-level Cognitive Machine, sacrificing the principal attribute of a machine, its accuracy.

研究动机与目标

• 分析自然智能中高级认知与生物神经基质之间的相互作用。
• 识别在设计模拟人类水平认知的人工认知机器时所涉及的根本性悖论。
• 探讨这些悖论对未来人工智能系统的影响，特别是关于可靠性与精确性的问题。
• 挑战机器精确性是高级认知功能先决条件的假设。
• 建议重新审视人工智能核心设计原则，以适应认知复杂性。

提出的方法

• 综合现有关于高级认知过程及其在生物系统中神经基础的知识。
• 分析生物认知与人工智能架构在结构和功能上的相似性。
• 识别将机器式精确性应用于旨在实现灵活、自适应认知的系统时所存在的概念矛盾。
• 利用神经科学与人工智能的洞见，界定认知灵活性与计算精确性之间的权衡。
• 借鉴AAAI春季研讨会系列，将研究置于当前智能科学前沿研究的语境中。
• 应用比较框架，评估生物认知如何在不依赖严格确定性的情况下实现高级功能。

实验结果

研究问题

• RQ1 生物系统中的高级认知过程与传统机器计算有何不同？
• RQ2 在尝试设计模仿人类水平认知的人工认知机器时，会产生哪些悖论？
• RQ3 在认知灵活性与适应性方面，可以在多大程度上牺牲机器精确性？
• RQ4 生物认知固有的不确定性对人工智能系统设计有何影响？
• RQ5 未来人工智能系统如何在可靠性与创造性、情境敏感性推理能力之间取得平衡？

主要发现

• 本文识别出一个核心悖论：实现高级认知可能需要接受不精确性，这与机器精确性的基础原则相矛盾。
• 生物认知以固有的不确定性和近似性运行，却能实现稳健且自适应的行为，从而挑战了‘精确性是智能所必需’的假设。
• 旨在实现人类水平认知的智能系统可能需要采用概率性、非确定性架构，即使这意味着牺牲可预测性。
• 将认知灵活性整合到人工智能中，可能需要对机器行为的‘正确性’进行重新定义。
• 当前以精确性和确定性为优先的人工智能设计范式，可能与真正高级认知的出现从根本上不相容。
• 本研究建议，未来的认知机器或需将‘可控误差’视为一种特性而非缺陷，以实现类人推理。