[论文解读] A Rubric for Human-like Agents and NeuroAI

Ida Momennejad|arXiv (Cornell University)|Dec 8, 2022

EEG and Brain-Computer InterfacesNeuroscience被引用 17

一句话总结

本文提出一个三维量规，以明确类人智能体与神经形态人工智能（NeuroAI）研究的范围，区分对类人行为、神经可塑性以及工程基准的承诺。通过在这些维度上对研究进行分类，该框架实现了更清晰的沟通，识别出协同效应，并推动认知科学、神经科学与人工智能领域之间的迭代性、跨学科进展。

ABSTRACT

Researchers across cognitive, neuro-, and computer sciences increasingly reference human-like artificial intelligence and neuroAI. However, the scope and use of the terms are often inconsistent. Contributed research ranges widely from mimicking behaviour, to testing machine learning methods as neurally plausible hypotheses at the cellular or functional levels, or solving engineering problems. However, it cannot be assumed nor expected that progress on one of these three goals will automatically translate to progress in others. Here a simple rubric is proposed to clarify the scope of individual contributions, grounded in their commitments to human-like behaviour, neural plausibility, or benchmark/engineering goals. This is clarified using examples of weak and strong neuroAI and human-like agents, and discussing the generative, corroborate, and corrective ways in which the three dimensions interact with one another. The author maintains that future progress in artificial intelligence will need strong interactions across the disciplines, with iterative feedback loops and meticulous validity tests, leading to both known and yet-unknown advances that may span decades to come.

研究动机与目标

• 解决认知科学、神经科学与计算机科学研究中对'类人智能体'和'NeuroAI'等术语使用不一致且模糊的问题。
• 明确类人行为、神经可塑性与工程基准研究目标之间的差异。
• 提供一个结构化框架，以区分NeuroAI与类人智能体的弱形式与强形式。
• 通过在三个维度间实现迭代反馈与有效性测试，推动跨学科进展。
• 通过强调三大领域间进展不可相互转移的特性，指导未来研究，要求有意识地进行整合。

提出的方法

• 提出一个三轴量规：(1) 类人行为，(2) 神经可塑性，(3) 基准/工程目标。
• 利用该量规将现有研究划分为NeuroAI与类人智能体的弱形式或强形式。
• 引入三个维度之间的互动模式：生成性（相互支持）、佐证性（交叉验证）与校正性（错误检测）。
• 通过认知建模、神经科学假设检验与机器学习应用中的具体实例说明该量规。
• 强调迭代反馈回路与严格的可信度测试，以确保各领域间的可信性。
• 强调某一维度的进展并不能保证其他维度的进展，因此必须进行明确的对齐与验证。

实验结果

研究问题

• RQ1 研究人员如何能清晰区分NeuroAI研究中聚焦于类人行为、神经可塑性与工程基准的目标？
• RQ2 NeuroAI与类人智能体的弱形式与强形式之间有何差异？它们之间又如何关联？
• RQ3 行为、神经可塑性与工程这三个维度以何种方式相互作用，以生成、佐证或校正研究发现？
• RQ4 如何构建跨学科协作机制，以确保认知科学、神经科学与人工智能领域间的有效性与共同推进？
• RQ5 需要何种机制来确保某一领域中的进展不会错误地被推断为其他领域的进展？

主要发现

• 该量规成功区分了三种截然不同的研究承诺：类人行为、神经可塑性与工程基准。
• 弱形式NeuroAI侧重于模仿行为而缺乏神经基础，而强形式NeuroAI则将神经可塑性与行为表现相结合。
• 类人智能体可以是弱形式（行为相似但神经上不可行）或强形式（在行为与神经上均与人类认知一致）。
• 三个维度通过生成性、佐证性与校正性反馈回路相互作用，实现跨领域验证与创新。
• 某一维度的进展不会自动转化为其他维度的进展，因此必须在各领域间进行明确的、迭代的验证。
• 未来人工智能的突破将依赖于持续数十年的细致、严谨且跨学科的反馈回路，其成果可能既包括已知突破，也包括不可预见的创新。