[论文解读] The brain is a computer is a brain: neuroscience's internal debate and the social significance of the Computational Metaphor

Alexis T. Baria, Keith J. Cross|arXiv (Cornell University)|Jul 18, 2021

Neuroscience, Education and Cognitive Function被引用 16

一句话总结

本文批判性地审视了神经科学与人工智能领域中的‘计算隐喻’——即把大脑比作计算机——认为尽管该隐喻推动了科学讨论，但其社会影响却未得到充分探讨。作者呼吁神经科学家反思：谁从这一隐喻中受益，谁又因此受害，尤其是在人工智能系统持续放大偏见的背景下，强调必须重新评估术语及其社会后果。

ABSTRACT

The Computational Metaphor, comparing the brain to the computer and vice versa, is the most prominent metaphor in neuroscience and artificial intelligence (AI). Its appropriateness is highly debated in both fields, particularly with regards to whether it is useful for the advancement of science and technology. Considerably less attention, however, has been devoted to how the Computational Metaphor is used outside of the lab, and particularly how it may shape society's interactions with AI. As such, recently publicized concerns over AI's role in perpetuating racism, genderism, and ableism suggest that the term "artificial intelligence" is misplaced, and that a new lexicon is needed to describe these computational systems. Thus, there is an essential question about the Computational Metaphor that is rarely asked by neuroscientists: whom does it help and whom does it harm? This essay invites the neuroscience community to consider the social implications of the field's most controversial metaphor.

研究动机与目标

• 调查计算隐喻在神经科学与人工智能中的社会后果，特别是其在塑造公众认知方面的作用。
• 回应当前对隐喻如何影响社会与人工智能技术互动的关注不足。
• 挑战大脑-计算机类比是中立或纯粹科学的假设，揭示其可能强化系统性偏见的潜在风险。
• 促使神经科学家反思该隐喻的伦理影响，尤其是在人工智能系统中体现的种族主义、性别主义与能力歧视问题。
• 倡导对人工智能与神经科学中的术语进行重新评估，以更准确反映计算系统的社会与伦理维度。

提出的方法

• 对计算隐喻作为神经科学与人工智能主导范式进行分析性批判。
• 审视围绕人工智能的公共话语，聚焦‘人工智能’一词如何塑造人们对自主性与能动性的认知。
• 运用哲学与社会学视角，评估隐喻在合理化特定技术叙事中的作用。
• 回顾关于人工智能偏见及将人工智能系统描述为‘智能’或‘思考’的语言框架的既有文献。
• 呼吁跨学科反思科学中隐喻的使用，特别是其塑造公众理解与政策制定的影响力。
• 采用论说文形式，激发神经科学界对隐喻性语言及其后果的讨论。

实验结果

研究问题

• RQ1 计算隐喻在多大程度上影响了公众对人工智能系统的理解与社会认知？
• RQ2 大脑-计算机类比在何种方式下可能加剧或掩盖人工智能中的系统性偏见，如种族主义、性别主义与能力歧视？
• RQ3 在科学与公共话语中持续使用计算隐喻，谁是受益者，谁又因此受害？
• RQ4 为何尽管该隐喻被广泛使用，其社会意义却在神经科学中长期被忽视？
• RQ5 是否存在能更好反映人工智能与神经科学研究社会与伦理维度的替代性语言框架？

主要发现

• 计算隐喻在神经科学与人工智能中仍居核心地位，但其科学与伦理有效性正日益受到质疑。
• 该隐喻通过赋予机器类人智能的属性，影响公众认知，可能为有偏见的算法结果提供正当化依据。
• 人们日益担忧‘人工智能’一词误述了那些并非真正智能、而只是复杂统计模型的系统。
• 该隐喻可能掩盖人工智能发展的社会与政治维度，尤其在强化结构性不平等方面。
• 尽管该隐喻具有广泛的社会影响力，神经科学家尚未充分审视其社会后果。
• 亟需对术语与隐喻框架进行调整，以使科学语言更好地契合伦理责任与社会问责。