[論文レビュー] The brain is a computer is a brain: neuroscience's internal debate and the social significance of the Computational Metaphor

Alexis T. Baria, Keith J. Cross|arXiv (Cornell University)|Jul 18, 2021

Neuroscience, Education and Cognitive Function被引用数 16

ひとこと要約

この論文は、神経科学および人工知能（AI）分野における『計算的比喩』——脳をコンピュータにたとえるもの——を批判的に検討し、科学的議論を推進した一方で、その社会的影響はまだ十分に検討されていないと主張する。著者らは、神経科学者がこの比喩が誰に利益をもたらし、誰を傷つけるかを検討するよう呼びかけ、AIシステムが偏見を継続的に繰り返す中で、用語の再考とその社会的結果の検証を促している。

ABSTRACT

The Computational Metaphor, comparing the brain to the computer and vice versa, is the most prominent metaphor in neuroscience and artificial intelligence (AI). Its appropriateness is highly debated in both fields, particularly with regards to whether it is useful for the advancement of science and technology. Considerably less attention, however, has been devoted to how the Computational Metaphor is used outside of the lab, and particularly how it may shape society's interactions with AI. As such, recently publicized concerns over AI's role in perpetuating racism, genderism, and ableism suggest that the term "artificial intelligence" is misplaced, and that a new lexicon is needed to describe these computational systems. Thus, there is an essential question about the Computational Metaphor that is rarely asked by neuroscientists: whom does it help and whom does it harm? This essay invites the neuroscience community to consider the social implications of the field's most controversial metaphor.

研究の動機と目的

• 計算的比喩の社会的影響を神経科学および人工知能分野で調査し、特に公衆の認識を形作る役割を明らかにすること。
• この比喩が人工知能技術との社会的関係に与える影響について、これまであまり注目されていなかった点を扱うこと。
• 脳-コンピュータの類似性が中立的または純粋に科学的であるという前提を疑い、それが制度的バイアスを強化する可能性を浮き彫りにすること。
• 神経科学者が、AIシステムにおける人種差別、ジェンダー差別、障害差別といった問題に関連して、比喩の倫理的含意を再考するよう促すこと。
• 人工知能および神経科学分野における用語の再評価を提唱し、計算システムの社会的・倫理的側面をより的確に反映するようにすること。

提案手法

• 神経科学および人工知能分野における支配的フレームワークとしての計算的比喩の分析的批判。
• 人工知能に関する公的議論の検討にあたり、'人工知能'という用語が自律性や能動性の認識をどのように形作っているかに焦点を当てる。
• 比喩が特定の技術的ナラティブを正当化する役割を果たすことを、哲学的および社会学的視点から評価する。
• AIバイアスおよびAIシステムが'知能的'または'思考する'と表現される言語的フレーミングに関する既存文献のレビュー。
• 特に、比喩が公衆理解や政策に与える影響力を踏まえた、学際的考察の呼びかけ。
• 議論を喚起するための論説形式を採用し、神経科学コミュニティ内での比喩的言語とその結果についての議論を促進すること。

実験結果

リサーチクエスチョン

• RQ1 計算的比喩は、人工知能システムの公衆的理解や社会的認識にどのように影響を及えるか？
• RQ2 脳-コンピュータの類似性は、人工知能において人種差別、ジェンダー差別、障害差別といった制度的バイアスをどのように強化するか、あるいは隠蔽するか？
• RQ3 科学的・公的議論において計算的比喩が継続的に使われる中で、誰が利益を受けており、誰が損害を被っているのか？
• RQ4 この比喩の社会的意義が広範に使用されているにもかかわらず、なぜ神経科学分野で無視されてきたのか？
• RQ5 人工知能および神経科学の研究における社会的・倫理的側面をより的確に反映できる代替の言語的フレームワークは何か？

主な発見

• 計算的比喩は神経科学および人工知能分野において中心的であるが、その科学的・倫理的妥当性についてますます疑問が呈されている。
• この比喩は、機械に人間のような知能を帰属させることで、公衆の認識を形作っており、偏見を含むアルゴリズム的結果を正当化する可能性がある。
• 人工知能という用語が、真に知能を持つものではなく、複雑な統計モデルにすぎないシステムを誤解させる懸念が高まっている。
• この比喩は、特に構造的不平等を強化する中で、人工知能開発の社会的・政治的側面を曇らせる可能性がある。
• 神経科学者は、その比喩が広範な社会的影響を持つにもかかわらず、その社会的結果を十分に検討してこなかった。
• 科学的言語を倫理的責任と社会的説明責任に適合させるために、用語と比喩的フレーミングの見直しが不可欠である。