[논문 리뷰] The brain is a computer is a brain: neuroscience's internal debate and the social significance of the Computational Metaphor

Alexis T. Baria, Keith J. Cross|arXiv (Cornell University)|2021. 07. 18.

Neuroscience, Education and Cognitive Function인용 수 16

한 줄 요약

이 논문은 신경과학과 인공지능 분야에서 뇌를 컴퓨터로 비교하는 '계산적 은유'를 비판적으로 분석하며, 이는 과학적 논의를 이끌었지만 그 사회적 영향은 여전히 탐색되지 않은 채임을 주장한다. 저자들은 신경과학자들이 이 은유가 누구에게 유익하고 누구에게 해로운지를 점검할 것을 촉구하며, 특히 인공지능 시스템이 편견을 계속해서 확산시키는 상황에서 어휘와 그 사회적 결과를 재고할 것을 당부한다.

ABSTRACT

The Computational Metaphor, comparing the brain to the computer and vice versa, is the most prominent metaphor in neuroscience and artificial intelligence (AI). Its appropriateness is highly debated in both fields, particularly with regards to whether it is useful for the advancement of science and technology. Considerably less attention, however, has been devoted to how the Computational Metaphor is used outside of the lab, and particularly how it may shape society's interactions with AI. As such, recently publicized concerns over AI's role in perpetuating racism, genderism, and ableism suggest that the term "artificial intelligence" is misplaced, and that a new lexicon is needed to describe these computational systems. Thus, there is an essential question about the Computational Metaphor that is rarely asked by neuroscientists: whom does it help and whom does it harm? This essay invites the neuroscience community to consider the social implications of the field's most controversial metaphor.

연구 동기 및 목표

• 신경과학과 인공지능에서 계산적 은유의 사회적 영향을 조사하는 것, 특히 대중 인식을 형성하는 데서의 역할을 다루는 것.
• 이 은유가 인공지능 기술과의 사회적 상호작용에 미치는 영향을 고려하지 않은 채로 남아 있는 문제를 해결하는 것.
• 뇌-컴퓨터 비유가 중립적이거나 순수히 과학적인 것이라 가정하는 것을 도전하며, 체계적 편견을 강화할 가능성이 있음을 드러내는 것.
• 특히 인공지능 시스템에서의 인종차별, 성별차별, 기능장애에 대한 편견과 관련해 이 은유의 윤리적 함의를 신경과학자들이 반성할 것을 촉구하는 것.
• 인공지능과 신경과학에서 과학어휘를 재고하여 계산 시스템의 사회적 및 윤리적 차원을 더 잘 반영하도록 유도하는 것.

제안 방법

• 신경과학과 인공지능에서 지배적인 프레임워크로 자리 잡은 계산적 은유에 대한 분석적 비판.
• 인공지능에 대한 대중 논의를 분석하며, '인공지능'이라는 용어가 자율성과 능동성에 대한 인식을 어떻게 형성하는지 중점적으로 다룸.
• 철학적 및 사회학적 시각을 활용해 은유가 특정 기술적 서사의 정당성을 부여하는 데서 수행하는 역할을 평가.
• 인공지능 편견과 인공지능 시스템을 '지능적'이거나 '사고하는' 것으로 묘사하는 언어적 프레임워크에 관한 기존 문헌 검토.
• 특히 어휘 사용이 대중 이해도와 정책에 미치는 영향을 고려한 다학제적 반성 촉구.
• 논쟁을 유도하기 위해 논거 중심의 에세이 형식을 취함으로써 신경과학 공동체 내에서 은유어의 사용과 그 결과에 대한 논의를 촉진.

실험 결과

연구 질문

• RQ1 계산적 은유는 인공지능 시스템에 대한 대중 이해와 사회적 인식에 어떻게 영향을 미치는가?
• RQ2 뇌-컴퓨터 비유는 어떻게 인공지능에서 인종차별, 성별차별, 기능장애에 대한 체계적 편견을 강화하거나 은폐할 수 있는가?
• RQ3 과학적 및 대중 논의에서 계산적 은유의 지속적 사용으로 누구에게 유익하고 누구에게 해로운가?
• RQ4 이 은유의 사회적 의미가 널리 사용되고 있음에도 불구하고 왜 신경과학에서 간과되어 왔는가?
• RQ5 인공지능과 신경과학 연구의 사회적 및 윤리적 차원을 더 잘 반영할 수 있는 대체 언어적 프레임워크는 무엇인가?

주요 결과

• 계산적 은유는 여전히 신경과학과 인공지능의 핵심이지만, 과학적 타당성과 윤리적 타당성에 대해 점점 더 의문을 제기받고 있다.
• 이 은유는 기계에 인간 같은 지능을 부여함으로써 대중 인식을 형성하여, 편향된 알고리즘 결과를 정당화할 수 있다.
• 인공지능이라는 용어가 진정으로 지능적인 것이 아닌 복잡한 통계 모델일 뿐임을 잘못 표현하고 있다는 우려가 커지고 있다.
• 이 은유는 인공지능 개발의 사회적·정치적 차원을 은폐할 수 있으며, 특히 체계적 불평등을 강화하는 데 기여할 수 있다.
• 신경과학자들은 이 가장 영향력 있는 은유의 사회적 결과를 충분히 다루지 못했으며, 그 영향력은 광범위하게 사회 전반에 뻗어 있다.
• 과학어휘가 윤리적 책임과 사회적 책임과 더 잘 부합하도록 어휘와 은유적 프레임워크의 전환 필요성이 제기된다.