[논문 리뷰] A Rubric for Human-like Agents and NeuroAI

Ida Momennejad|arXiv (Cornell University)|2022. 12. 08.

EEG and Brain-Computer InterfacesNeuroscience인용 수 17

한 줄 요약

이 논문은 인간 유사 에이전트와 NeuroAI 연구의 범위를 명확히 하기 위해 삼차원 평가 체계를 제안한다. 이는 인간 유사 행동, 신경 생물학적 타당성, 공학적 벤치마크에 대한 약속을 구분한다. 이러한 축을 따라 연구를 분류함으로써, 이 프레임워크는 더 명확한 소통을 가능하게 하고 상호보완성과 상호작용을 식별하며, 인지과학, 신경과학, 인공지능 분야 간의 반복적이고 다학제적 진전을 촉진한다.

ABSTRACT

Researchers across cognitive, neuro-, and computer sciences increasingly reference human-like artificial intelligence and neuroAI. However, the scope and use of the terms are often inconsistent. Contributed research ranges widely from mimicking behaviour, to testing machine learning methods as neurally plausible hypotheses at the cellular or functional levels, or solving engineering problems. However, it cannot be assumed nor expected that progress on one of these three goals will automatically translate to progress in others. Here a simple rubric is proposed to clarify the scope of individual contributions, grounded in their commitments to human-like behaviour, neural plausibility, or benchmark/engineering goals. This is clarified using examples of weak and strong neuroAI and human-like agents, and discussing the generative, corroborate, and corrective ways in which the three dimensions interact with one another. The author maintains that future progress in artificial intelligence will need strong interactions across the disciplines, with iterative feedback loops and meticulous validity tests, leading to both known and yet-unknown advances that may span decades to come.

연구 동기 및 목표

• 인지, 신경과학, 컴퓨터 과학 분야에서 '인간 유사 에이전트'와 'NeuroAI'와 같은 용어의 일관성 없고 애매한 사용을 해결하기 위해.
• 인간 유사 행동, 신경 생물학적 타당성, 공학적 벤치마크에 대한 연구 목표를 명확히 하기 위해.
• 약한 형태와 강한 형태의 NeuroAI 및 인간 유사 에이전트를 구분하는 체계적 프레임워크를 제공하기 위해.
• 세 영역 간의 반복적 피드백과 타당성 검증을 통해 다학제적 진전을 촉진하기 위해.
• 세 영역 간의 진전이 상호 이행 가능하지 않음을 강조함으로써 향후 연구를 이끌기 위해.

제안 방법

• 세 축 평가 체계 제안: (1) 인간 유사 행동, (2) 신경 생물학적 타당성, (3) 벤치마크/공학 목표.
• 이 평가 체계를 활용해 기존 연구를 약한 형태 또는 강한 형태의 NeuroAI 및 인간 유사 에이전트로 분류.
• 세 영역 간의 상호작용 방식으로 세 가지 모드 도입: 생성적(상호 지원), 확인적(상호 검증), 수정적(오류 탐지).
• 인지 모델링, 신경과학적 가설 검증, 기계 학습 응용 분야의 구체적 사례를 통해 평가 체계를 설명.
• 신뢰성 있는 타당성 검증과 반복적 피드백 루프를 강조하여 각 영역 간의 타당성을 확보.
• 한 영역에서의 진전이 다른 영역으로 자동으로 이어지지 않음을 강조하며, 명시적이고 반복적인 보정과 검증이 필요함을 주장.

실험 결과

연구 질문

• RQ1 NeuroAI 연구에서 인간 유사 행동, 신경 생물학적 타당성, 공학적 벤치마크에 초점을 맞춘 목표를 연구자들이 어떻게 명확히 구분할 수 있는가?
• RQ2 약한 형태와 강한 형태의 NeuroAI 및 인간 유사 에이전트 간의 차이점은 무엇이며, 상호 관계는 어떻게 되는가?
• RQ3 행동, 신경 생물학적 타당성, 공학 영역이라는 세 축이 상호작용하여 연구 결과를 어떻게 생성, 확인, 또는 수정할 수 있는가?
• RQ4 인지과학, 신경과학, 인공지능 간의 상호작용을 어떻게 구성하여 타당성과 상호 발전을 보장할 수 있는가?
• RQ5 한 분야에서의 진전이 다른 분야로 잘못 해석되는 것을 방지하기 위해 어떤 메커니즘이 필요한가?

주요 결과

• 평가 체계는 인간 유사 행동, 신경 생물학적 타당성, 공학적 벤치마크에 대한 세 가지 명확한 연구 약속을 효과적으로 구분한다.
• 약한 NeuroAI는 신경 기반 없이 행동을 모방하는 데 집중하는 반면, 강한 NeuroAI는 행동 성능와 함께 신경 생물학적 타당성을 통합한다.
• 인간 유사 에이전트도 약한 형태(행동적으로 유사하나 신경 생물학적으로 타당하지 않음) 또는 강한 형태(행동적·신경 생물학적으로 인간 인지와 일치함)로 나뉠 수 있다.
• 세 영역은 생성적, 확인적, 수정적 피드백 루프를 통해 상호작용하여 다분야 간의 검증과 혁신을 가능하게 한다.
• 한 분야에서의 진전이 다른 분야로 자동으로 이어지지 않으며, 명시적이고 반복적인 검증이 필요하다.
• 향후 AI 분야의 진전은 수십 년에 걸친 지속적이고 철저하며 다학제적 피드백 루프에 의존할 것이며, 그 결과는 알려진뿐 아니라 예측 불가능한 돌파구를 포함할 가능성이 높다.