[논문 리뷰] Advancing Perception in Artificial Intelligence through Principles of Cognitive Science

Palaash Agrawal, Cheston Tan외 1명|arXiv (Cornell University)|2023. 10. 13.

Neural Networks and ApplicationsComputer Science인용 수 3

한 줄 요약

이 논문은 신경과학, 심리학, 언어학에서 유래한 인지과학 원리를 인공지능에 통합하여 인식 시스템의 발전을 도모하며, 강건성, 일반화 능력, 효율성을 향상시키고자 한다. 저자들은 인지 이론을 AI 기법에 대응시켜 현재 AI 인식의 핵심적 격차를 밝히고, 신체화된, 해석 가능한, 사회적으로 지능적인 시스템을 발전시켜 인공지능 일반화로 나아가야 한다고 주장한다.

ABSTRACT

Although artificial intelligence (AI) has achieved many feats at a rapid pace, there still exist open problems and fundamental shortcomings related to performance and resource efficiency. Since AI researchers benchmark a significant proportion of performance standards through human intelligence, cognitive sciences-inspired AI is a promising domain of research. Studying cognitive science can provide a fresh perspective to building fundamental blocks in AI research, which can lead to improved performance and efficiency. In this review paper, we focus on the cognitive functions of perception, which is the process of taking signals from one's surroundings as input, and processing them to understand the environment. Particularly, we study and compare its various processes through the lens of both cognitive sciences and AI. Through this study, we review all current major theories from various sub-disciplines of cognitive science (specifically neuroscience, psychology and linguistics), and draw parallels with theories and techniques from current practices in AI. We, hence, present a detailed collection of methods in AI for researchers to build AI systems inspired by cognitive science. Further, through the process of reviewing the state of cognitive-inspired AI, we point out many gaps in the current state of AI (with respect to the performance of the human brain), and hence present potential directions for researchers to develop better perception systems in AI.

연구 동기 및 목표

• 현재 AI 인식 시스템의 근본적 한계, 즉 취약성, 데이터 비효율성, 일반화 능력 부족을 해결하기 위해.
• 인지과학 이론을 활용하여 인간 수준의 인식과 인공지능 인식 사이의 격차를 메우기 위해.
• 인공지능 일반화로의 진전을 저해하는 AI 인식 분야의 열린 문제를 규명하기 위해.
• 일반화, 신체화된 인지, 해석 가능성, 사회적 지능이라는 핵심 방향을 제시하여 향후 연구를 이끌기 위해.
• 더 강력한 능력을 갖추는 것뿐만 아니라 인간의 인지 과정과도 더 잘 통합된 AI 시스템의 개발을 촉진하기 위해.

제안 방법

• 인지과학의 주요 이론—신경과학, 심리학, 언어학—을 중심으로 인식에 중점을 두고 체계적으로 검토한다.
• 인지과학 원리를 컴퓨터 비전 및 자연어 처리 분야의 기존 AI 기법에 대응시킨다.
• 인간의 인식 메커니즘과 딥러닝 아키텍처 사이의 구조적 및 功能적 유사성을 규명한다.
• 인지 기반 설계는 작업에 특화된 엔지니어링을 피하고 일반화 가능하며 생물학적으로 타당한 메커니즘을 강조해야 한다고 제안한다.
• 심리물리적 데이터와 인지 스키마를 활용하여 AI 모델의 정규화를 통해 인식 능력과 전이 학습 능력을 향상시키기를 권장한다.
• 설명 가능 AI 및 메타학습 프레임워크를 통합하여 모델 행동에 대한 해석 가능성과 통제력을 향상시킬 것을 주장한다.

Figure 1: Cognitive-AI is the intersection of cognitive sciences and artificial intelligence. Cognitive sciences itself is a multidisciplinary field, and the intersection of all these fields with AI (the green region) is of great importance to understand intelligence. We study the state of cognitive

실험 결과

연구 질문

• RQ1 인지과학 이론은 어떻게 AI 인식 시스템의 강건성과 효율성을 향상시킬 수 있는가?
• RQ2 현재 AI 인식에서 인식의 일반화를 저해하는 핵심 격차는 무엇인가?
• RQ3 신체화된 인지와 환경 상호작용은 정적 데이터 입력을 넘어서 AI 인식을 어떻게 향상시킬 수 있는가?
• RQ4 인지 스키마를 활용하여 해석 가능성과 설명 가능성을 인식 모델에 체계적으로 통합하는 방법은 무엇인가?
• RQ5 사회적 지능과 윤리적 사고는 인간의 인지와 통합된 미래의 AI 인식 시스템을 설계하는 데 어떤 역할을 하는가?

주요 결과

• 현재 AI 인식 시스템은 노이즈, 악성 입력, 분포 외 입력에서 여전히 취약하여 강건성 부족을 보이고 있다.
• 소수 샘플 학습 및 장꼬리 인식에서의 한계는 인간 인식에 비해 데이터 집약적인 딥러닝 모델의 비효율성을 드러낸다.
• 도메인 격차와 악성 전이로 인해 전이 학습이 저해되며, 이는 인지 기반 정규화를 통한 지식 전이 향상이 필요함을 시사한다.
• 신체화된 AI는 시각적 탐색과 같은 좁은 작업에 국한되어 있어, 더 풍부한 환경 상호작용을 이끄는 데 인지 원리가 필요하다는 점을 보여준다.
• 딥러닝의 투명하지 않은 성격은 신뢰와 통제를 어렵게 하며, 이에 따라 설명 가능한 AI와 메타학습 프레임워크를 통한 해석 가능성 향상이 필수적이다.
• 윤리적 사고와 문화적 뉘앙스를 포함한 사회적 지능은 실제 환경에서 안전하고 책임감 있는 방식으로 작동하기 위해 AI 시스템에 필수적이다.

Figure 2: Processes of perception in the brain. Perception is the collective outcome of five major processes – sensory stimulation, modularity and multisensory integration, bottom-up processing, top-down processing and interpretation. For each of these processes, we study concepts from neuroscience,