[論文レビュー] Advancing Perception in Artificial Intelligence through Principles of Cognitive Science

Palaash Agrawal, Cheston Tan+1 more|arXiv (Cornell University)|Oct 13, 2023

Neural Networks and ApplicationsComputer Science被引用数 3

ひとこと要約

本論文は、神経科学、心理学、言語学から得られる認知科学の原則を人工知能に統合することで、知覚システムの進化を図り、頑健性、一般化性能、効率性の向上を目的としている。認知理論をAI技術にマッピングすることで、現在のAI知覚における主なギャップを特定し、体化された、解釈可能な、社会的に知的なシステムの構築を提唱することで、人工汎用知能への道のりを前進させる。

ABSTRACT

Although artificial intelligence (AI) has achieved many feats at a rapid pace, there still exist open problems and fundamental shortcomings related to performance and resource efficiency. Since AI researchers benchmark a significant proportion of performance standards through human intelligence, cognitive sciences-inspired AI is a promising domain of research. Studying cognitive science can provide a fresh perspective to building fundamental blocks in AI research, which can lead to improved performance and efficiency. In this review paper, we focus on the cognitive functions of perception, which is the process of taking signals from one's surroundings as input, and processing them to understand the environment. Particularly, we study and compare its various processes through the lens of both cognitive sciences and AI. Through this study, we review all current major theories from various sub-disciplines of cognitive science (specifically neuroscience, psychology and linguistics), and draw parallels with theories and techniques from current practices in AI. We, hence, present a detailed collection of methods in AI for researchers to build AI systems inspired by cognitive science. Further, through the process of reviewing the state of cognitive-inspired AI, we point out many gaps in the current state of AI (with respect to the performance of the human brain), and hence present potential directions for researchers to develop better perception systems in AI.

研究の動機と目的

• 現在のAI知覚システムに見られる根本的な制限、たとえば脆弱性、データ非効率性、一般化性能の低さを是正すること。
• 認知科学の理論を活用することで、人間の知覚と人工知覚の間のギャップを埋めること。
• 人工汎用知能への進展を妨げるAI知覚分野における未解決問題を特定すること。
• 一般化、体化認知、解釈可能性、社会知能といった主要な研究方向性を提示することで、今後の研究を導くこと。
• 人間の認知プロセスに合致した、単に能力が高まるだけでなく、人間らしくもなるAIシステムの開発を促進すること。

提案手法

• 知覚に焦点を当てた、認知科学の分野（神経科学、心理学、言語学）における主要理論を体系的にレビューする。
• コンピュータビジョンおよび自然言語処理分野における既存のAI技術に、認知科学の原則をマッピングする。
• 人間の知覚メカニズムと深層学習アーキテクチャとの間の構造的・機能的類似性を特定する。
• 認知にインspiredされた設計は、タスク特化型の設計を避けるべきであり、一般化可能で生物学的に妥当なメカニズムに重点を置くべきであると提言する。
• 心理物理学的データと認知スキーマを活用して、AIモデルの正則化を図り、知覚性能と転移学習の向上を図ることを勧告する。
• 解釈可能性とモデル行動の制御を向上させるために、メタラーニングと説明可能なAIフレームワークの統合を提唱する。

Figure 1: Cognitive-AI is the intersection of cognitive sciences and artificial intelligence. Cognitive sciences itself is a multidisciplinary field, and the intersection of all these fields with AI (the green region) is of great importance to understand intelligence. We study the state of cognitive

実験結果

リサーチクエスチョン

• RQ1 認知科学の理論は、AI知覚システムの頑健性と効率性をどのように向上させ得るか？
• RQ2 現在のAI知覚に見られる主なギャップは何か。それは、タスクやドメインをまたいで一般化を妨げる要因である。
• RQ3 体化認知と環境との相互作用は、静的データ入力にとどまらないAI知覚をどのように向上させるか？
• RQ4 認知スキーマを用いて、解釈可能性と説明可能性を知覚モデルに体系的に統合する方法は何か？
• RQ5 社会知能と倫理的推論は、人間の認知に適合した今後のAI知覚システムを設計するうえで、果たす役割は何か？

主な発見

• 現在のAI知覚システムは、ノイズが多い、敵対的、または分布外の入力に対して依然として脆弱であり、頑健性の欠如を示している。
• 少数の例による認識や長尾認識における制限は、人間の知覚と比較して、データ集約型の深層学習モデルの非効率性を浮き彫りにしている。
• ドメインギャップと負の転送のため、転移学習が阻害されている。これは、認知にインspiredされた正則化によって知識転送を改善する必要があることを示唆している。
• 体化AIは、視覚ナビゲーションのような狭いタスクにとどまっている。これは、より豊かな環境との相互作用を促進するための認知原則の統合が不可欠であることを示している。
• 深層学習のブラックボックス性は信頼性と制御性を損なう。解釈可能なAIとメタラーニングフレームワークの統合が、解釈可能性を向上させるために不可欠である。
• 社会知能、特に倫理的推論と文化的ニュアンスの理解は、現実世界の文脈で安全かつ責任ある行動をとるAIシステムを実現するために不可欠である。

Figure 2: Processes of perception in the brain. Perception is the collective outcome of five major processes – sensory stimulation, modularity and multisensory integration, bottom-up processing, top-down processing and interpretation. For each of these processes, we study concepts from neuroscience,