[論文レビュー] A Rubric for Human-like Agents and NeuroAI

Ida Momennejad|arXiv (Cornell University)|Dec 8, 2022

EEG and Brain-Computer InterfacesNeuroscience被引用数 17

ひとこと要約

本論文は、人間らしさの代理やNeuroAI研究の範囲を明確化するための三次元的基準を提案する。これは、人間らしさの行動、神経的妥当性、および工学的ベンチマークへのコミットメントを区別するものである。これらの軸に沿って研究を分類することで、フレームワークは明確なコミュニケーションを可能にし、相乗効果を特定し、認知科学、神経科学、およびAI分野における段階的かつ多様な進展を促進する。

ABSTRACT

Researchers across cognitive, neuro-, and computer sciences increasingly reference human-like artificial intelligence and neuroAI. However, the scope and use of the terms are often inconsistent. Contributed research ranges widely from mimicking behaviour, to testing machine learning methods as neurally plausible hypotheses at the cellular or functional levels, or solving engineering problems. However, it cannot be assumed nor expected that progress on one of these three goals will automatically translate to progress in others. Here a simple rubric is proposed to clarify the scope of individual contributions, grounded in their commitments to human-like behaviour, neural plausibility, or benchmark/engineering goals. This is clarified using examples of weak and strong neuroAI and human-like agents, and discussing the generative, corroborate, and corrective ways in which the three dimensions interact with one another. The author maintains that future progress in artificial intelligence will need strong interactions across the disciplines, with iterative feedback loops and meticulous validity tests, leading to both known and yet-unknown advances that may span decades to come.

研究の動機と目的

• 認知科学、神経科学、およびコンピュータ科学の研究において、'人間らしさの代理' や 'NeuroAI' といった用語の不統一かつ曖昧な使用を是正すること。
• 人間らしさの行動、神経的妥当性、工学的ベンチマークに関する研究の明確な目的を明確化すること。
• 弱い形と強い形のNeuroAIおよび人間らしさの代理を区別する構造的フレームワークを提供すること。
• 三つの次元にわたる段階的フィードバックと妥当性検証を通じて、多様な分野間の進展を促進すること。
• 三つの分野間で進捗が相互に移転できないことへの強調を通じて、将来の研究を導くこと。

提案手法

• 三軸の基準を提案：(1) 人間らしさの行動、(2) 神経的妥当性、(3) ベンチマーク／工学的目標。
• 基準を用いて、既存の研究を弱い形と強い形のNeuroAIおよび人間らしさの代理に分類する。
• 三つの次元間の相互作用のモードを導入：生成的（相互支援）、補佐的（相互検証）、是正的（誤り検出）。
• 認知モデリング、神経科学的仮説検証、機械学習応用の具体例を通じて基準を図示する。
• 信頼性を確保するため、三つの分野にわたる段階的フィードバックループと厳密な妥当性検証を強調する。
• 一つの分野での進捗が他の分野での進捗を自動的に保証しないこと、したがって明示的で段階的な整合性と検証が不可欠であることを強調する。

実験結果

リサーチクエスチョン

• RQ1 NeuroAI分野において、研究者が人間らしさの行動、神経的妥当性、工学的ベンチマークに焦点を当てた研究目的を明確に区別するにはどうすればよいか？
• RQ2 弱い形と強い形のNeuroAIおよび人間らしさの代理の違いは何か？また、それらはどのように相互に関係しているか？
• RQ3 行動、神経的妥当性、工学的三つの次元が、どのようにして研究結果の生成、補佐、是正を可能にするか？
• RQ4 認知科学、神経科学、AIの分野間で、妥当性と相互の進展を保証するように、どのようにして協働を構造化できるか？
• RQ5 ある分野での進捗が、他の分野での進捗を誤って示すのを防ぐために、どのようなメカニズムが必要か？

主な発見

• 基準は、人間らしさの行動、神経的妥当性、工学的ベンチマークという三つの明確に異なる研究的コミットメントを成功裏に区別できた。
• 弱いNeuroAIは、神経的根拠のない行動の模倣に焦点を当てるが、強いNeuroAIは神経的妥当性と行動的パフォーマンスを統合する。
• 人間らしさの代理は、弱い形（行動的に類似しているが神経的に妥当ではない）または強い形（行動的および神経的に人間の認知と一致する）のいずれかである。
• 三つの次元は、生成的、補佐的、是正的フィードバックループを通じて相互に作用し、分野間の検証とイノベーションを可能にする。
• 一つの分野での進捗が、他の分野での進捗に自動的に移転しないことから、明示的かつ段階的な検証が分野横断的に不可欠である。
• AI分野の将来的な進歩は、数十年にわたる継続的かつ細心の注意を要する多様な分野間のフィードバックループに依存する。その結果、既知のものだけでなく予期しない発見も含めた画期的な進歩が得られるだろう。