[論文レビュー] Embodied, Situated, and Grounded Intelligence: Implications for AI

Tyler Millhouse, Melanie E. Moses+1 more|arXiv (Cornell University)|Oct 24, 2022

Ethics and Social Impacts of AI被引用数 5

ひとこと要約

このワークショップレポートは、頑健で人間水準の人工知能を達成するには、身体的実存性（エゴイズム）、状況的関係性（シチュエーテッドネス）、そして意味的根拠（グラウンドドネス）が不可欠であると主張する。哲学、認知科学、AIの知見を統合し、認知は身体的実存性と環境との相互作用から切り離せないことを論じ、現在のAIシステム、特に大規模言語モデルは身体的経験と状況的学習の欠如により真の理解に到達できないと指摘する。

ABSTRACT

In April of 2022, the Santa Fe Institute hosted a workshop on embodied, situated, and grounded intelligence as part of the Institute's Foundations of Intelligence project. The workshop brought together computer scientists, psychologists, philosophers, social scientists, and others to discuss the science of embodiment and related issues in human intelligence, and its implications for building robust, human-level AI. In this report, we summarize each of the talks and the subsequent discussions. We also draw out a number of key themes and identify important frontiers for future research.

研究の動機と目的

• 身体的実存性、状況的関係性、根拠の役割が人間知能に与える影響と、人工知能へのインパクトを調査すること。
• AIシステムが身体的実存性や環境との相互作用なしに頑健で汎用的な知能を達成できるという仮定に疑問を呈すること。
• 認知科学および発達心理学の知見が、より人間らしく機能するAIシステムの設計にどのように寄与できるかを検討すること。
• 現在の大規模ニューラルネットワークモデルの限界、特に意味的有効性（semantic efficacy）と真実に敏感な推論の欠如について分析すること。
• 人間の発達的・認知的プロセスを模倣して学習・推論・理解を行うAIシステムを開発するための主要な研究フロンティアを同定すること。

提案手法

• 哲学、心理学、神経科学、AIの多様な視点を統合し、認知における身体的実存性の役割を分析する。
• 意味的外部性（semantic externalism）と意味的有効性（semantic efficacy）の概念を適用し、精神的内容が環境的・身体的文脈に依存することを主張する。
• 種を越えた神経回路の事例研究を分析し、同一のメカニズムが状況的・行動的文脈によって異なる意味を持つ（例：「ハエを検出」 vs. 「アリを検出」）ことから、意味はアルゴリズム的に決定されないことを示す。
• 深層ニューラルネットワークにおける受動的・データ駆動型学習の限界、特に真実性と概念的根拠の観点から評価する。
• 素早い思考（System 1）とゆっくりとした思考（System 2）を模倣する二重システム枠組み（System 1 と System 2）をニューラルネットワークに提案し、System 2 がモジュラーで目的指向の推論を可能にする。
• 複数の時間スケールでの学習とマルチモodalデータ統合を提唱し、身体的エージェントにおける発達的学習をよりよく模倣することを目的とする。

実験結果

リサーチクエスチョン

• RQ1 知能システムが人間水準の理解と推論に到達するためには、どれほど身体的実存性と環境への統合（状況的関係性）が不可欠であるか。
• RQ2 精神的状態の意味が環境的・身体的文脈にどのように依存するか、そして認知のモデル化にどのような意味を持つのか。
• RQ3 なぜ大規模言語モデルは真実を優先しないのか。身体的実存性と状況的関係性は、それらの推論力と真実に敏感な判断をどのように向上させ得るか。
• RQ4 物理的環境からの能動的探索、操作、フィードバックなしに、人工知能システムが頑健な一般化を達成できるか。
• RQ5 発達的プロセス、特に複数の時間スケールでの学習とセンサモータリ相互作用が、根拠のある認知の出現に果たす役割は何か。

主な発見

• 意味的有効性（semantic efficacy）—すなわち、精神的内容が行動に因果的に影響を与えること—は、認知システムが身体的実存性と環境に根ざしている必要がある。意味は内部表現に内在するのではなく、環境的文脈に依存するためである。
• 同一の神経メカニズムが、エージェントの環境や行動的役割に応じて異なる認知的意味（例：「ハエを検出」 vs. 「アリを検出」）を生み出すことができ、意味がアルゴリズム的に決定されないことを示している。
• 現在のAIシステム、特に大規模言語モデルは、真実性よりも人間らしいテキスト生成を優先しており、世界に対する利害がないため、しばしば事実を捏造したり、自己矛盾を生じさせたりする。
• 身体的経験と実際の目的の欠如により、言語の流暢さと概念的理解の間に乖離が生じ、信頼性の高い一般化が損なわれる。
• 発達的、エピソード的、リアルタイムのプロセスを含む複数の時間スケールでの学習は、適応的かつ目的指向の行動を可能にするために不可欠であり、現在のディープラーニングシステムではまだ十分に開発されていない。
• 物理的相互作用に根拠のない場合、基盤的モデル（foundation models）は「空に浮かぶ城」（castles in the air）に過ぎず、知識が抽象的で感覚運動的経験から切り離されており、世界について意味的に理解したり推論したりする能力が制限される。