[論文レビュー] Types of Cognition and its Implications for future High-Level Cognitive Machines

Camilo Miguel Signorelli|arXiv (Cornell University)|Jun 5, 2017

Neural dynamics and brain function参考文献 40被引用数 3

ひとこと要約

本論文は、高レベルの認知プロセスと生物学的神経系の関係を検討し、将来の人工認知マシンを設計する際のパラドックスを特定している。特に、人間のような認知を達成しようとするのと、機械的正確性を維持しようとするのとの間の緊張関係が焦点である。本論文は、高度な認知AIを構築するには決定論的精度を犠牲にせざるを得ない可能性があり、従来の機械設計原理に挑戦するものである。

ABSTRACT

This work summarizes part of current knowledge on High-level Cognitive process and its relation with biological hardware. Thus, it is possible to identify some paradoxes which could impact the development of future technologies and artificial intelligence: we may make a High-level Cognitive Machine, sacrificing the principal attribute of a machine, its accuracy.

研究の動機と目的

• 自然知能における高レベル認知と生物学的神経基盤の相互作用を分析すること。
• 人間水準の認知を模倣する人工認知マシンを設計する際の根本的パラドックスを同定すること。
• これらのパラドックスが、将来的なAIシステム、特に信頼性と正確性に関する意味を明らかにすること。
• 機械の正確性が高度な認知機能の前提条件であるという仮定に疑問を呈すること。
• 認知の複雑性を扱えるように、人工知能のコア設計原理を再考すること。

提案手法

• 生物学的システムにおける高レベル認知プロセスとその神経基盤に関する既存の知見を統合すること。
• 生物学的認知と人工知能アーキテクチャの構造的・機能的類似性を分析すること。
• 柔軟かつ適応的な認知を目的としたシステムに機械的正確性を適用する際の概念的矛盾を同定すること。
• 神経科学とAIの知見を活用して、認知の柔軟性と計算の正確性のトレードオフをフレームする。
• 科学の知的知見分野における現在の研究を文脈化するために、AAAI春期シンポジウムシリーズを活用すること。
• 生物学的認知が厳密な決定論なしに高レベル機能を達成する仕組みを評価するための比較フレームワークを適用すること。

実験結果

リサーチクエスチョン

• RQ1 生物学的システムにおける高レベル認知プロセスは、従来の機械計算とどのように異なるか？
• RQ2 人間水準の認知を模倣する人工認知マシンを設計しようとする際に生じるパラドックスは何か？
• RQ3 認知の柔軟性と適応性を高めるために、どの程度まで機械の正確性を犠牲にできるか？
• RQ4 生物学的認知が内蔵する不確実性が、人工知能システム設計にどのような意味を持つのか？
• RQ5 将来のAIシステムは、信頼性と創造的で文脈に敏感な推論能力の両立をどのように達成できるか？

主な発見

• 本論文は、高レベル認知を達成するには不正確さを受け入れる必要があるという核心的パラドックスを特定している。これは、機械の正確性という基礎的原則と矛盾する。
• 生物学的認知は本質的に不確実性と近似を伴っても、強固で適応的な行動を示す。これは、正確性が知能にとって不可欠であるという仮定に疑問を呈する。
• 人間水準の認知を目指す人工システムは、予測可能性を犠牲にしても、確率的かつ非決定論的アーキテクチャを採用する必要があるかもしれない。
• AIに認知の柔軟性を統合することは、「正しさ」の定義の再考を必要とすることがある。
• 正確性と決定論を重視する現在のAI設計パラダイムは、真の高レベル認知の出現とは根本的になじまない可能性がある。
• 本研究は、将来の認知マシンが「制御された誤り」を欠陥ではなく特徴として受け入れることで、人間らしい推論を達成できるかもしれないと提言している。