[論文レビュー] The Artificial Scientist: Logicist, Emergentist, and Universalist Approaches to Artificial General Intelligence

Michael Timothy Bennett, Yoshihiro Maruyama|arXiv (Cornell University)|Oct 5, 2021

Computability, Logic, AI Algorithms参考文献 15被引用数 7

ひとこと要約

この論文は、論理的・出現的・普遍的アプローチを統合することで、ノーベル賞水準の科学的発見を自律的に行える人工科学者（Artificial Scientist）の要件を定義する。人工科学者には、帰納的・演繹的・帰謬的・因果的・体験的推論を統合し、適応的記号出現を組み合わせたハイブリッドシステムが不可欠であり、強力な仮説生成、実験設計、説明可能な科学的発見が可能となる。

ABSTRACT

We attempt to define what is necessary to construct an Artificial Scientist, explore and evaluate several approaches to artificial general intelligence (AGI) which may facilitate this, conclude that a unified or hybrid approach is necessary and explore two theories that satisfy this requirement to some degree.

研究の動機と目的

• 人工エージェントが独立的・ノーベル賞水準の科学的発見を可能とする人工科学者とみなされるために必要な最小限の認知的能力のセットを明確化すること。
• 論理的・出現的・普遍的アプローチのAGIパラダイムが、科学的発見、特に仮説生成・実験設計・説明の要求にどの程度対応できるかを評価すること。
• 単一のAGIパラダイムでは不十分であり、科学的探求の全範囲を満たすには統合的またはハイブリッドなフレームワークが必要であると主張すること。
• 記号出現が感覚入力や事前に定義された記号集合だけではなく、タスク関連の目的と環境との相互作用に基づいて根拠付けられるべきであると提唱すること。
• 理論的および例示的タスクを通じて、観測データだけでは同時に存在する相互に排他的な規則を発見できないこと、仮説の帰謬的推論と実験的検証の必要性を示すこと。

提案手法

• 仮説表現、帰納的推論、演繹的および帰謬的推論、因果的推論、実験計画といった、科学的熟達の核となる能力を通じて人工科学者を定義すること。
• 体験的認知（enactive cognition）を統合し、実験をエージェントの身体的・環境的相互作用を伴うプロセスとして位置づけ、認知をエージェントの内部にとどまらないように拡張すること。
• 論理的形式主義（例：記号的推論のためのApperception Engine）と出現的アプローチ（例：ニューラルによる記号の根拠付け）と普遍的原理（例：仮説選択のためのオッカムの剃刀）を組み合わせたハイブリッドアーキテクチャを提唱すること。
• 純粋な帰納的システム（例：Apperception Engine）の限界と、仮説の帰謬的推論と実験が必要となる状況を比較するための思考実験を用いること。
• 「内包的（intensional）」解法と「外延的（extensional）」解法の対比を導入し、前者は抽象的規則を通じて文脈を超えて一般化するが、後者は記憶に依存するものであることを示すこと。
• リスクを考慮した効用モデル（例：算術平均ではなく幾何平均）を用い、期待効用、リソース制約、生存制約に基づいて実験を優先順位付けすること。

実験結果

リサーチクエスチョン

• RQ1 人工エージェントが独立的・ノーベル水準の科学的発見を可能とする人工科学者とみなされるために、厳密に必要な認知的および推論的能力は何か？
• RQ2 論理的・出現的・普遍的アプローチのAGIパラダイムは、科学的推論、仮説生成、実験計画の能力において、どのように比較できるか？
• RQ3 なぜ観測データだけでは、タスク内で同時に存在する複数の相互に排他的な規則を発見できないのか？仮説の帰謬的推論は果たす役割は何か？
• RQ4 AGIエージェントにおいて記号システムがどのように意味的に出現するか？記号が任意ではなく、タスク関連の目的と目的指向行動に基づいて根拠付けられるにはどうすればよいか？
• RQ5 科学的仮説が単に反証可能であるだけでなく、妥当性があり価値があり、人間の聴衆に説明可能であることを保証するにはどのようなメカニズムが必要か？

主な発見

• 人工科学者には、帰納的・演繹的・帰謬的・因果的・体験的推論を統合した推論が不可欠であり、自律的科学的探求を可能にする。
• Apperception Engineのような純粋な帰納的システムでは、複数の同時に作用する規則がタスクを支配する場合、実験による区別がなければ、互いに排他的な仮説を区別できない。
• 内包的解法（抽象的・規則的・一般化可能）は、外延的解法（記憶による丸暗記）よりもデータ効率と科学的妥当性において優れているが、仮説の帰謬的推論を必要とする。
• 仮説選択には、真偽値だけでなく妥当性と期待効用を重みづけたヒューリスティックが必要であり、仮説空間内の効率的探索を保証する。
• 記号出現は、感覚入力だけではなく、タスク関連の目的と環境との相互作用に基づいて根拠付けられることで、意味的かつ説明可能なものとなる。
• 実験計画にはリスク回避と機会費用の考慮が含まれるべきであり、長期的能⼒と生存を維持するには幾何平均のような効用モデルが好ましい。