[論文レビュー] Computational Dualism and Objective Superintelligence

Michael Timothy Bennett|arXiv (Cornell University)|Feb 2, 2023

Computability, Logic, AI Algorithms参考文献 23被引用数 13

ひとこと要約

本論文はAIXIの性能が解釈者（インタプリタ）依存であると主張し、環境の中で認知を実現されたものとして扱い、弱点ベースの代理指標を用いて知性を測ることで、客観的に最適なAGI/ASIを定義する、エナクティブ（行為的）・パン計算論的フレームワークを提案する。

ABSTRACT

The concept of intelligent software is flawed. The behaviour of software is determined by the hardware that "interprets" it. This undermines claims regarding the behaviour of theorised, software superintelligence. Here we characterise this problem as "computational dualism", where instead of mental and physical substance, we have software and hardware. We argue that to make objective claims regarding performance we must avoid computational dualism. We propose a pancomputational alternative wherein every aspect of the environment is a relation between irreducible states. We formalise systems as behaviour (inputs and outputs), and cognition as embodied, embedded, extended and enactive. The result is cognition formalised as a part of the environment, rather than as a disembodied policy interacting with the environment through an interpreter. This allows us to make objective claims regarding intelligence, which we argue is the ability to "generalise", identify causes and adapt. We then establish objective upper bounds for intelligent behaviour. This suggests AGI will be safer, but more limited, than theorised.

研究の動機と目的

• AIXIの性能が用いられるインタプリタ（UTM）に依存する理由を説明する。
• AIにおける心身二元論を除去する枠組みとして、エナクティブ認知とパン計算論を提案する。
• タスク間の汎化を評価するための知性の弱点ベースの代理指標を導入する。
• 選択された語彙内で特定のタスクに対して最良の仮説を客観的に最適なAGIとして定義する。
• タスクの知性を最大化する最適な語彙を選択し、それからAGIを構築することで、客観的に最適なASIを定義する。

提案手法

• 認知を、エージェント、身体、環境を統合するタスクとして形式化する（エナクティブ主義/パン計算論的主義）。
• タスクをモデリングの主要な対象として扱うことで、環境を環境内でモデル化する。
• 実装可能な言語（語彙）と行為実現のための有限の感覚運動語彙を定義する。
• 二値のタスク完了基準と、タスクと意思決定を記述する宣言的プログラムの集合を導入する。
• 弱点ベースの代理指標（Z_mの拡張の大きさ）を用いて最適仮説を選択する。
• 最大の弱点とタスク汎化特性に基づく客観的に最適なAGIとASIの定義を提案する。

実験結果

リサーチクエスチョン

• RQ1 AIの性能評価において、認知を解釈者（UTM）に依存せずに形式化するにはどうすればよいか？
• RQ2 エナクティブ認知とパン計算論を用いて、AGIとASIを客観的に定義するにはどうすればよいか？
• RQ3 記述長が適切でない場合、知性を最も適切に測る代理指標は何か、そして弱点がこの役割をどう果たすか？
• RQ4 タスクを、全環境ではなく、有限な実装可能な語彙の内で定義・評価するにはどうすればよいか？
• RQ5 有限でタスク中心の設定でパフォーマンスをどう測定すべきか、一般化の速度を反映するために？

主な発見

• AIXIの一見したパレート最適性は解釈者に依存しており、解釈者を固定すれば主観性を緩和できるが、別の問題を引き起こす。
• エナクティブ・パン計算論的枠組みは心と環境を統合し、認知を局所的なタスク中心語彙内で実現されたものとみなす。
• 弱点（モデルの拡張の大きさ）を、記述長よりも一般化と知性の優れた代理指標として主張する。
• 環境中心のモデリングをタスク中心のモデリングに置き換えるため、語彙ベースのタスク（v-task）の形式的概念を導入する。
• 客観的に最適なAGIはタスク語彙内で最大の弱点を持つ仮説であり、ASIは与えられたタスクの知性値を最大化する語彙を選択する。
• この枠組みは、解釈者よりもタスクに固有となるパフォーマンスを持つAGI/ASIシステムを定義・比較・潜在的に設計する道を提供する。