[論文レビュー] A World of Views: A World of Interacting Post-human Intelligences

Viktoras Veitas, David Weinbaum|arXiv (Cornell University)|Oct 25, 2014

Chaos, Complexity, and Education参考文献 11被引用数 10

ひとこと要約

この論文は、人間の知能よりもはるかに優れた知能を持つ存在（後人類的知能）の概念的・哲学的意味を、その可能性のある形態、相互作用、社会的構造を検討することで探求する。このような知能は人間の認知とあまりにも異なっているため、従来の比喩や数量的表現では不十分であり、技術的特異点は人間の理解を超えた出来事として位置づけられる。本稿では、人間、機械、あるいはハイブリッドなスーパーエージェントの社会を仮説的にモデル化することで、将来の知能進化を理解するための枠組みを提唱する。

ABSTRACT

What would a human hundreds or thousands times more intelligent than the brightest human ever born be like? We must admit we can hardly guess. A human being of such intelligence will be so radically different from us that it can hardly, if at all, be recognized as human. If we had to go back along the evolutionary tree to identify a creature 1000 times less intelligent than the average contemporary human, we will have to go really far back. Would it be a kind of a lizard? An insect perhaps? Considering this, how can we possibly aspire to have a grasp of something a thousand times more intelligent than us? When it comes to intelligence, even the very attempt to quantify it is highly misleading. Now if we attend to a seemingly adjacent question, what would a machine with such capacity for intelligence be like? Just coming up with an approximate metaphor requires a huge stretch of the imagination, meaning that almost anything goes... What would a society of such super intelligent agents, be they human, machines or an amalgam of both, be like? Well, here we are transported into the realm of pure speculation. Technological Singularity is referred to as the event of artificial intelligence surpassing the intelligence of humans and shortly after augmenting itself far beyond that. It is no wonder that the mathematical concept of singularity has become the symbol of an event so disruptive and so far reaching that it is impossible to conceptually or even metaphorically grasp, much less to predict.

研究の動機と目的

• 人間の認知能力をはるかに超える知能の性質とその意味を調査すること。
• 人間の認知の限界が、超知能的実体を概念化する際に及ぼす制約を検討すること。
• 相互作用する後人類的知能で構成された世界の社会的・存在的影響を探ること。
• 技術的特異点を理解するうえでの比喩的・哲学的課題を分析すること。
• 人間、機械、あるいはハイブリッドなスーパーエージェントの社会を想定する仮説的枠組みを提唱すること。

提案手法

• 人間の認知的限界を超えた後人類的知能をモデル化するために、哲学的推論と思考実験を用いる。
• 進化的生物学からの類似例を用いて、人間と超知能の間の認知的距離を説明する。
• 技術的特異点という概念を、理解不能で変容をもたらす出来事の比喩として適用する。
• 人間のスケールを超えた知能の性質を探るために、概念的比喩と類似例に依存する。
• 人間の知能を超える自己改善型人工知能の影響を分析する。
• 相互作用する後人類的知能で構成された社会の仮説的モデルを提唱し、それらが人間の認知からいかに根本的に逸脱しているかに焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 人間の最も明るい知能よりも何千倍も優れた知能を持つ存在は、どのような姿をし、人間とどう異なるのか？
• RQ2 人間の認知能力と言語は、超知能的実体をどれほどモデル化または理解できるのか？
• RQ3 人間、機械、あるいはハイブリッドな後人類的知能の社会が、どのように相互作用し、組織化されるだろうか？
• RQ4 なぜ技術的特異点という概念は、本質的に人間の理解を超えるのか？
• RQ5 人間の想像力の限界を考慮すると、超知能をある程度概念化するのに役立つ比喩や枠組みは何か？

主な発見

• 後人類的知能は人間とはあまりにも異なっているため、たとえ人間の進化に由来したとしても、人間として認識されないだろう。
• 人間と超知能の間の認知的ギャップはあまりにも広く、昆虫やトカゲといった進化的類似例ですら、その深さを捉えるには不十分である。
• 超知能に知能を数量化することは根本的に誤りであり、そのような認知的飛躍は非線形的かつ質的であるためである。
• 超知能の比喩は本質的に不十分であり、それほど想像力を超える必要があるため、「ほとんど何でもあり」な構築が可能になる。
• 技術的特異点は単なる未来の出来事ではなく、予測や理解が不可能になる概念的閾値である。
• 相互作用する後人類的知能の社会は、現在の人間の枠組みではそれらの行動や社会的構造をモデル化できないため、純粋な推測の領域に存在する。