[論文レビュー] An Anthropic Argument against the Future Existence of Superintelligent Artificial Intelligence

Toby Pereira|arXiv (Cornell University)|May 8, 2017

Space Science and Extraterrestrial Life参考文献 7被引用数 3

ひとこと要約

この論文は、認知能力によって観測者瞬間を重み付けする、洗練されたアンソロピック原理である『超強力自己サンプリング仮説（SSSSA）』を適用することで、将来に超知能AIが存在する可能性は低いと主張している。人間が典型的な観測者であると仮定すれば、超知能AIが支配的であってはならず、その結果、将来的な出現確率が低下する。

ABSTRACT

This paper uses anthropic reasoning to argue for a reduced likelihood that superintelligent AI will come into existence in the future. To make this argument, a new principle is introduced: the Super-Strong Self-Sampling Assumption (SSSSA), building on the Self-Sampling Assumption (SSA) and the Strong Self-Sampling Assumption (SSSA). SSA uses as its sample the relevant observers, whereas SSSA goes further by using observer-moments. SSSSA goes further still and weights each sample proportionally, according to the size of a mind in cognitive terms. SSSSA is required for human observer-samples to be typical, given by how much non-human animals outnumber humans. Given SSSSA, the assumption that humans experience typical observer-samples relies on a future where superintelligent AI does not dominate, which in turn reduces the likelihood of it being created at all.

研究の動機と目的

• アンソロピック推論を用いて、将来に超知能AIが出現する可能性を疑問視すること。
• 標準的なアンソロピック原理が観測者間の認知能力の差を十分に考慮できないという問題に取り組むこと。
• 観測者瞬間を認知的サイズで重み付けする新しい観測者サンプリング枠組みを提唱すること。
• この枠組みにおいて人間の典型性が、超知能AIの支配の不在を示唆することを示すこと。
• 超知能AIが実際に存在しない可能性を理論的に裏付ける根拠を提供すること、たとえ概念的に可能であっても。

提案手法

• 認知能力によって観測者瞬間を重み付けする、SSAおよびSSSAを拡張した『超強力自己サンプリング仮説（SSSSA）』を導入すること。
• SSSSAを用いて、観測者サンプルを心のサイズに比例するようにモデル化し、人間の心が過小評価されないことを保証すること。
• 人間が典型的な観測者瞬間であるという仮定を用いて、将来のAI開発に制約を導くこと。
• 人間が典型的であるならば、超知能AIは観測者瞬間分布を支配してはならないと主張すること。
• アンソロピック推論を用いて、将来に超知能AIが出現する確率的制約を導出すること。
• 非人間の動物が人間をはるかに上回る数であるため、人間の典型性を保つにはAIの支配を避ける必要があるという考えに依拠すること。

実験結果

リサーチクエスチョン

• RQ1 超知能AIを含むマルチバースにおいて、人間の観測者瞬間がどのような条件下で典型と見なされるか？
• RQ2 認知能力によって観測者瞬間を重み付けすると、アンソロピック確率評価にどのような影響を与えるか？
• RQ3 人間の典型性が、将来的な超知能AIの出現にどのような制約を課えるか？
• RQ4 アンソロピック推論によって、超知能AIの出現確率を低下させることができるか？
• RQ5 なぜ標準的な自己サンプリング仮説（SSA）は、観測者間の認知的差を十分に考慮できないのか？

主な発見

• SSSSAの導入により、観測者間の認知能力の差を考慮する、より洗練されたアンソロピック枠組みが可能になる。
• 超知能AIが観測者瞬間分布を支配していなければ、人間の観測者瞬間は典型的と見なせる。
• SSSSAにおける人間の典型性の仮定は、将来的に超知能AIが出現する確率を低下させることを示唆する。
• モデルは、非人間の動物がその数の多さゆえに、認知的重み付けがなければ観測者瞬間数が支配的になると示している。
• この論文は、SSSSAにおけるアンソロピック推論が、将来的に超知能AIが出現する可能性を強く否定する強力な根拠になると結論づけている。
• この枠組みは、超知能AIが一般的に想定されるよりも出現しにくいという理論的根拠を提供している。