[論文レビュー] Does AlphaGo actually play Go? Concerning the State Space of Artificial Intelligence

Holger Lyre|arXiv (Cornell University)|Dec 13, 2019

Computability, Logic, AI Algorithms参考文献 29被引用数 15

ひとこと要約

本論文は、人工知能の状態空間の概念的枠組みを提唱し、自己学習（自己-x特性）、問題タイプにわたる一般化、意味的根拠の3つのコア次元を特定している。中国の部屋の Gedankenexperiment や記号の根拠問題といった基礎的哲学的議論を分析することで、AlphaGo や他の現在のAIシステムは、優れた性能を示すものの、意味的理解が欠如しているため、真に「ゴンを遊んでいる」とは言えない、と主張している。

ABSTRACT

The overarching goal of this paper is to develop a general model of the state space of AI. Given the breathtaking progress in AI research and technologies in recent years, such conceptual work is of substantial theoretical interest. The present AI hype is mainly driven by the triumph of deep learning neural networks. As the distinguishing feature of such networks is the ability to self-learn, self-learning is identified as one important dimension of the AI state space. Another main dimension lies in the possibility to go over from specific to more general types of problems. The third main dimension is provided by semantic grounding. Since this is a philosophically complex and controversial dimension, a larger part of the paper is devoted to it. We take a fresh look at known foundational arguments in the philosophy of mind and cognition that are gaining new relevance in view of the recent AI developments including the blockhead objection, the Turing test, the symbol grounding problem, the Chinese room argument, and general use-theoretic considerations of meaning. Finally, the AI state space, spanned by the main dimensions generalization, grounding and "selfx-ness", possessing self-x properties such as self-learning, is outlined.

研究の動機と目的

• 深層学習およびAI技術の急速な進展に応えるために、人工知能の状態空間の概念的モデルを構築すること。
• 人工知能の3つの主要次元、すなわち自己学習（自己-x特性）、広範な問題タイプへの一般化、意味的根拠を特定・分析すること。
• 意味や理解に関する古典的哲学的議論を、現代のAI発展の文脈において再評価すること。
• AlphaGo らようなシステムが、単なるアルゴリズム的動作を超えて、意味的・認知的な意味で「ゴンを遊んでいる」と言えるのかを評価すること。

提案手法

• 自己学習、一般化、意味的根拠の3軸を備えたAIの三次元的状態空間モデルを提唱する。
• 中国の部屋の Gedankenexperiment、ブロックヘッド反論、記号の根拠問題の哲学的分析を通じて、意味的根拠を検討する。
• 意味に関する使用理論的および機能主義的視点を用いて、AIシステムが真の理解を有するかどうかを評価する。
• AlphaGoの行動を人間のゴンの遊び方と比較し、高い性能にもかかわらず意味的根拠が欠如している点に注目する。
• 認知科学および心の哲学の知見を統合し、現在の深層学習システムの限界を評価する。
• AIシステムを性能だけでなく、理解力や一般化能力の有無によって評価する概念的枠組みを構築する。

実験結果

リサーチクエスチョン

• RQ1 人工知能の状態空間を規定する基本的次元は何か？
• RQ2 深層学習ネットワークにおける自己学習は、どの程度真の「自己-x」能力と見なせるか？
• RQ3 問題タイプにわたる一般化は、高度なAIと狭義のタスク特化型システムをどのように区別するか？
• RQ4 人工系において意味的根拠を達成できるのか。その可能性を支持または挑戦する哲学的議論は何か？
• RQ5 AlphaGoのゴンにおけるパフォーマンスは、真の「ゲームの遊び方」を示しているのか。それとも、理解の欠如した高度なパターンマッチングにすぎないのか？

主な発見

• 人工知能の状態空間は、自己学習、一般化、意味的根拠の3次元によって最も適切に概念化できる。
• AlphaGoの高いパフォーマンスにもかかわらず、意味的根拠が欠如しているため、認知的・意図的意味でゴンのゲームを理解しているわけではない。
• 中国の部屋の Gedankenexperiment や記号の根拠問題といった哲学的反論は、現在のAIシステムにおける真の理解の主張を常に挑戦する根拠として依然として有効である。
• 深層学習ネットワークにおける自己学習は、真の自己認識や自己理解と同等ではない。これは『自己-x』次元における重要な違いを示している。
• 問題タイプにわたる一般化は、狭義のAIとより広範な認知的能力を有するシステムを区別する鍵となる。
• 現在のAIシステム、特にAlphaGoは、人間の認知における意味的および意図的次元を欠いた、狭義の状態空間内にとどまっている。