[論文レビュー] There is no Artificial General Intelligence

Jobst Landgrebe, Barry Smith|arXiv (Cornell University)|Jun 9, 2019

Topic Modeling参考文献 68被引用数 4

ひとこと要約

この論文は、人工一般知能（AGI）が数学的に不可能であると主張している。なぜなら、動的文脈、意図、感情的サイン、進化する会話の視野を完全に理解する必要がある人間の会話の複雑さを、いかなるチューリングマシンでも完全に習得できないからである。著者らは、流暢で文脈に適応した会話がAGIの必要条件であると結論づけ、それがいかなる計算システムでも達成できない以上、AGIそのものが到達不可能であると結論づけている。

ABSTRACT

The goal of creating Artificial General Intelligence (AGI) -- or in other words of creating Turing machines (modern computers) that can behave in a way that mimics human intelligence -- has occupied AI researchers ever since the idea of AI was first proposed. One common theme in these discussions is the thesis that the ability of a machine to conduct convincing dialogues with human beings can serve as at least a sufficient criterion of AGI. We argue that this very ability should be accepted also as a necessary condition of AGI, and we provide a description of the nature of human dialogue in particular and of human language in general against this background. We then argue that it is for mathematical reasons impossible to program a machine in such a way that it could master human dialogue behaviour in its full generality. This is (1) because there are no traditional explicitly designed mathematical models that could be used as a starting point for creating such programs; and (2) because even the sorts of automated models generated by using machine learning, which have been used successfully in areas such as machine translation, cannot be extended to cope with human dialogue. If this is so, then we can conclude that a Turing machine also cannot possess AGI, because it fails to fulfil a necessary condition thereof. At the same time, however, we acknowledge the potential of Turing machines to master dialogue behaviour in highly restricted contexts, where what is called ``narrow'' AI can still be of considerable utility.

研究の動機と目的

• 流暢で文脈に適応した人間の会話が可能であることは、AGIの必要条件であることを確立すること。
• 文脈の変化、感情的サイン、実用的解釈を含む、人間の会話の構造的・認知的複雑さを分析すること。
• 伝統的なプログラミングや機械学習モデルが、人間の会話の完全な習得を達成できないことを数学的に示すこと。
• 会話の習得がAGIに不可欠であり、それが機械では到達できない以上、AGIそのものが不可能であると主張すること。
• 制限された分野における狭義のAIの可能性と、機械における一般知能を達成する根本的な不可能性を区別すること。

提案手法

• 進化する会話の視野と相互適応を含む、動的で文脈に敏感かつ感情的に多層的な相互作用としての人間の会話の性質を分析すること。
• ターンチェンジの乱れ、誤りの修正、遮断、感情の調節といった会話現象を特定し、それらが機械モデル化における核心的課題であることを明らかにすること。
• 意図、指示詞、暗黙の意味の解釈が、共有知識と伝記的文脈に依存することを検討し、それらが会話解釈に与える影響を分析すること。
• いかなる伝統的な数学的モデルでも、このような会話の複雑さをモデル化する基盤として機能できないと主張すること。
• 翻訳などの狭義のタスクで成功を収めた最新の機械学習モデルですら、人間の会話の完全な一般性を扱うには拡張できないことを示すこと。
• 会話維持のホメオスタシスモデルを用いて、人間の会話の回復力が計算不能な認知的・感情的調整に依存していることを示すこと。

実験結果

リサーチクエスチョン

• RQ1 流暢で文脈に適応した会話が可能であることは、人工一般知能（AGI）の必要条件であるか？
• RQ2 伝統的または機械学習ベースのモデルは、感情的・文脈的変化を含む人間の会話の完全な一般性を再現できるか？
• RQ3 チューリングマシンが人間の会話の完全な複雑さを習得できない数学的・構造的制約は何であるか？
• RQ4 会話が知能の尺度であるというチューリングテストの核心的アイデアは、理論的には魅力的だが、なぜAGIの基準として不十分なのか？
• RQ5 狭義のAIシステムは制限された文脈でどれほど会話を模倣できるのか。そして、なぜそれがAGIにまで至らないのか？

主な発見

• 流暢で文脈に適応した会話が可能であることは、AGIの必要条件である。なぜなら、会話は人間のコミュニケーション、文化、実用的知能の基盤を成すからである。
• 人間の会話は、感情的、意図的、文脈的、構造的次元において継続的かつ動的に適応するものであり、いかなる計算システムでも取り扱いが困難である。
• 人間の会話の完全な一般性をプログラミングで習得する基盤となるような、伝統的な数学的モデルは存在しない。
• 翻訳などの狭義の分野で成功を収めた高度な機械学習モデルですら、オープンエンドな人間の会話の完全な複雑さを扱うには拡張できない。
• 過去の発話の再解釈やリアルタイムの文脈変化を含む、会話の視野の動的進化は、現在の計算アーキテクチャでは捉えることができない。
• 狭義のAIは制限された文脈で会話を模倣できるが、必要な条件＝完全な会話習得が欠落している以上、AGIは原理的に不可能である。