[論文レビュー] Innateness, AlphaZero, and Artificial Intelligence

Gary Marcus|arXiv (Cornell University)|Jan 17, 2018

Reinforcement Learning in Robotics参考文献 32被引用数 98

ひとこと要約

本論文は、AlphaGo/AlphaZero が tabula rasa 学習から超人レベルの性能を達成したという主張を批判し、AI における生来性のより大きな考慮を提唱し、先天的構造の可能な概念を概説する。

ABSTRACT

The concept of innateness is rarely discussed in the context of artificial intelligence. When it is discussed, or hinted at, it is often the context of trying to reduce the amount of innate machinery in a given system. In this paper, I consider as a test case a recent series of papers by Silver et al (Silver et al., 2017a) on AlphaGo and its successors that have been presented as an argument that a "even in the most challenging of domains: it is possible to train to superhuman level, without human examples or guidance", "starting tabula rasa." I argue that these claims are overstated, for multiple reasons. I close by arguing that artificial intelligence needs greater attention to innateness, and I point to some proposals about what that innateness might look like.

研究の動機と目的

• AI研究における生来性の議論の仕方と、それが汎用知能にとってなぜ重要かを評価する。
• Silver らの AlphaGo/AlphaZero が人間のデータや指導なしで学習するという主張を評価する。
• AI の設計に生来の構造や先験的仮定を組み込むことを主張し、潜在的なアプローチを概説する。

提案手法

• AlphaGo/AlphaZero の文献と tabula rasa 学習という概念の批判的分析。
• 堅牢な汎用知性を達成するうえで現在のシステムの限界を論理的に評価する。
• AI システムにおける生来性がどのような形をとりうるかを概説する提案。

実験結果

リサーチクエスチョン

• RQ1 AlphaZero 風のシステムは Silver らが最も強く主張する出発点としての tabula rasa から本当に学習しているのか？
• RQ2 最小限または全く人間の指導を依存しない現在の深層強化学習アプローチの限界は何か。
• RQ3 学習と汎化を強化するために、生来の先験的仮定や構造をどのように定義し、AI に組み込むことができるか。
• RQ4 人工知能に生来性を導入する具体的な提案は何か。

主な発見

• 著者によれば、AlphaGo/AlphaZero が人間の例や指導なしで超人レベルの性能に達するという主張は過大評価である。
• AI の研究開発において生来性へより多くの配慮が必要である。
• 著者は人工システムにおける生来性がどのような形をとるかについての提案を概説している。