[論文レビュー] Comparison between the two definitions of AI

Dimiter Dobrev|arXiv (Cornell University)|Jan 31, 2013

Computability, Logic, AI Algorithms参考文献 3被引用数 6

ひとこと要約

この論文は、AIの2つの定義を比較している：1つは非形式的で、AIをあらゆる環境で人間を上回るプログラムとして定義し、もう1つは形式的で、テストワールド全体でIQが0.7を超えるプログラムとして定義する。主な貢献は、これらの定義が同等でないことを示したことである。非形式的定義では無限の生涯を仮定しているため、ほぼ無限に近い訓練を要する「遅発的プログラム」（retarded programs）までAIとみなされてしまうが、これはAI概念の実用性を損なう。

ABSTRACT

Two different definitions of the Artificial Intelligence concept have been proposed in papers [1] and [2]. The first definition is informal. It says that any program that is cleverer than a human being, is acknowledged as Artificial Intelligence. The second definition is formal because it avoids reference to the concept of human being. The readers of papers [1] and [2] might be left with the impression that both definitions are equivalent and the definition in [2] is simply a formal version of that in [1]. This paper will compare both definitions of Artificial Intelligence and, hopefully, will bring a better understanding of the concept.

研究の動機と目的

• 先行研究で提唱された2つの代表的なAI定義の概念的・形式的差異を明確化すること。
• 非形式的定義（AIとは人間を上回るプログラム）と形式的定義（IQ > 0.7のプログラム）が論理的に同等であるかどうかを調査すること。
• プログラムの生涯が無限か有限かという仮定が知能評価に与える影響を分析すること。
• 任意に長い訓練期間を経てやがて成功するというプログラムの能力が、知能とみなされるべきかどうかという仮定に疑問を呈すること。
• 実用的で意味のある知能を捉えるのに、形式的IQベースの定義が優れていると主張すること

提案手法

• 非形式的定義を形式化し、任意の非致命的ワールドにおいてプログラムのパフォーマンスと抽象的人間のパフォーマンスを比較すること。
• IQを、テストワールド群におけるプログラムの平均成功確率として定義し、AIの閾値としてIQ > 0.7を採用すること。
• 「遅発的プログラム」（near-infinite trainingを要するプログラム）を導入し、2つの定義の頑健性を検証すること。
• プログラムの生涯の影響を分析：無限（定義1）対有界（定義2）、および定義2では専用の訓練期間を排除すること。
• 不滅のプログラムと死んだ人間を想定した思考実験を通じて、無限時間スパンでのパフォーマンス比較に内在する欠陥を浮き彫りにすること。
• 「速く学べば生き延びる、学ばなければ食い殺される」という原則を適用し、形式的定義における訓練期間ゼロの仮定を正当化すること

実験結果

リサーチクエスチョン

• RQ1 非形式的定義（あらゆるワールドで人間を上回るAI）と形式的定義（IQ > 0.7）は論理的に同等か？
• RQ2 プログラムの生涯が無限であると仮定すると、ほぼ無限に近い訓練を要するプログラムがAIとして分類される影響は何か？
• RQ3 なぜ形式的定義では訓練期間が除外されているのか？ また、訓練時間をゼロと仮定する場合の意味は何か？
• RQ4 実際の人間（死ぬ）と抽象的人間（疲れず死なない）を比較した場合、何が生じるか？
• RQ5 IQ = 0.5（例：ランダムまたは定数移動）のプログラムは、どちらの定義でもAIとみなされるか？ これにより閾値にどのような含意が生じるか？

主な発見

• 2つのAI定義は同等でない。非形式的定義では、無限の生涯を仮定しているため、ほぼ無限に近い訓練を要する「遅発的プログラム」までAIとみなされてしまう。
• IQ = 0.5（例：ランダムまたは停止したプログラム）のプログラムは、無限時間にわたり死んだ人間と同等の平均成功を示すため、その平均成功確率は等しくなる。これは非形式的定義の根幹を揺るがす。
• 形式的定義（IQ > 0.7）はより頑健である。これは有限で有界された生涯におけるパフォーマンスを評価するため、無限時間に起因するパラドックスを回避できる。
• 非形式的定義では、抽象的人間（常に健康で警戒を保つ）を仮定する必要がある。実際の人間を用いると、たとえ最も愚かなプログラムでも長期的には人間を上回るという直感に反する結果が生じる。
• 本論文は、IQを生涯の極限（∞に近づく）ではなく、実際のプログラムの生涯に応じて定義すべきだと主張する。これにより、学習が遅いプログラムが誤って知能とみなされるのを防げる。
• 形式的定義は、限られた訓練時間や有限のリソースといった現実世界の制約をよりよく反映しており、実用的なAI評価に適している