[論文レビュー] "Weak AI" is Likely to Never Become "Strong AI", So What is its Greatest Value for us?

Bin Liu|arXiv (Cornell University)|Mar 29, 2021

Explainable Artificial Intelligence (XAI)参考文献 21被引用数 9

ひとこと要約

この論文は、『弱いAI』—特定のタスクに優れたが真の理解を持たないディープラーニングシステム—が、おそらく『強いAI』（人工一般知能）に進化することはないが、その最大の価値は、ビッグデータからのスケーラブルでデータ駆動型のパターン抽出を可能にすることにあると主張する。弱いAIを人間レベルの認知への道筋ではなく、実用的な経験的手法として捉えることで、論文はその役割を、現実世界のビッグデータ応用において不可欠なものへと再定義する。

ABSTRACT

AI has surpassed humans across a variety of tasks such as image classification, playing games (e.g., go, "Starcraft" and poker), and protein structure prediction. However, at the same time, AI is also bearing serious controversies. Many researchers argue that little substantial progress has been made for AI in recent decades. In this paper, the author (1) explains why controversies about AI exist; (2) discriminates two paradigms of AI research, termed "weak AI" and "strong AI" (a.k.a. artificial general intelligence); (3) clarifies how to judge which paradigm a research work should be classified into; (4) discusses what is the greatest value of "weak AI" if it has no chance to develop into "strong AI".

研究の動機と目的

• 『弱いAI』（タスク特化型システム）と『強いAI』（人間レベルの理解を持つシステム）の根本的な違いを明確にすること。これは、一般および学術的議論においてしばしば曇っている。
• 『弱いAI』分野における実際の進歩が顕著である一方で『強いAI』は依然としてほとんど達成されていないことから、AI分野における長年の論争を解消すること。
• 『弱いAI』の主な価値は、人間の意味的知能や意識に到達することではなく、スケーラブルで効率的かつ正確なデータ処理を可能にすることにあると主張すること。
• 人間知能のメカニズムに関する理解の進展に寄与するかどうかに基づき、AI研究を『弱い』か『強い』か分類する明確な基準を提示すること。
• 今後のAI議論において混乱を避けるために、研究者と一般の間でより的確で建設的な対話を促進するための明確な用語使用を提言すること。

提案手法

• ジョン・セールの『中国の部屋』の思考実験を概念的枠組みとして用い、『弱いAI』が理解を持たずに知能を模倣することを区別する。
• 分類基準を提唱：研究が人間知能のメカニズムに関する新たな知見を提供する場合、それは『強いAI』のパラダイムに属する。そうでなければ『弱いAI』に分類される。
• 最近のAIの飛躍的進歩（例：AlphaGo、GPT-3）を、因果的推論や理解ではなく、データ駆動型のパターン学習によって達成された『弱いAI』の例として分析する。
• 特にディープラーニングと強化学習を含む、経験的・データ駆動型の手法が『弱いAI』の進歩の原動力であることを強調し、理論的・哲学的動機によるアプローチと対比する。
• ペール、マーカス、ビショップらの主要なAI研究者たちの批判を用いて、現在の『弱いAI』の限界と、『強いAI』を達成するための継続的な課題を示す。
• 『強いAI』の評価方法が信頼性がないこと、ゲーデルの不完全性定理がさらに障壁を強化していることから、現在のパラダイムでは『強いAI』が到達不可能である可能性が高まるという主張を行う。

実験結果

リサーチクエスチョン

• RQ1 近年の著しい進歩にもかかわらず、なぜAIに関する論争が根強く残っているのか？
• RQ2 概念的および実用的観点から、『弱いAI』と『強いAI』の違いは何か？
• RQ3 『弱いAI』は、将来的に『強いAI』に進化できるのか？ そのような移行を阻害する理論的・実務的障壁は何か？
• RQ4 『弱いAI』が人間レベルの理解や一般知能を達成できない場合、その最大の実用的価値は何か？
• RQ5 研究者と一般がAI研究を分類・議論する際、混乱を避け、より生産的な対話を促進するにはどうすればよいか？

主な発見

• 『弱いAI』とは、理解や意識を持たずに知的行動を模倣するシステムを指す。例えば、画像認識やゲームプレイにおいて優れた性能を発揮するディープラーニングモデルがこれに該当する。
• 広く称賛されているにもかかわらず、『弱いAI』は人間レベルの認知を再現することを目的とする『強いAI』分野を前進させなかった。なぜなら、人間知能のメカニズムに関する洞察を欠いているからである。
• AlphaGo や GPT-3 といった最近の飛躍的進歩は、理論的理解ではなく、データ駆動型の経験的手法によって達成されたものであり、理解なしに人間を上回る性能を発揮できることを示している。
• 『弱いAI』の最大の価値は、ビッグデータ内の複雑なパターンを効率的かつスケーラブルに抽出・表現・活用できる能力にあり、現実世界のデータ集約的応用において不可欠である。
• 『強いAI』の信頼性ある評価方法の欠如、およびゲーデルの不完全性定理といった哲学的障壁が、現在のアプローチでは『強いAI』が到達不可能である可能性を示唆している。
• 今後の『弱いAI』の進歩は、自動ML、動的ポートフォリオ、クラウドインfraの統合によって得られる可能性が高く、真の理解に到達せずに、自動化と耐障害性のさらなる強化が図られるだろう。