[論文レビュー] The limit of artificial intelligence: Can machines be rational?

Tshilidzi Marwala|arXiv (Cornell University)|Dec 16, 2018

Computability, Logic, AI Algorithms参考文献 10被引用数 6

ひとこと要約

この論文は、認知的・情報的制限による人間の非合理性を分析することで、機械が合理性に到達できるかを調査している。人間は本質的に非合理的であるが、AI技術の進歩により、優れた情報処理能力と最適化能力を活かして、機械が人間の合理性を上回ることが可能になるという主張である。

ABSTRACT

This paper studies the question on whether machines can be rational. It observes the existing reasons why humans are not rational which is due to imperfect and limited information, limited and inconsistent processing power through the brain and the inability to optimize decisions and achieve maximum utility. It studies whether these limitations of humans are transferred to the limitations of machines. The conclusion reached is that even though machines are not rational advances in technological developments make these machines more rational. It also concludes that machines can be more rational than humans.

研究の動機と目的

• 限られた情報と処理能力が原因となる人間の非合理性の根本的要因を検討すること。
• 人間の合理性を制限する同じ認知的・計算的制約が、機械の合理性をも制限するかどうかを評価すること。
• AI分野における技術的進歩が、これらの制約を克服し、機械がより高い合理性を達成できるかどうかを調査すること。
• 不確実性や資源制約下での意思決定において、人間と機械の合理性を比較すること。
• 人工知能が合理的行動を達成するにあたり、理論的および実用的限界を特定すること。

提案手法

• 人間の非合理性が、不完全な情報、限られた処理能力、最適でない意思決定から生じることを分析する。
• 人間の認知的制約と機械の処理能力を比較し、特に大規模なデータ処理や複雑な計算処理における差を検証する。
• アルゴリズム最適化と機械学習が意思決定の合理性を向上させる役割を評価する。
• 理論的推論を用いて、機械が人間と同様の生物学的・心理的制限に縛られないことを主張する。
• 技術的進歩が、時間の経過とともに機械の合理性の進化に与える影響を評価する。
• 報酬最大化の原則と意思決定理論を応用し、機械の意思決定が人間の代替手段よりもより合理的である可能性をモデル化する。

実験結果

リサーチクエスチョン

• RQ1 意思決定における人間の非合理性の主な原因は何ですか？
• RQ2 人間の認知的・情報的制限は、どれほど合理的行動を制限しますか？
• RQ3 機械は、人間の合理性を損なう同じ制限を克服できますか？
• RQ4 AI分野における技術的進歩は、人間の意思決定よりも高い合理性を実現するどのような方法で寄与しますか？
• RQ5 実世界の応用において、機械の合理性の理論的および実用的限界は何か？

主な発見

• 人間の非合理性は、主に情報の制限、処理能力の制限、一貫性の欠如に起因する。
• 機械は本質的に非合理的ではなく、人間と同様の生物学的・心理的要因によって制限されない。
• 技術の進歩により、機械は人間よりも大量のデータを処理し、意思決定をより効果的に最適化できる。
• アルゴリズムの効率性を活かしてバイアスを最小限に抑え、報酬を最大化することで、機械は人間よりも高いレベルの合理性を達成できる。
• 本論文は、複雑でデータ集約的な環境において、機械が人間よりも合理的である可能性があると結論づける。
• 人間の合理性の制限は機械に伝播しないため、最適化されたシステムでは、優れた意思決定が可能になる。