[论文解读] The limit of artificial intelligence: Can machines be rational?

Tshilidzi Marwala|arXiv (Cornell University)|Dec 16, 2018

Computability, Logic, AI Algorithms参考文献 10被引用 6

一句话总结

本文研究机器是否可以通过分析人类因认知和信息局限导致的非理性行为来实现理性。文章认为，尽管人类本质上是非理性的，但人工智能技术的进步使机器能够通过更优越的信息处理和优化能力超越人类理性。

ABSTRACT

This paper studies the question on whether machines can be rational. It observes the existing reasons why humans are not rational which is due to imperfect and limited information, limited and inconsistent processing power through the brain and the inability to optimize decisions and achieve maximum utility. It studies whether these limitations of humans are transferred to the limitations of machines. The conclusion reached is that even though machines are not rational advances in technological developments make these machines more rational. It also concludes that machines can be more rational than humans.

研究动机与目标

• 考察人类非理性的根本原因，包括信息有限和处理能力受限。
• 评估限制人类理性的相同认知和计算约束是否同样限制机器。
• 研究人工智能技术进步是否能克服这些限制，使机器实现更高的理性。
• 比较人类与机器在不确定性和资源约束下的决策理性。
• 确定人工智能在实现理性行为方面的理论与实际限制。

提出的方法

• 分析人类非理性源于信息不完善、处理能力有限以及决策欠佳。
• 将人类认知限制与机器处理能力进行比较，尤其关注其处理大规模数据和复杂计算的能力。
• 评估算法优化和机器学习在提升决策理性的作用。
• 运用理论推理论证机器不受与人类相同的生物和心理限制约束。
• 评估技术进步对机器理性随时间演变的影响。
• 应用效用最大化和决策理论原则，将机器决策建模为可能比人类选择更具理性。

实验结果

研究问题

• RQ1 人类决策中的非理性主要成因是什么？
• RQ2 人类认知和信息局限在多大程度上制约了理性行为？
• RQ3 机器能否克服阻碍人类理性的相同限制？
• RQ4 人工智能的技术进步在哪些方面可导致比人类决策更高的理性？
• RQ5 机器理性在现实应用中的理论与实际限制是什么？

主要发现

• 人类非理性主要源于信息有限、处理能力受限以及决策不一致。
• 机器本身并非非理性；其理性不受与人类相同的生物和心理因素制约。
• 技术进步使机器能够更有效地处理海量数据并优化决策，优于人类。
• 机器可通过算法效率最小化偏见并最大化效用，从而实现高于人类的理性水平。
• 本文结论认为，机器在复杂、数据密集的环境中可比人类更具理性。
• 人类理性的局限不会传递到机器，使优化系统中的决策能力更优越。