[论文解读] Current and Future Challenges in Knowledge Representation and Reasoning

James P. Delgrande, Birte Glimm+3 more|arXiv (Cornell University)|Aug 8, 2023

Explainable Artificial Intelligence (XAI)被引用 6

一句话总结

本宣言源自2022年达克斯图尔愿景研讨会，识别了知识表示与推理（KR）当前及未来面临的挑战，倡导将KR与机器学习及人工智能进行复兴性、协同性的整合。它主张符号化、声明式推理对于克服现代人工智能在可解释性与常识推理方面的局限性至关重要，同时提出一项聚焦于混合系统、知识获取以及跨学科合作的研究议程，以推动通用智能的发展。

ABSTRACT

Knowledge Representation and Reasoning is a central, longstanding, and active area of Artificial Intelligence. Over the years it has evolved significantly; more recently it has been challenged and complemented by research in areas such as machine learning and reasoning under uncertainty. In July 2022 a Dagstuhl Perspectives workshop was held on Knowledge Representation and Reasoning. The goal of the workshop was to describe the state of the art in the field, including its relation with other areas, its shortcomings and strengths, together with recommendations for future progress. We developed this manifesto based on the presentations, panels, working groups, and discussions that took place at the Dagstuhl Workshop. It is a declaration of our views on Knowledge Representation: its origins, goals, milestones, and current foci; its relation to other disciplines, especially to Artificial Intelligence; and on its challenges, along with key priorities for the next decade.

研究动机与目标

• 基于机器学习和人工智能的最新进展，重新评估知识表示与推理（KR）的现状。
• 识别KR中的核心挑战，包括常识推理、知识获取以及混合系统设计。
• 通过促进与机器学习、机器人学及信息系统之间的协同，倡导KR在人工智能中发挥更强大、更显著的作用。
• 制定未来十年的研究议程，强调声明式推理、可解释性以及与统计方法的整合。

提出的方法

• 综合分析2022282期达克斯图尔愿景研讨会中各报告、专题讨论与工作组的见解。
• 对KR的关键子领域及相关领域（包括非单调推理、答案集编程、描述逻辑和论证理论）进行分类与分析。
• 评估形式逻辑、贝叶斯网络及概率推理在KR中的作用，特别是在处理不确定性方面。
• 提出KR与机器学习之间的整合路径，尤其通过结合符号方法与神经网络的混合架构。
• 强调声明式表示与推理机制在可解释人工智能与认知建模中的重要性。
• 推荐在人工智能、逻辑学、哲学与计算机科学之间建立协作研究框架，以强化KR在基础与应用层面的作用。

实验结果

研究问题

• RQ1 如何通过符号化KR的复兴来应对现代统计AI与机器学习的局限性？
• RQ2 在符号化KR框架中，实现常识推理面临哪些关键挑战？
• RQ3 如何改进知识获取与维护，以支持可扩展、现实世界中的KR应用？
• RQ4 KR与机器学习应以何种方式实现有意义的整合，以构建推理能力与可解释性更强的混合AI系统？
• RQ5 声明式、符号化推理在通用人工智能的发展中应扮演何种角色？

主要发现

• 尽管机器学习在现代人工智能中占据主导地位，符号化KR对于实现可解释性、鲁棒性与通用智能依然至关重要。
• 当前人工智能的局限性——如缺乏可解释性与常识推理能力——唯有通过KR与符号化推理的进展才能克服。
• 对结合神经网络与符号推理优势的混合系统的需求日益迫切且关键，以实现可靠且可解释的人工智能。
• 知识获取与维护仍是重大瓶颈，亟需新方法以实现KR在实践中的规模化。
• 论证理论、信念修正以及动作与计划推理等方向虽已成熟，但在表达能力与整合性方面仍面临开放挑战。
• KR与机器学习的整合不再是可选项，而是人工智能未来发展的核心，尤其在需要透明度与不确定性推理的领域。