[论文解读] Commonsense Reasoning, Commonsense Knowledge, and The SP Theory of Intelligence

J. Gerard Wolff|arXiv (Cornell University)|Sep 25, 2016

Bayesian Modeling and Causal Inference参考文献 34被引用 15

一句话总结

本文提出，通过SP计算机模型实现的SP智力理论，利用SP多重匹配实现模式整合、简化与鲁棒推理，为建模常识推理（CSR）和常识知识（CSK）提供了一个统一框架。它展示了SP系统如何通过知识压缩实现无缝、上下文敏感的推理，从而解决复杂CSR挑战，例如对《教父》中马头场景这类隐喻性或情感化场景的解读。

ABSTRACT

This paper describes how the "SP Theory of Intelligence" with the "SP Computer Model", outlined in an Appendix, may throw light on aspects of commonsense reasoning (CSR) and commonsense knowledge (CSK), as discussed in another paper by Ernest Davis and Gary Marcus (DM). In four main sections, the paper describes: 1) The main problems to be solved; 2) Other research on CSR and CSK; 3) Why the SP system may prove useful with CSR and CSK 4) How examples described by DM may be modelled in the SP system. With regard to successes in the automation of CSR described by DM, the SP system's strengths in simplification and integration may promote seamless integration across these areas, and seamless integration of those area with other aspects of intelligence. In considering challenges in the automation of CSR described by DM, the paper describes in detail, with examples of SP-multiple-alignments. how the SP system may model processes of interpretation and reasoning arising from the horse's head scene in "The Godfather" film. A solution is presented to the 'long tail' problem described by DM. The SP system has some potentially useful things to say about several of DM's objectives for research in CSR and CSK.

研究动机与目标

• 为解决在人工智能中自动化常识推理与知识的长期困难，特别是现实世界中依赖上下文的场景。
• 展示SP系统如何建模复杂、直觉性的推理（如叙事或情感语境中的推理），超越当前人工智能的能力。
• 提供一个统一框架，通过信息压缩与模式匹配整合推理、知识表示与学习。
• 通过实现跨多样化、低频次常识场景的可扩展、上下文敏感推理，解决CSR中的‘长尾’问题。
• 表明SP系统中的无监督学习可从原始输入生成有效语法与知识结构，无需外部监督。

提出的方法

• 利用SP多重匹配整合并压缩多种知识模式，实现在多样化领域中的稳健且简化的推理。
• 应用启发式搜索逐步构建高质量的SP多重匹配，避免穷举搜索，同时保持高精度的模式匹配。
• 采用无监督学习从原始输入数据中推导SP语法，通过新SP模式中匹配与未匹配部分形成旧SP模式。
• 通过将句子编码为新SP模式，并与一组表示语法和语义结构的预存旧SP模式对齐，实现自然语言理解与推理的建模。
• 以通用、灵活的格式表示知识，使用SP模式编码跨多个抽象层次的句法、语义与结构信息。
• 以信息压缩作为统一原则：通过匹配实现的模式集合压缩程度越高，其产生的推理或知识结构就越有意义且连贯。

实验结果

研究问题

• RQ1 SP系统如何在《教父》中马头场景这类复杂、上下文依赖的场景中建模常识推理？
• RQ2 SP系统能否有效应对常识推理中的‘长尾’问题，即难以自动化的罕见或低频次推理？
• RQ3 SP多重匹配在多大程度上能支持推理、知识表示与学习在统一框架中的无缝整合？
• RQ4 SP系统的无监督学习机制如何从非结构化输入中生成有用的语法与知识结构？
• RQ5 SP系统通过信息压缩与模式匹配的方法，是否能为CSR与CSK提供比现有AI方法更稳健、更具可扩展性的基础？

主要发现

• SP系统通过SP多重匹配推断出《教父》中马头场景的象征行为背后的威胁意图，成功建模了该场景的解释，展示了上下文与情感推理能力。
• SP系统通过压缩多样化、低频次的常识模式，实现可扩展的、上下文敏感的推理，为‘长尾’问题提供了有效解决方案。
• SP多重匹配实现了推理、知识表示与学习的无缝整合，减少了人工智能各子领域之间的碎片化。
• 该系统的无监督学习机制可从原始输入生成有效的SP语法，形成无需外部监督或强化的结构化知识。
• SP系统通过信息压缩的方法，实现了对复杂语言与概念模式的经济编码，支持稳健且可泛化的推理。
• 该框架在单一统一原则（模式匹配与压缩）下，支持广泛认知功能，包括自然语言处理、模式识别与规划。