[论文解读] Interpreting Winograd Schemas Via the SP Theory of Intelligence and Its Realisation in the SP Computer Model

J. Gerard Wolff|arXiv (Cornell University)|Oct 9, 2018

Computability, Logic, AI Algorithms参考文献 34被引用 6

一句话总结

本文提出，通过利用语言特征与语义知识之间的非连续关联，SP智能理论（在SP计算机模型中实现）能够解决Winograd Schema（WS）中的歧义问题。通过将句法结构与语义角色通过模式对齐，该系统利用上下文和常识知识对代词（如'they'）进行消歧，从而在无需依赖启发式方法的情况下，准确解释测试案例中的语义。

ABSTRACT

In 'Winograd Schema' (WS) sentences like "The city councilmen refused the demonstrators a permit because they feared violence" and "The city councilmen refused the demonstrators a permit because they advocated revolution", it is easy for adults to understand what "they" refers to but can be difficult for AI systems. This paper describes how the SP System -- outlined in an appendix -- may solve this kind of problem of interpretation. The central idea is that a knowledge of discontinuous associations amongst linguistic features, and an ability to recognise such patterns of associations, provides a robust means of determining what a pronoun like "they" refers to. For any AI system to solve this kind of problem, it needs appropriate knowledge of relevant syntax and semantics which, ideally, it should learn for itself. Although the SP System has some strengths in unsupervised learning, its capabilities in this area are not yet good enough to learn the kind of knowledge needed to interpret WS examples, so it must be supplied with such knowledge at the outset. However, its existing strengths in unsupervised learning suggest that it has potential to learn the kind of knowledge needed for the interpretation of WS examples. In particular, it has potential to learn the kind of discontinuous association of linguistic features mentioned earlier.

研究动机与目标

• 解决在Winograd Schema（WS）句子中使用统一认知框架解释模糊代词的挑战。
• 证明SP系统可通过整合句法、语义与世界知识，解决WS的解释问题。
• 表明语言特征之间的非连续关联可实现超越简单选择性限制的稳健消歧。
• 探索在当前限制下，SP框架中此类知识的无监督学习可行性。
• 为自然语言理解中的常识推理提供一种形式化且可解释的机制。

提出的方法

• SP系统使用SP模式的多重对齐，将表层句法结构与底层语义角色关联起来。
• 每个词均以SP模式表示，包含表层形式、含义及词类（例如：'N n3 councilmen COUNCILMEN PEACE_LOVING #N'）。
• 句法结构（如：'the city councilmen refused the demonstrators a permit'）被编码为SP模式，包含角色如施事、动作、受事与宾语。
• 语义结构（如：'actionA agentA patientA objectA'）通过匹配符号（如：'agnt_a #agnt_a' 与 'agentA' 对齐）与句法模式对齐。
• 通过评估哪种语义解释最符合关联模式（尤其是将代词与其指代对象非连续关联的模式），实现消歧。
• 系统依赖预先提供的世界知识（特别是关于政治角色与动机的知识），因为当前SP学习能力尚不足以获取此类知识。

实验结果

研究问题

• RQ1 SP系统如何通过句法与语义模式对齐，消解Winograd Schema条目中的代词歧义？
• RQ2 语言特征与语义角色之间的非连续关联在解决WS歧义中起到何种作用？
• RQ3 SP系统能否在不依赖启发式捷径或选择性限制的情况下解释WS条目？
• RQ4 SP系统当前的无监督学习能力在多大程度上可支持获取WS解释所需的常识知识？
• RQ5 SP框架中句法与语义的整合如何实现稳健且可解释的消歧？

主要发现

• SP系统通过利用非连续关联对句法与语义模式进行对齐，成功消解了三个Winograd Schema条目中的代词歧义。
• 在'The city councilmen refused the demonstrators a permit because they feared violence'中，'they'的指代被正确解析为指代市议会成员，依据是语义合理性与角色对齐。
• 在'The city councilmen refused the demonstrators a permit because they advocated revolution'中，系统正确识别出'they'指代的是示威者，依据是语义一致性与模式匹配。
• 该方法通过依赖整合的句法-语义模式对齐，而非表面共现统计，避免了使用'廉价技巧'或选择性限制。
• SP系统通过共享符号结构表示并统一句法与语义，使模糊句子的解释保持一致。
• 尽管系统目前需要预设的世界知识，但其架构显示出未来实现此类知识无监督学习的强大潜力。