[论文解读] Reliable Natural Language Understanding with Large Language Models and Answer Set Programming

Abhiramon Rajasekharan, Yankai Zeng+2 more|arXiv (Cornell University)|Feb 7, 2023

Topic Modeling参考文献 27被引用 5

一句话总结

该论文提出STAR框架，结合大语言模型（LLMs）进行语义解析与答案集编程（ASP）进行可靠、可解释的推理，以提升自然语言理解中的推理能力。通过使用LLMs从文本中提取谓词，利用ASP执行目标导向的、基于逻辑的推理，STAR显著提升了推理准确性——尤其在小型LLMs上表现突出——同时在定性推理、数学应用题和交互式客服对话中生成证明树，实现完全可解释性。

ABSTRACT

Humans understand language by extracting information (meaning) from sentences, combining it with existing commonsense knowledge, and then performing reasoning to draw conclusions. While large language models (LLMs) such as GPT-3 and ChatGPT are able to leverage patterns in the text to solve a variety of NLP tasks, they fall short in problems that require reasoning. They also cannot reliably explain the answers generated for a given question. In order to emulate humans better, we propose STAR, a framework that combines LLMs with Answer Set Programming (ASP). We show how LLMs can be used to effectively extract knowledge -- represented as predicates -- from language. Goal-directed ASP is then employed to reliably reason over this knowledge. We apply the STAR framework to three different NLU tasks requiring reasoning: qualitative reasoning, mathematical reasoning, and goal-directed conversation. Our experiments reveal that STAR is able to bridge the gap of reasoning in NLU tasks, leading to significant performance improvements, especially for smaller LLMs, i.e., LLMs with a smaller number of parameters. NLU applications developed using the STAR framework are also explainable: along with the predicates generated, a justification in the form of a proof tree can be produced for a given output.

研究动机与目标

• 为解决LLMs在复杂推理任务中的局限性，其常因推理缺陷或缺乏可解释性而犯错。
• 开发一种系统，通过整合语义解析、常识知识与显式推理，模拟人类般的语言理解能力。
• 提升在需要多步推理的自然语言理解应用中的性能与可靠性，尤其针对推理能力有限的小型LLMs。
• 通过证明树生成可解释的输出，以证明推理过程，实现透明化与错误分析。
• 支持交互式、目标导向的对话，确保正确追踪并推理用户提供的信息，避免幻觉或矛盾。

提出的方法

• 使用微调后的LLMs或少样本提示学习的LLMs（如GPT-3变体）将自然语言转换为表示语义意义的逻辑谓词。
• 将领域特定的常识知识编码为答案集编程（ASP）中的规则，以实现形式化、基于逻辑的推理。
• 使用目标导向的ASP求解器（s(CASP)）在LLM提取的谓词与ASP编码的知识相结合的知识库上执行查询。
• 通过人工或LLMs生成查询，以表示用户问题或对话目标。
• 从ASP推理过程中构建证明树，为每个答案提供可解释的输出。
• 将该框架集成到三种不同的自然语言理解应用中：定性推理、数学应用题和交互式客服对话。

实验结果

研究问题

• RQ1 与仅使用LLMs相比，结合LLMs与ASP是否能提升自然语言理解任务中的推理性能？
• RQ2 STAR框架是否能减少小型LLMs在需要多步逻辑的任务中的推理错误？
• RQ3 该系统是否能通过证明树生成可解释的输出，以追踪推理过程？
• RQ4 与端到端的LLM对话机器人相比，该框架在交互式、目标导向对话中的表现如何？
• RQ5 语义解析（LLM）与推理（ASP）的分离在多大程度上提升了可靠性与知识透明度？

主要发现

• STAR在定性推理和数学应用题任务中显著提升了答案预测准确率，性能提升在小型LLMs（如Curie，约6.7B参数）上最为明显。
• 该框架生成的证明树可为每个答案提供合理解释，实现推理过程的完全可解释性与透明性，这是仅使用LLMs无法实现的。
• 在客服对话任务中，基于STAR的对话机器人保持了信息一致性，避免了幻觉或混淆用户提供的信息，而仅使用LLMs的系统则存在此类问题。
• 在交互式场景中，系统通过正确识别并请求缺失信息，展现出更强的控制力，从而产生更可靠、连贯的对话。
• 将LLM提取的谓词与ASP知识相结合，有助于诊断推理失败原因，并识别常识知识中的知识缺口。
• STAR在大多数QuaRel定性推理数据集上达到了当前最先进水平，证明其在结构化推理任务中的有效性。