[论文解读] Complex QA and language models hybrid architectures, Survey

Xavier Daull, Patrice Bellot+3 more|arXiv (Cornell University)|Feb 17, 2023

Topic Modeling参考文献 310被引用 6

一句话总结

本综述全面分析了将大语言模型（LLMs）与符号化、程序化及知识驱动组件相结合的混合架构，以应对复杂问答（CQA）挑战。它评估了多步推理、世界建模和分解等能力，并提出了混合策略——如神经符号集成、主动式人机协同强化学习以及程序合成——以提升非事实性、多源及多步问答任务中的准确性、可解释性和安全性。

ABSTRACT

This paper reviews the state-of-the-art of large language models (LLM) architectures and strategies for "complex" question-answering with a focus on hybrid architectures. LLM based chatbot services have allowed anyone to grasp the potential of LLM to solve many common problems, but soon discovered their limitations for complex questions. Addressing more specific, complex questions (e.g., "What is the best mix of power-generation methods to reduce climate change ?") often requires specialized architectures, domain knowledge, new skills, decomposition and multi-step resolution, deep reasoning, sensitive data protection, explainability, and human-in-the-loop processes. Therefore, we review: (1) necessary skills and tasks for handling complex questions and common LLM limits to overcome; (2) dataset, cost functions and evaluation metrics for measuring and improving (e.g. accuracy, explainability, fairness, robustness, groundedness, faithfulness, toxicity...); (3) family of solutions to overcome LLM limitations by (a) training and reinforcement (b) hybridization, (c) prompting, (d) agentic-architectures (agents, tools) and extended reasoning.

研究动机与目标

• 识别并系统化复杂问答（CQA）所需的核心能力，包括多步推理、世界建模和分解能力。
• 分析独立运行的LLMs在处理非事实性、多源及多步问题时的局限性，特别是幻觉、偏见和缺乏可解释性等问题。
• 评估混合架构模式（如神经符号系统、程序合成和人机协同强化学习）在提升LLMs在复杂任务中表现方面的有效性。
• 评估HELM、BLOOM和BIG等基准在为LLMs在CQA中的能力与局限性建立基线方面的作用。
• 提出一个整合人类反馈、结构化知识和多模态数据的框架，以提升CQA系统在真实性、安全性及领域适应性方面的表现。

提出的方法

• 利用社区基准系统性地评估LLM能力：HELM用于整体评估，BLOOM用于多语言开源模型分析，BIG用于探测复杂推理和少样本泛化能力。
• 将复杂问答能力分类为若干类别：世界建模（空间、时间、因果、信念状态）、分解能力，以及经验学习（通过反馈实现自我改进）。
• 设计融合LLMs与符号化AI、知识图谱及程序化推理的混合架构，以支持多跳、多源及非事实性问答。
• 应用主动式人机协同强化学习（RLHP、RLAIF）和迭代分解方法，以提升模型与人类意图及事实准确性的对齐。
• 使用提示工程策略、微调以及在结构化数据上的预训练，将LLMs与事实知识对齐，减少幻觉现象。
• 整合多模态搜索与结构化知识对齐机制，以支持在复杂问答流程中跨文本、视觉和知识库进行推理。

实验结果

研究问题

• RQ1 在超越简单事实检索的复杂问答中，除基本事实获取外，还需要哪些关键认知与推理能力？
• RQ2 当前LLMs在涉及多步推理、分解和世界建模的复杂问答任务中的表现如何？其主要失败模式是什么？
• RQ3 哪些混合架构模式能有效结合LLMs与符号化、程序化或知识驱动组件，以提升准确性和可解释性？
• RQ4 如何利用人机协同反馈与强化学习，使LLMs更好地对齐人类价值观，减少偏见，并提升复杂问答中的真实性？
• RQ5 HELM、BLOOM和BIG等基准在识别和量化LLMs在复杂推理与多源信息整合中的局限性方面发挥什么作用？

主要发现

• 独立运行的LLMs在需要多步推理、分解或时间与因果理解的复杂非事实性问题上频繁失败，即使在简单任务上其表现已超过人类。
• HELM和BIG等基准揭示了LLMs在复杂问答任务中存在显著性能差距，尤其在公平性、鲁棒性和真实性方面，顶尖模型在多跳推理和程序化推理任务上仍逊于专家人类。
• 混合架构——特别是结合LLMs与符号推理、知识图谱及程序合成的架构——在复杂问答任务中显著提升了准确性和一致性，减少了幻觉现象并增强了可解释性。
• 主动式人机协同强化学习（如RLHF、RLAIF）显著增强了模型与人类意图及价值观的对齐，尤其在敏感或复杂领域中表现突出。
• 长上下文与多模态推理仍是重大挑战，当前模型在整合跨文档、时间或模态的信息时，难以维持连贯性与事实准确性。
• 经验学习与增量知识整合对于长期系统改进至关重要，使系统能够随时间适应新信息与反馈。