[论文解读] Rowen: Adaptive Retrieval-Augmented Generation for Hallucination Mitigation in LLMs

Hanxing Ding, Liang Pang+3 more|arXiv (Cornell University)|Feb 16, 2024

Epilepsy research and treatment被引用 4

一句话总结

Rowen 是一种新颖的自适应检索增强生成框架，通过在多语言扰动下检测内部推理不一致时动态激活外部检索，有效缓解大语言模型（LLMs）中的幻觉问题。与现有方法相比，该方法在显著减少检索调用次数的同时，实现了最先进水平的幻觉缓解效果。

ABSTRACT

Hallucinations present a significant challenge for large language models (LLMs). The utilization of parametric knowledge in generating factual content is constrained by the limited knowledge of LLMs, potentially resulting in internal hallucinations. While incorporating external information can help fill knowledge gaps, it also introduces the risk of irrelevant information, thereby increasing the likelihood of external hallucinations. To balance the use of parametric knowledge within LLMs and external information, in this study, we present Rowen, a novel framework that enhances LLMs with an adaptive retrieval augmentation process tailored to address hallucinated outputs. Rowen introduces a consistency-based hallucination detection module, which assesses the model's uncertainty regarding the input query by evaluating the semantic inconsistencies in various responses generated across different languages or models. When high uncertainties in the responses are detected, Rowen activates the retrieval of external information to rectify the model outputs. Through comprehensive empirical experiments, we demonstrate that Rowen surpasses the current state-of-the-art in both detecting and mitigating hallucinated content within the outputs of LLMs.

研究动机与目标

• 解决大语言模型中由参数化知识有限导致的内部幻觉（internal hallucinations）以及由无关检索导致的外部幻觉（external hallucinations）的双重挑战。
• 开发一种仅在必要时才激活检索的方法，最大限度减少不必要的外部证据注入。
• 通过多语言语义感知检测机制，提升大语言模型输出的事实一致性和可靠性。
• 通过减少冗余检索调用，在事实准确性与推理效率之间实现平衡。
• 实现大语言模型推理中内部参数化知识与外部证据的和谐集成。

提出的方法

• Rowen 采用多语言语义感知幻觉检测模块，将给定查询在多种语言间扰动生成多个语义等价的版本。
• 评估不同语言下这些扰动查询的响应一致性；不一致性表明可能存在内部幻觉。
• 当检测到不一致性时，Rowen 触发检索增强生成过程，利用相关外部证据纠正输出。
• 若不同语言下的响应保持一致，则保留原始内部推理结果，避免不必要的检索。
• 系统使用基于阈值的一致性度量来判断是否需要检索，以在检测灵敏度与检索成本之间实现平衡。
• 该方法通过仅在内部推理不可靠时才激活检索，从而最小化内部与外部幻觉。

实验结果

研究问题

• RQ1 RQ1：多语言一致性检查能否有效检测大语言模型中的内部幻觉？
• RQ2 RQ2：基于一致性检测的自适应检索相比始终开启的检索，能否显著提升事实准确性？
• RQ3 RQ3：基于一致性的检索激活，其最优阈值是多少，才能在检测性能与检索开销之间实现最佳平衡？
• RQ4 RQ4：扰动问题的数量如何影响检测性能与计算成本？
• RQ5 RQ5：与现有 RAG 方法相比，Rowen 在检索效率与幻觉缓解方面表现如何？

主要发现

• Rowen 在 TruthfulQA 和 StrategyQA 基准测试中均实现了最先进水平的幻觉缓解性能。
• Rowen 在 TruthfulQA 上将每道问题的平均检索调用次数降低至 1.5 次，在 StrategyQA 上降低至 0.5 次，优于 FLARE（2.1 和 3.9）与 Detect-and-Mitigate（7.2 和 5.5）。
• 一致性阈值为 0.6 时达到最优性能，平衡了检测准确率与因无关检索引发的外部幻觉风险。
• 使用六个扰动问题即可实现接近最优的性能，超过该数量后收益递减，有利于高效部署。
• 通过在内部推理一致且可靠时避免检索，显著降低了外部幻觉的风险。
• Rowen 的自适应机制在检索调用次数上优于所有对比方法，同时保持或提升了事实准确性。