[論文レビュー] Addressing Topic Granularity and Hallucination in Large Language Models for Topic Modelling

Yida Mu, Peizhen Bai+2 more|arXiv (Cornell University)|May 1, 2024

Complex Network Analysis Techniques被引用数 4

ひとこと要約

本稿では、Mistral-7B などのオープンソース LLM に対して、トピックの粒度を向上させるとともに、ゼロショットトピックモデリングにおける幻覚を低減する DPO ベースのファインチューニング手法を提案する。人為的ラベルなしで合成された順序信号を生成する再構成パイプラインを用いることで、幻覚的トピックを顕著に低減し、人間の指示と整合性を高める。敵対的プロンプトにおいて、97% の適合率とたった 1% の幻覚率を達成した。

ABSTRACT

Large language models (LLMs) with their strong zero-shot topic extraction capabilities offer an alternative to probabilistic topic modelling and closed-set topic classification approaches. As zero-shot topic extractors, LLMs are expected to understand human instructions to generate relevant and non-hallucinated topics based on the given documents. However, LLM-based topic modelling approaches often face difficulties in generating topics with adherence to granularity as specified in human instructions, often resulting in many near-duplicate topics. Furthermore, methods for addressing hallucinated topics generated by LLMs have not yet been investigated. In this paper, we focus on addressing the issues of topic granularity and hallucinations for better LLM-based topic modelling. To this end, we introduce a novel approach that leverages Direct Preference Optimisation (DPO) to fine-tune open-source LLMs, such as Mistral-7B. Our approach does not rely on traditional human annotation to rank preferred answers but employs a reconstruction pipeline to modify raw topics generated by LLMs, thus enabling a fast and efficient training and inference framework. Comparative experiments show that our fine-tuning approach not only significantly improves the LLM's capability to produce more coherent, relevant, and precise topics, but also reduces the number of hallucinated topics.

研究の動機と目的

• LLM を用いたトピックモデリングにおける幻覚リスクについて、体系的な調査が不足していることに対処すること。特に、オープンソースモデルにおいて。
• 指示に応じて生成される近似重複または関連のないトピックを低減し、トピックの粒度を向上させること。
• スケーラブルで、アノテーションを必要としないファインチューニングパイプラインを構築し、LLM が人間の意図に整合した一貫性があり、関連性があり、正確なトピックを生成する能力を向上させること。
• LLM を用いたトピックモデリングにおけるトピック品質を測定するための即席型の評価プロトコルを提供すること。

提案手法

• 目的のトピック特性に合わせてモデル出力を整合させるために、オープンソース LLM（Mistral-7B）を Direct Preference Optimization（DPO）を用いてファインチューニングすること。
• 人為的ランキングを必要とせず、生の LLM 生成トピックを合成された順序ペア（好ましい vs. 拒否された）に変換する再構成パイプラインを設計すること。
• 種まきトピックと粒度に関する指示を、モデルが関連性があり、幻覚的でないトピックを生成するように誘導する監視信号として使用すること。
• ファインチューニングが深層部における幻覚的トピック情報の伝播をどのように低減するかを調査するために、アテンション重みの分析を実施すること。
• プロンプトのバリエーションとトピックの一貫性チェックから得られる合成順序データを用いて、敵対的プロンプトに対して耐性のあるモデルを訓練すること。
• 異なる LLM とプロンプトにおいて、トピックの整合性、関連性、幻覚率を測定するための即席型評価フレームワークを実装すること。

Figure 1: Four real-world examples consist of the given document (grey), user prompt (blue), and issues associated with LLM-generated topics (see legends with different colours). Examples (a) and (b) demonstrate issues with inconsistent naming; i.e., LLMs tend to generate topics with different forma

実験結果

リサーチクエスチョン

• RQ1 オフザシェルの LLM がトピックモデリングに使用された際、特に敵対的または複雑なプロンプト下で、幻覚がどの程度まで発生するか。
• RQ2 種まきトピックと粒度に関する指示は、LLM が幻覚的トピックを生成するのをどの程度効果的に抑制できるか。
• RQ3 人為的ラベルなしの順序データを用いて、DPO ベースのファインチューニングアプローチが、トピックの粒度を向上させるとともに、近似重複トピックを低減できるか。
• RQ4 ファインチューニングされた LLM のアテンション機構は、ベースモデルと比較して、幻覚的トピック情報をどのように集約するか。
• RQ5 再構成ベースのパイプラインは、トピックモデリングにおける LLM ファインチューニングのための効果的な順序信号をどの程度生成できるか。

主な発見

• GPT-3.5-turbo はドメイン指示への適合率が 99.3% を達成するが、オフザシェルのオープンソース LLM である Mistral-7B はわずか 8.6% にとどまり、オープンソースモデルにおける幻覚リスクが顕著であることが示された。
• 提案された TopicMistral モデルは、敵対的プロンプト下で幻覚率を 1% まで低減した。これは、ベースの Mistral-7B モデルの 7% と比較して顕著な改善である。
• TopicMistral は、指示制約への適合率が 97% に達した。これは、ベースの Mistral-7B モデルの 16% に比べて顕著に優れている。
• アテンション重みの分析から、TopicMistral は深層部における幻覚的トピック情報の流れを低減していることが示され、誤った予測の抑制が図られていることがわかった。
• 種まきトピックを用いることで、幻覚率はさらに低下し、複雑なプロンプト下でも TopicMistral はわずか 1% の幻覚率を維持した。これは、種まきトピックが抑制戦略として極めて重要であることを示している。
• TopicMistral は関連トピックを検出する真陽性率が 76% を達成し、ベースの Mistral-7B モデルの 68% よりも優れている。特にコンテンツが欠落している、または関連のない場合に顕著な優位性を示した。

Figure 2: An example prompt used in our work: Text enclosed by the special tokens ‘ [/INST] ’ denotes the user instruction; red and blue colours denote the Granularity Description and Seed Topics, respectively.