[논문 리뷰] Addressing LLM Diversity by Infusing Random Concepts
본 논문은 프롬프트에 무작위 단어나 문장을 앞에 붙여 프롬프트의 다양성(고유 항목 수 및 엔트로피)을 증가시키는 경량 프롬프트 방법을 여러 모델에서 리스트 생성 태스크에 대해 테스트한다.
Large language models (LLMs) are known to produce outputs with limited diversity. In this work, we study whether infusing random concepts in the prompts can improve the diversity of the generated outputs. To benchmark the approach, we design a systematic evaluation protocol which involves prompting an LLM with questions of the form "Name 10 Hollywood actors", and analyzing diversity measures of the resulting LLM outputs. Our experiments on multiple LLMs show that prepending random words/sentences unrelated to the prompt result in greater diversity in the outputs of LLMs. We believe that this promising result and the evaluation protocol opens up interesting avenues for future work, such as how infusing randomness into LLMs could be applied to other domains. Further, the evaluation protocol could also inspire research into benchmarking LLM diversity more systematically.
연구 동기 및 목표
- 프롬프트에 무작위 개념을 주입하는 정도가 LLM 출력의 다양성을 얼마나 증가시키는지 조사한다.
- 경량의 프롬프트 기반 방법을 개발하여 LLM의 롱테일/모드 붕괴를 완화한다.
- 모델과 데이터셋에 걸쳐 목록 기반 프롬프트의 다양성을 측정하는 평가 프로토콜을 제공한다.
제안 방법
- 모호한 집합에서 K개의 항목의 목록을 요청하고 프롬프트당 모델 M회 질의하는 것을 정의한다.
- 프롬프트 앞에 무작위 단어 또는 무작위 문장을 추가하여 무작위 맥락 프롬프트를 만든다.
- 고유 항목 수와 출력 분포의 엔트로피로 다양성을 측정한다.
- 규칙 프롬프트, 무작위 단어, 무작위 문장을 정렬된 프롬프트 설정과 비정렬 설정에서 비교한다.
- 분포 형태의 변화와 모델 간의 통계적 유의성을 분석한다.
실험 결과
연구 질문
- RQ1프롬프트에 무작위 개념을 앞에 붙이면 목록 기반 작업에서 생성된 고유 항목 수가 증가하는가?
- RQ2출력 분포의 엔트로피가 증가하여 일반 응답에 대한 편향이 감소하는가?
- RQ3서로 다른 모델 규모와 정렬/비정렬 프롬프트 설정 간에 다양성 개선이 일관적인가?
- RQ4더 많은 무작위 맥락(예: 더 많은 무작위 단어)으로 스케일링하면 어떻게 되는가?
주요 결과
- 모델들(Gemma3 4b, Nova Pro, Claude 3.5 Sonnet, Mistral Large) 및 정렬/비정렬 설정 모두에서 무작위 맥락 프롬프트가 더 고유한 응답을 낳는다.
- 무작위 맥락 프롬프트는 출력의 엔트로피를 증가시켜 분포를 더 평평하게 하고 롱테일 편향을 감소시킨다.
- 무작위 단어와 무작위 문장은 일반적으로 규칙 프롬프트에 비해 다양성을 개선하며 통계적으로 유의미한 차이(p < 0.05)가 있다.
- 무작위 단어 수를 늘리는 것은 엔트로피에 혼합된 영향을 보여 주며, 무작위 효과의 포화 가능성을 시사한다.
- 이 방법은 온도 설정과 직교적이며 다른 다양성 향상 방법과 결합될 수 있다.
이 논문 읽기
누빈트 뷰어에서 원문을 열고, 읽으면서 궁금한 곳을 바로 물어보세요.
누빈트에서 이 논문 읽기이 리뷰는 AI가 논문 원문을 바탕으로 만들었습니다. 인용하기 전에 원문을 확인해 주세요.