[논문 리뷰] A Survey on LLM-as-a-Judge

Jiawei Gu, Xinyan Jiang외 14명|arXiv (Cornell University)|2024. 11. 23.

Dispute Resolution and Class Actions인용 수 16

한 줄 요약

본 설문은 평가자로서의 신뢰할 수 있는 LLM 구축 방법을 다루며, 아키텍처, 프롬프트 전략, 평가 파이프라인, 및 신뢰성 벤치마크를 포괄합니다. 또한 LLM-as-a-Judge의 신뢰성을 평가하기 위한 새로운 벤치마크를 제안하고 응용 및 도전에 대해 논의합니다.

ABSTRACT

Accurate and consistent evaluation is crucial for decision-making across numerous fields, yet it remains a challenging task due to inherent subjectivity, variability, and scale. Large Language Models (LLMs) have achieved remarkable success across diverse domains, leading to the emergence of "LLM-as-a-Judge," where LLMs are employed as evaluators for complex tasks. With their ability to process diverse data types and provide scalable, cost-effective, and consistent assessments, LLMs present a compelling alternative to traditional expert-driven evaluations. However, ensuring the reliability of LLM-as-a-Judge systems remains a significant challenge that requires careful design and standardization. This paper provides a comprehensive survey of LLM-as-a-Judge, addressing the core question: How can reliable LLM-as-a-Judge systems be built? We explore strategies to enhance reliability, including improving consistency, mitigating biases, and adapting to diverse assessment scenarios. Additionally, we propose methodologies for evaluating the reliability of LLM-as-a-Judge systems, supported by a novel benchmark designed for this purpose. To advance the development and real-world deployment of LLM-as-a-Judge systems, we also discussed practical applications, challenges, and future directions. This survey serves as a foundational reference for researchers and practitioners in this rapidly evolving field.

연구 동기 및 목표

• LLM-as-Evaluator 개념을 정의하고 평가 워크플로를 형식화한다.
• 프롬프트 설계, 모델 능력, 후처리 등을 포함한 신뢰성 향상 전략을 조사한다.
• 모델, 데이터, 에이전트 맥락에서 LLM-as-a-Judge의 평가 파이프라인을 검토한다.
• LLM-as-a-Judge 시스템의 신뢰성을 평가하기 위한 새로운 벤치마크를 제안한다.
• 현실 세계 배치의 적용, 도전 과제 및 향후 방향에 대해 논의한다.

제안 방법

• LLM-as-Evaluator의 형식적 정의를 제공하고 평가 접근법을 분류한다(In-Context Learning, Model Selection, Post-processing, Evaluation Pipeline).
• 프롬프트 전략과 입력/프롬프트 설계 고려사항을 상세히 다룬다 (점수 생성, Yes/No, 쌍대 비교, 다지선다).
• 일반 LLM들 vs 미세조정된 평가자; 오픈 소스 vs 클로즈드 소스를 포함한 모델 선택 옵션과 학습/평가를 위한 데이터 요건을 요약한다.
• 토큰 추출, 로짓 정규화, 문장 선택 등 후처리 기법과 다양한 사용 사례(모델, 데이터, 에이전트를 위한 LLM-as-a-Judge)에 대한 평가 파이프라인을 설명한다.
• 새로운 신뢰성 벤치마크를 도입하고 LLM-as-a-Judge 시스템을 평가하기 위한 데이터셋, 지표 및 잠재적 편향에 대해 논의한다.

Figure 1 . Paper Structure.

실험 결과

연구 질문

• RQ1 LLM 기반 평가에서 일관성을 높이고 편향을 줄이는 가장 효과적인 전략은 무엇인가?
• RQ2 LLM-as-a-Judge를 작업 및 모달리티 전반에 걸쳐 신뢰성 있게 평가하고 벤치마크하는 방법은?
• RQ3 가장 신뢰할 수 있는 평가를 제공하는 프롬프트, 모델 선택, 후처리 단계는 무엇인가?
• RQ4 확장성과 재현성을 보장하기 위해 데이터 및 에이전트 평가 파이프라인에 LLM을 어떻게 통합해야 하는가?

주요 결과

• LLMs는 평가자로서 효과적으로 작동할 수 있지만 신뢰성은 프롬프트 설계, 모델 선택, 출력 후처리의 신중한 설계가 필요하다.
• 쌍대 비교가 종종 인간의 판단과 더 잘 일치한다.
• 오픈 소스 및 미세 조정된 평가자(예: PandaLM, JudgeLM, Prometheus)는 다양한 제약을 가진 비용 친화적 대안을 제공한다.
• 토큰 추출 및 로짓 정규화 등을 포함한 후처리는 안정적이고 해석 가능한 평가를 위해 필수적이다.
• 전략과 편향을 체계적으로 평가하기 위해 LLM-as-a-Judge 신뢰성에 대한 새로운 벤치마크가 제안된다.
• 본 논문은 실용적 적용 시나리오, 도전 과제 및 향후 연구 방향에 대해 논의한다.

Figure 2 . LLM-as-a-Judge Evaluation Pipelines.