[논문 리뷰] Evaluating Attribution in Dialogue Systems: The BEGIN Benchmark

Nouha Dziri, Hannah Rashkin외 2명|arXiv (Cornell University)|2021. 04. 30.

Topic Modeling인용 수 5

한 줄 요약

이 논문은 지식 기반 모델에서 유도된 12,000개의 대화 턴을 포함하는 대규모 벤치마크 BEGIN을 소개하여 생성된 응답의 근거 제공 여부를 평가한다. 세 가지 범주—완전히 근거 제공됨, 부분적으로 근거 제공되지 않음, 일반적임—에 대한 인간 레이블을 활용해 기존의 자동 평가 지표가 부작위 상관관계에 의존하고, 개성 있는 응답이지만 충실한 응답을 구분하지 못하며, 긴 지식 소스에서 성능이 크게 떨어지는 것으로 드러나, 더 견고한 평가 지표의 필요성이 급증하고 있음을 시사한다.

ABSTRACT

Knowledge-grounded dialogue systems powered by large language models often generate responses that, while fluent, are not attributable to a relevant source of information. Progress towards models that do not exhibit this issue requires evaluation metrics that can quantify its prevalence. To this end, we introduce the Benchmark for Evaluation of Grounded INteraction (BEGIN), comprised of 12k dialogue turns generated by neural dialogue systems trained on three knowledge-grounded dialogue corpora. We collect human annotations assessing the extent to which the models' responses can be attributed to the given background information. We then use BEGIN to analyze eight evaluation metrics. We find that these metrics rely on spurious correlations, do not reliably distinguish attributable abstractive responses from unattributable ones, and perform substantially worse when the knowledge source is longer. Our findings underscore the need for more sophisticated and robust evaluation metrics for knowledge-grounded dialogue. We make BEGIN publicly available at https://github.com/google/BEGIN-dataset.

연구 동기 및 목표

• 지식 기반 대화 시스템에서 근거 제공 여부 평가에 대한 대규모이고 신뢰할 수 있는 평가의 부족을 해결하기 위해.
• 생성된 응답의 충실성 또는 근거 제공 여부를 측정한다고 주장하는 기존 자동 평가 지표의 한계를 규명하기 위해.
• 분포 변화 및 다양한 응답 유형 하에서 지표의 메타평가를 가능하게 하는 벤치마크를 개발하기 위해.
• 인간 레이블 기반 데이터를 활용해 진정으로 근거 제공되는, 근거 제공되지 않는, 일반적인 응답을 구분하기 위해.
• 지속 가능한 일반화 평가 지표에 대한 연구를 가속화하기 위해 공개 자원을 제공하기 위해.

제안 방법

• 저자들은 지식 기반 코퍼스 세 종류—위즈드 오브 위키백과, CMU 오픈 도메인 대화, 토픽 초트—에서 훈련된 네 개의 신경망 대화 시스템에서 12,000개의 대화 턴을 수집한다.
• 인간 레이블 기반 분류 체계를 구축하여 세 가지 응답 유형—완전히 근거 제공됨, 부분적으로 근거 제공되지 않음, 일반적임(예: '확실하지 않아요')—으로 나눈다.
• 각 응답에 대해 배경 문서에 근거해 모든 정보가 지지되는지, 또는 지지되지 않는 주장이나 정보가 없는지에 따라 인간 평가자가 레이블을 부여한다.
• 벤치마크는 여덟 가지 자동 평가 지표—어휘 일치(_BLEU_, _ROUGE_), 임베딩 기반(_BERTScore_, _BARTScore_, _BLEURT_), QA 기반, NLI 기반 지표—를 평가하는 데 사용된다.
• 악성으로 생성된 데이터를 기반으로 분류기를 훈련하여 소스 문서와의 일관성을 평가한다.
• 지표의 인간 평가와의 상관관계와, 지식 소스가 긴 경우를 포함한 분포 변화에 대한 강건성도 평가한다.

실험 결과

연구 질문

• RQ1 기존 자동 평가 지표는 지식 기반 대화 응답의 근거 제공 여부에 대한 인간 평가와 얼마나 잘 상관되는가?
• RQ2 평가 지표가 의미적 충실성보다는 어휘 일치와 같은 부작위 상관관계에 얼마나 의존하는가?
• RQ3 추상적이지만 완전히 근거 제공되는 응답과 추출적이지만 근거 제공되지 않는 응답에 대해 지표는 어떻게 성능을 내는가?
• RQ4 지식 소스가 길어질 경우 지표 성능은 어떻게 저하되는가(즉, 분포 변화가 발생할 경우)?
• RQ5 악성으로 생성된 데이터를 활용하면 근거 오류 탐지에 있어 지표 분류기의 강건성이 향상되는가?

주요 결과

• 모든 평가된 자동 평가 지표가 의미적 충실성보다는 특히 어휘 일치에 크게 의존하고 있음을 확인했다.
• 추상적이지만 완전히 근거 제공되는 응답과 근거 제공되지 않는 응답을 구분하지 못하며, 종종 첫 번째 유형을 충실도가 떨어지는 것으로 잘못 분류한다.
• 긴 지식 소스에 기반한 응답에서는 지표 성능이 뚜렷이 떨어지며, 분포 변화에 대한 강건성이 떨어지는 것으로 나타났다.
• 성능이 가장 뛰어난 지표(_BERTScore_)조차도 복잡하거나 추상적인 응답에서는 인간 평가와의 상관관계가 낮게 나타났다.
• 악성으로 훈련된 분류기는 성능 향상을 보였지만 일반화 능력은 여전히 제한적이며, 더 나은 훈련 데이터와 평가 프레임워크의 필요성을 시사한다.
• 벤치마크는 '확실하지 않아요'와 같은 일반적인 응답이 종종 근거 제공되지 않는 것으로 잘못 분류되는 것으로 드러나, 자연스러운 대화 행동을 유지하기 위해 지표 설계를 다듬을 필요가 있음을 시사한다.