Skip to main content
QUICK REVIEW

[논문 리뷰] Measuring Attribution in Natural Language Generation Models

Hannah Rashkin, V. A. Nikolaev|arXiv (Cornell University)|2021. 12. 23.
Topic ModelingComputer Science인용 수 34
한 줄 요약

AIS는 식별된 외부 소스에 기인한 NLG 출력 여부를 평가하기 위한 형식적 프레임워크를 제시하며, 다중 작업에서 검증된 두 단계 인간 주석 파이프라인을 통해 검증된다.

ABSTRACT

With recent improvements in natural language generation (NLG) models for various applications, it has become imperative to have the means to identify and evaluate whether NLG output is only sharing verifiable information about the external world. In this work, we present a new evaluation framework entitled Attributable to Identified Sources (AIS) for assessing the output of natural language generation models, when such output pertains to the external world. We first define AIS and introduce a two-stage annotation pipeline for allowing annotators to appropriately evaluate model output according to AIS guidelines. We empirically validate this approach on generation datasets spanning three tasks (two conversational QA datasets, a summarization dataset, and a table-to-text dataset) via human evaluation studies that suggest that AIS could serve as a common framework for measuring whether model-generated statements are supported by underlying sources. We release guidelines for the human evaluation studies.

연구 동기 및 목표

  • Attributable to Identified Sources (AIS) 정의하고 시스템 출력이 소스에 귀속된다는 것이 무엇을 의미하는지 형식화한다.
  • NLG 출력의 해석가능성과 소스 귀속성을 평가하기 위한 두 단계 주석 파이프라인을 제공한다.
  • 여러 NLG 작업에 걸친 인간 평가를 통해 AIS의 실현 가능성을 입증한다.
  • 현실 세계 환경에서 AIS를 주석하기 위한 지침 및 실용적 고려사항을 제시하고 논의한다.

제안 방법

  • 맥락에서 발화의 의미를 포착하기 위해 explicatures를 사용하여 AIS를 형식화한다.
  • 독립적 명제와 ‘according to P’ 귀속 테스트를 정의한다.
  • explicatures 및 언어 맥락 정의를 통해 다문장 발화 및 맥락에 AIS를 확장한다.
  • 대화형 QA, 요약, 표-텍스트 생성에 대한 AIS의 작업별 구체화(instantiations)를 제안한다.
  • 첫 번째는 소스 없이 해석가능성을, 두 번째는 소스 P에 대한 귀속을 다루는 두 단계 인간 주석 프로세스를 설계한다.
  • 모델과 작업 간 AIS 점수의 차이와 주석자 간 일치도를 보고한다.

실험 결과

연구 질문

  • RQ1AIS가 모델 출력이 식별된 소스에 기반하는지에 대해 일관되고 해석가능한 척도를 제공할 수 있는가?
  • RQ2대화형 QA, 요약, 표-텍스트 작업에서 인간 AIS 주석이 얼마나 실현 가능한가?
  • RQ3주어진 소스에 대한 해석가능성과 귀속성 사이의 관계는 무엇인가?
  • RQ4AIS를 적용할 때 작업과 모델 출력 간 주석자 간 일치도는 어떻게 다르는가?
  • RQ5재현 가능한 AIS 주석을 돕는 지침 및 운용상의 고려사항은 무엇인가?

주요 결과

  • AIS는 NLG 출력의 진술이 근본 소스에서 파생될 수 있는지 평가하는 재현 가능한 프레임워크를 가능하게 한다.
  • 두 단계 주석 프로세스는 인간 연구에서 중등도에서 높은 주석자 간 일치도를 산출한다.
  • AIS는 서로 다른 NLG 작업에서 귀속 점수 측면에서 모델 출력의 차이를 구별할 수 있다.
  • Explicatures는 맥락에서 발화의 의미를 귀속을 위해 평가하는 실용적 메커니즘을 제공한다.
  • 이 프레임워크는 귀속 판단에서 맥락, 소스 품질, 해석가능성의 역할을 인정한다.
  • 향후 AIS 주도 평가를 지원하기 위한 지침 및 논의가 공개된다.

이 논문 읽기

누빈트 뷰어에서 원문을 열고, 읽으면서 궁금한 곳을 바로 물어보세요.

누빈트에서 이 논문 읽기

이 리뷰는 AI가 논문 원문을 바탕으로 만들었습니다. 인용하기 전에 원문을 확인해 주세요.