[논문 리뷰] Reframing Human-AI Collaboration for Generating Free-Text Explanations

Sarah Wiegreffe, Jack Hessel외 3명|arXiv (Cornell University)|2021. 12. 16.

Explainable Artificial Intelligence (XAI)인용 수 7

한 줄 요약

이 논문은 GPT-3를 활용해 입력당 다수의 자유형 텍스트 설명을 생성한 후, 이중성 판단에 기반한 인간 중심의 수용성 필터를 적용하는 오버제너레이트 및 필터링 파이프라인을 제안한다. 이 방법은 인간의 수용성 기반으로 고품질 출력을 선택하여 설명 품질을 크게 향상시키며, 원시 GPT-3 생성물과 인공지능 캐릭터 기반 설명을 모두 능가한다. 필터는 CommonsenseQA 및 SNLI 데이터셋 모두에서 뛰어난 성능을 보이며, 수용성 기반의 선택 전략이 효과적임을 입증한다.

ABSTRACT

Large language models are increasingly capable of generating fluent-appearing text with relatively little task-specific supervision. But can these models accurately explain classification decisions? We consider the task of generating free-text explanations using human-written examples in a few-shot manner. We find that (1) authoring higher quality prompts results in higher quality generations; and (2) surprisingly, in a head-to-head comparison, crowdworkers often prefer explanations generated by GPT-3 to crowdsourced explanations in existing datasets. Our human studies also show, however, that while models often produce factual, grammatical, and sufficient explanations, they have room to improve along axes such as providing novel information and supporting the label. We create a pipeline that combines GPT-3 with a supervised filter that incorporates binary acceptability judgments from humans in the loop. Despite the intrinsic subjectivity of acceptability judgments, we demonstrate that acceptability is partially correlated with various fine-grained attributes of explanations. Our approach is able to consistently filter GPT-3-generated explanations deemed acceptable by humans.

연구 동기 및 목표

• GPT-3로 생성한 설명이 자유형 텍스트 설명 작업에서 인간이 작성한 설명을 능가할 수 있는지 조사하는 것.
• 프롬프트 엔지니어링이 GPT-3로 생성한 설명의 품질을 향상시킬 수 있는지 탐색하는 것.
• 인간의 수용성 평가와 관련된 설명의 세밀한 특성(예: 독창성, 레이블 지원 등)을 특정하는 것.
• GPT-3의 출력에서 고품질의 수용 가능한 설명을 선택하는 확장 가능한 인간 중심의 필터링 메커니즘을 개발하는 것.
• 소수의 이元 수용성 판단으로도 감독 학습된 필터를 훈련시켜 원시 GPT-3 생성물보다 성능을 향상시킬 수 있음을 입증하는 것.

제안 방법

• 정교하게 설계된 흐름 기반 프롬프트를 사용해 GPT-3로 입력 인스턴스당 다섯 개의 후보 설명을 생성한다.
• 인간 중심의 레이블링을 통해 현장에서 일하는 노동자들이 각 생성된 설명에 대해 이원수용성 판단을 수집한다.
• 이원수용성 판단을 기반으로 감독 학습된 수용성 분류기(예: T0-3B)를 훈련시켜 GPT-3 출력 중 수용 가능한 것을 예측한다.
• 훈련된 필터를 적용해 GPT-3 출력 중 가장 품질이 높은 설명을 선택함으로써 오버제너레이트 → 필터링 파이프라인을 구성한다.
• 수용성, 사실 일관성, 독창성, 레이블 지원도와 같은 품질 차원을 인간 평가를 통해 필터의 성능을 평가한다.
• 이 필터를 활용해 CommonsenseQA 및 SNLI에서 설명 수준과 인스턴스 수준의 성능을 향상시킨다.

실험 결과

연구 질문

• RQ1 인간 선호도 연구에서 GPT-3로 생성한 설명이 기존의 인공지능 캐릭터 기반 설명보다 선호되는가?
• RQ2 프롬프트 품질을 향상시키면 GPT-3로 생성한 설명의 품질도 향상되는가?
• RQ3 인간 수용성과 관련된 설명의 세밀한 특성(예: 독창성, 레이블 지원 등)은 무엇인가?
• RQ4 소수의 이원수용성 판단으로도 GPT-3 출력에서 고품질의 설명을 일관되게 선택할 수 있는 필터를 훈련시킬 수 있는가?
• RQ5 오버제너레이트 및 필터링 파이프라인은 원시 GPT-3 생성물보다 수용성 및 기타 품질 차원에서 향상되는가?

주요 결과

• 두 가지 설명 간 직접 비교에서, 현장에서 일하는 노동자들이 GPT-3로 생성한 설명을 기존의 인공지능 캐릭터 기반 설명보다 60~70%의 경우에서 선호했다.
• 높은 유창성과 문법적 정확성에도 불구하고, 탐색적으로 디코딩한 GPT-3 설명 중 50% 미만이 인간 평가자들이 100% 일치로 수용 가능하다고 판단했다.
• 이원수용성 판단에 기반한 수용성 필터는 선택 성능을 크게 향상시켰으며, CommonsenseQA 개발 세트에서 86.6%의 select-1 정확도, 테스트 세트에서 87.0%의 정확도를 달성했다.
• SNLI에서는 개발 세트에서 57.8%의 select-1 정확도, 테스트 세트에서 60.3%의 정확도를 기록했으며, 강력한 기준 모델들을 능가했다.
• 필터링된 출력은 레이블 지원도에서 0.5에서 0.9로 향상되었고, 독창성에서는 CommonsenseQA에서 0.3에서 0.6으로 상승했다.
• 이 파이프라인은 인간이 수용 가능한 설명을 일관되게 선택했으며, 다양한 랜덤 시드와 데이터셋에서 필터의 성능이 안정적이었다.