[논문 리뷰] Honest Students from Untrusted Teachers: Learning an Interpretable Question-Answering Pipeline from a Pretrained Language Model

Jacob Eisenstein, Daniel Andor외 3명|arXiv (Cornell University)|2022. 10. 05.

Topic Modeling인용 수 11

한 줄 요약

이 논문은 개방형 질문에 대한 질문에 대한 해답을 제시하는 마크업 및 마스크 라이트럴스를 제안한다. 자유형 텍스트 마크업을 통해 문장을 맥락에서 벗어나 독립적으로 이해할 수 있도록 하고, 이어 추출적 라이트럴스 마스크를 적용한다. 고정된 미리 훈련된 언어 모델을 '선생님'으로 사용하여, 인자 학습을 통해 은밀한 라이트럴스를 생성하고, 이를 바탕으로 더 작은 '정직한 학생' 모델을 훈련시킨다. 이 학생 모델은 엄격한 파이프라인을 따르며, 마크업 생성 → 라이트럴스 선택 → 답변 생성의 순서를 따른다. 이로 인해 인간의 최소한의 주석이 필요한 상황에서 높은 정확도와 강력한 라이트럴스 함의성을 달성한다.

ABSTRACT

Explainable question answering systems should produce not only accurate answers but also rationales that justify their reasoning and allow humans to check their work. But what sorts of rationales are useful and how can we train systems to produce them? We propose a new style of rationale for open-book question answering, called \emph{markup-and-mask}, which combines aspects of extractive and free-text explanations. In the markup phase, the passage is augmented with free-text markup that enables each sentence to stand on its own outside the discourse context. In the masking phase, a sub-span of the marked-up passage is selected. To train a system to produce markup-and-mask rationales without annotations, we leverage in-context learning. Specifically, we generate silver annotated data by sending a series of prompts to a frozen pretrained language model, which acts as a teacher. We then fine-tune a smaller student model by training on the subset of rationales that led to correct answers. The student is "honest" in the sense that it is a pipeline: the rationale acts as a bottleneck between the passage and the answer, while the "untrusted" teacher operates under no such constraints. Thus, we offer a new way to build trustworthy pipeline systems from a combination of end-task annotations and frozen pretrained language models.

연구 동기 및 목표

• 자연어의 맥락을 유지하면서도 독립적으로 이해할 수 있도록 하는 자유형 텍스트 마크업과 추출적 라이트럴스 마스크를 조합하여 신뢰할 수 있고 해석 가능한 추론을 제공하는 질문-답변 시스템을 개발한다.
• 추출적 라이트럴스가 공백이나 대명사 등에 의해 실패하는 경우가 많다는 한계를 보완하기 위해, 문장을 맥락에서 벗어나 독립적으로 이해할 수 있도록 마크업을 통해 맥락을 제거한다.
• 라인어티브 라이트럴스 생성을 위한 명시적 주석이 필요 없이, 고정된 미리 훈련된 언어 모델에서 인자 학습을 활용하여 파이프라인 기반의 학생 모델을 훈련시킨다.
• 학습된 학생 모델이 '정직하다'는 것을 보장한다. 즉, 원본 문장이 아닌 라이트럴스에만 의존하여 답변을 도출해야 하며, 이는 신뢰성과 해석 가능성 향상에 기여한다.
• 은밀한 주석이 거의 없는 상황에서도, 학생 모델이 정확도, 라이트럴스 함의성, 마크업 품질 등 주요 지표에서 선생님 모델을 초월할 수 있음을 입증한다.

제안 방법

• 고정된 미리 훈련된 언어 모델(선생님)을 사용하여, 각 문장에 대해 맥락을 제거한 마크업을 생성한다. 대명사나 참조어를 전체 명사구로 대체하여 문장이 독립적으로 이해될 수 있도록 한다.
• 동일한 선생님 모델을 사용하여, 마크업이 적용된 문장에서 사고의 흐름 라이트럴스와 답변을 생성한다. 이로써 추론이 맥락 제거된 텍스트에 기반하도록 보장한다.
• 선생님 모델에 라이트럴스만을 사용하여 질문에 답하게 하여 정확성을 검증한다. 만약 답변이 정답 레이블과 일치하면, 해당 라이트럴스와 마크업은 은밀한 데이터로 유지된다.
• 은밀한 데이터를 기반으로 더 작은 학생 모델을 훈련시키며, 엄격한 파이프라인을 적용한다. 먼저 마크업을 생성하고, 그 다음 라이트럴스 구간을 선택하고, 마지막으로 라이트럴스만을 사용하여 답변을 생성한다.
• 순차적 프롬프팅을 통해 전진 체인 프롬프트 캐스케이드를 사용하여 중간 단계를 생성함으로써, 선생님 모델이 추론 흐름과 라이트럴스를 순차적으로 생성할 수 있도록 한다.
• 라인어티브스가 정답을 도출하는지 여부를 기준으로 은밀한 예제를 필터링하여, 고급 품질의 훈련 데이터만을 사용하여 학생 모델을 훈련시킨다.

실험 결과

연구 질문

• RQ1 자유형 텍스트 마크업과 추출적 마스크의 조합이 기존의 추출적 라이트럴스보다 더 해석 가능하고 충실한 라이트럴스를 생성할 수 있는가?
• RQ2 인간의 주석이 없는 상황에서, 고정된 미리 훈련된 언어 모델이 라이트럴스 생성을 위한 고급 은밀한 주석을 신뢰할 수 있는 선생님으로 기능할 수 있는가?
• RQ3 은밀한 데이터를 기반으로 훈련된 소형 학생 모델이 파이프라인 아키텍처의 제약을 지닌 상태에서 선생님 모델을 초월할 수 있는가? 정확도, 라이트럴스 품질, 마크업 충실도 측면에서 검토한다.
• RQ4 학생 모델이 라이트럴스 선택 후 원본 문장을 기각하는 파이프라인을 강제로 적용함으로써 예측의 신뢰성과 해석 가능성은 향상되는가?
• RQ5 오직 다섯 개의 정답 주석 예제만을 사용할 때, 인자 학습을 통해 맥락 제거 마크업을 수행하는 데 있어, 소수의 예제 기반 접근이 얼마나 효과적인가?

주요 결과

• 정직한 학생 모델은 파이프라인 아키텍처임에도 불구하고 SQuAD 수준의 정확도를 달성하여, 해석 가능성과 성능의 상충이 없음을 입증한다.
• QuoRef에서 마크업의 사용은 정답 정확도를 크게 향상시키며, 추출적 스펜만으로는 부족한 추론을 향상시킴을 보여준다.
• 학생 모델이 생성한 라이트럴스는 사고의 흐름 라이트럴스보다 20 F1 포인트 더 높은 답변 함의성을 보이며, 더 강력한 논리 일관성을 나타낸다.
• 학생 모델은 11,290개의 정답 주석 예제로 미세조정된 모델보다 더 정확한 맥락 제거 마크업을 생성한다. 이는 고정된 LLM에서의 디스틸레이션의 효과성을 입증한다.
• 학생 모델은 정확도, 라이트럴스 함의율, 마크업 정확도 등 세 가지 핵심 지표에서 모두 선생님 모델을 초월한다. 이는 성공적인 지식 디스틸레이션을 보여준다.
• 마크업 생성을 위한 인간 주석이 오직 다섯 개 뿐이지만, 더 큰 정답 주석 데이터셋으로 훈련된 모델을 뛰어넘는 마크업 품질을 달성한다.