[논문 리뷰] Explaining Patterns in Data with Language Models via Interpretable Autoprompting

Chandan Singh, John X. Morris외 3명|arXiv (Cornell University)|2022. 10. 04.

Topic Modeling인용 수 14

한 줄 요약

이 논문은 반복적 프롬프트 생성과 재순서 조정을 통해 사전 훈련된 언어 모델을 사용하여 데이터 패턴에 대한 인간이 이해할 수 있는 자연어 설명을 자동으로 생성하는 iPrompt를 소개한다. iPrompt는 더 작은 모델(GPT-J)을 사용함에도 불구하고 GPT-3에서 인간이 작성한 프롬프트보다 뛰어난 성능을 보이며, 다양한 데이터셋—과학적 및 NLP 작업 포함—에서 높은 정확도를 달성하고, 향후 응용 프로그램을 위한 해석 가능하고 일반화 가능한 프롬프트를 제공한다.

ABSTRACT

Large language models (LLMs) have displayed an impressive ability to harness natural language to perform complex tasks. In this work, we explore whether we can leverage this learned ability to find and explain patterns in data. Specifically, given a pre-trained LLM and data examples, we introduce interpretable autoprompting (iPrompt), an algorithm that generates a natural-language string explaining the data. iPrompt iteratively alternates between generating explanations with an LLM and reranking them based on their performance when used as a prompt. Experiments on a wide range of datasets, from synthetic mathematics to natural-language understanding, show that iPrompt can yield meaningful insights by accurately finding groundtruth dataset descriptions. Moreover, the prompts produced by iPrompt are simultaneously human-interpretable and highly effective for generalization: on real-world sentiment classification datasets, iPrompt produces prompts that match or even improve upon human-written prompts for GPT-3. Finally, experiments with an fMRI dataset show the potential for iPrompt to aid in scientific discovery. All code for using the methods and data here is made available on Github.

연구 동기 및 목표

• 사전 훈련된 언어 모델을 사용하여 데이터 패턴에 대한 인간이 이해할 수 있는 자연어 설명을 자동으로 발견하고 생성하는 방법을 개발하는 것.
• 기존의 자동 프롬프팅 방법이 생성하는 프롬프트가 해석하기 어려운 점을 해결하기 위해 생성된 설명의 의미적 의미를 강제하는 것.
• 다른 LLM과 작업에 사용할 수 있는 일반화 가능하고 이식 가능한 프롬프트를 발견할 수 있도록 하는 것.
• 합성, NLP, 과학 데이터를 포함한 다양한 데이터셋에서 이 방법의 탄탄함과 유용성을 입증하기 위해 평가를 수행하는 것.
• LLM의 잠재력을 예측을 넘어서 과학적 통찰 생성과 데이터 패턴 설명에 활용할 수 있는 잠재력을 탐색하는 것.

제안 방법

• iPrompt는 주어진 데이터셋에 대해 사전 훈련된 언어 모델을 사용하여 후보 자연어 설명(프롬프트)를 반복적으로 생성한다.
• 각 후보 프롬프트는 데이터셋에서 제로샷 추론를 통해 평가되며, 제로샷 손실의 누적 평균을 성능 측정 기준으로 사용한다.
• 지역 최적값을 피하기 위해 각 후보가 다른 토큰으로 시작하도록 보장함으로써 다양성을 확보하는 인구 기반 검색을 적용한다.
• 온도=1 및 반복 허용 제어를 태스크에 맞게 조정한 그리디 디코딩을 사용하여 프롬프트를 생성한다(예: 수학 및 NLI 작업에 대해 2.0, 감성 분석에 대해 1.0).
• 프롬프트 품질을 최적화하기 위해 AutoPrompt의 수정된 버전을 사용하며, 주요 변경 사항은 편집을 위한 랜덤 위치 선택, 손실 기반 수용 기준, 특수 문자 및 비영어 문자 지원이다.
• 최종 상위 성능 프롬프트는 평균 손실이 가장 낮고 최소 빈도(≥3회 평가)를 충족함으로써 안정성과 신뢰성을 확보하여 선택된다.

실험 결과

연구 질문

• RQ1 사전 훈련된 언어 모델이 데이터 패턴에 대해 정확하고 해석 가능한 자연어 설명을 생성할 수 있는가?
• RQ2 iPrompt는 더 작은 모델만 사용함에도 불구하고 GPT-3와 같은 후행 LLM에서 인간이 작성한 프롬프트를 초월하는 프롬프트를 발견할 수 있는가?
• RQ3 iPrompt는 합성, NLP, 과학적 데이터셋을 포함한 다양한 데이터 유형으로 일반화되는가?
• RQ4 iPrompt의 생성된 설명이 fMRI나 단백질 데이터 분석과 같은 과학적 발견에 얼마나 기여할 수 있는가?
• RQ5 생성된 프롬프트가 의미적 명확성 덕분에 감사 가능하고 다른 모델 및 작업에 재사용 가능한가?

주요 결과

• 네 개의 분류 데이터셋 중 두 개에서 iPrompt는 GPT-J 모델을 사용하여 생성함에도 불구하고 GPT-3에서 인간이 작성한 프롬프트를 초월하는 프롬프트를 발견했다.
• iPrompt는 수학 연산, 자연어 추론, 감성 분류를 포함한 다양한 데이터셋에서 실제 패턴을 높은 정확도로 설명했다.
• 생성된 설명은 일관되게 해석 가능했으며, 인간의 감사 가능성과 다양한 LLM 간의 프롬프트 이식 가능성 향상에 기여했다.
• 과학적 응용에서는 iPrompt가 fMRI 데이터에서 의미 있는 공간적으로 국소화된 개념을 성공적으로 추출했으며, 뇌 영상에서는 '재료'와 '색상'과 같은 개념의 매끄럽고 군집된 표현을 보였다.
• 이 방법은 강력한 일반화 능력을 보였으며, fMRI 데이터의 개별 볼륨 모델은 높은 예측 정확도(측정된 반응과의 상관관계)를 달성했고, 개념 국소화가 무작위 셔플링보다 공간적으로 훨씬 더 일관성 있게 나타났다.
• iPrompt는 스위스-프로트 단백질 키워드 및 서사적 대화 fMRI 데이터를 포함한 여러 데이터 유형에서 뛰어난 성능을 보이며 광범위한 적용 가능성을 입증했다.