[논문 리뷰] Efficient Prompting Methods for Large Language Models: A Survey

Kaiyan Chang, Songcheng Xu외 5명|arXiv (Cornell University)|2024. 04. 01.

Topic Modeling인용 수 14

한 줄 요약

이 설문은 LLM의 효율적인 프롬프팅 방법을 계산 기반 프롬프트 압축(지식 증류, 인코딩, 필터링)과 설계 기반 자동 프롬프트 최적화(그래디언트 기반 및 진화 기반)로 분류하고, 효율적인 프롬프팅을 다목적 최적화 문제로 프레이밍한다.

ABSTRACT

Prompting is a mainstream paradigm for adapting large language models to specific natural language processing tasks without modifying internal parameters. Therefore, detailed supplementary knowledge needs to be integrated into external prompts, which inevitably brings extra human efforts and computational burdens for practical applications. As an effective solution to mitigate resource consumption, Efficient Prompting Methods have attracted a wide range of attention. We provide mathematical expressions at a high level to deeply discuss Automatic Prompt Engineering for different prompt components and Prompt Compression in continuous and discrete spaces. Finally, we highlight promising future directions to inspire researchers interested in this field.

연구 동기 및 목표

• LLM에서 프롬프팅 개념과 도전을 소개한다.
• 효율적 프롬프팅 방법을 계산 지향과 설계 지향으로 분류한다.
• 프롬프트 압축 기술들(Knowledge distillation, encoding, filtering)을 분석한다.
• 자동 프롬프트 최적화 방법들(gradient-based와 evolution-based)을 검토한다.
• 효율적 프롬프팅을 다목적 최적화 문제로서의 이론적 방향성과 향후 방향을 논의한다.

제안 방법

• 두 가지 주요 가지로 기존의 효율적 프롬프팅 방법을 분류한다: 계산 중심 프롬프팅(prompt compression)과 설계 중심 프롬프팅(automatic prompt optimization).
• 압축 내에서 지식 증류, 인코딩, 필터링 기법을 대표 저작물과 목적 함수와 함께 요약한다.
• 설계 내에서 그래디언트 기반 방법(real-gradient tuning, imitate gradients for closed models 등)과 모방/진화 기반 방법(imitation of gradients, GrIPS, APE, EvoPrompt 등)을 요약한다.
• 효율적 프롬프팅을 압축과 작업 정확도 간의 균형을 이루는 다목적 최적화 문제로 추상화한다.
• 정보 이론적 필터링과 함께 하드 프롬프트와 소프트 프롬프트의 공동 최적화 등 이론적 관점과 향후 방향을 논의한다.

실험 결과

연구 질문

• RQ1 LLM에서 프롬프트를 더 효율적으로 만들기 위한 카테고리와 기법은 무엇인가?
• RQ2 작업 성능을 손실 없이 프롬프트 내용을 압축하거나 최적화하는 방법은 무엇인가?
• RQ3 프롬프트 압축 기법과 프롬프트 설계 최적화 방법之间의 트레이드오프는 무엇인가?
• RQ4 효율적 프롬프팅을 이론적으로 다목적 최적화 문제로 어떻게 프레이밍할 수 있는가?
• RQ5 프롬프팅에서 압축과 설계를 하나로 묶기 위한 향후 방향은 무엇인가?

주요 결과

• 프롬프팅의 효율성은 압축(text-to-vector 및 text-to-text 접근 방식) 및 자동 프롬프트 설계로 향상될 수 있다.
• 지식 증류는 프롬프트 정보를 소프트 프롬프트로 압축하지만 교사 모델과 데이터 합성에 의존한다.
• 인코딩은 프롬프트를 학습될 벡터로 다루어 компакт한 표현과 검색 친화적 프롬프트를 가능하게 한다.
• 필터링은 정보 함량을 측정하여 유용한 구성요소만 남김으로써 메모리와 속도를 돕는다.
• 그래디언트 기반 프롬프트 최적화는 공간을 연속 표현으로 변환하거나 닫힌 모델을 사용할 때 모방으로 디스크리트 프롬프트를 개선한다.
• 진화적 및 모방 기반 방법은 직접적인 그래디언트 없이도 프롬프트 최적화를 가능하게 하여 블랙박스 LLM에 적합하다.