[논문 리뷰] In-context Vectors: Making In Context Learning More Effective and Controllable Through Latent Space Steering

Sheng Liu, Ye, Haotian외 2명|arXiv (Cornell University)|2023. 11. 11.

Topic Modeling인용 수 4

한 줄 요약

이 논문은 추론 중에 대규모 언어 모델을 더 효과적이고 제어 가능하며 효율적으로 이끌 수 있도록 시범 예제를 하나의 잠재 벡터로 압축하는 In-Context Vectors (ICV)를 제안한다. 이 방법은 프롬프트 엔지니어링이나 파라미터 업데이트 없이도 작동하며, 안전성, 스타일 전이, 역할 연기 등 다양한 작업에서 표준적인 인-컨텍스트 학습과 LoRA 미세조정보다 뛰어난 성능을 보인다.

ABSTRACT

Large language models (LLMs) demonstrate emergent in-context learning capabilities, where they adapt to new tasks based on example demonstrations. However, in-context learning has seen limited effectiveness in many settings, is difficult to quantitatively control and takes up context window space. To overcome these limitations, we propose an alternative approach that recasts in-context learning as in-context vectors (ICV). Using ICV has two steps. We first use a forward pass on demonstration examples to create the in-context vector from the latent embedding of the LLM. This vector captures essential information about the intended task. On a new query, instead of adding demonstrations to the prompt, we shift the latent states of the LLM using the ICV. The ICV approach has several benefits: 1) it enables the LLM to more effectively follow the demonstration examples; 2) it's easy to control by adjusting the magnitude of the ICV; 3) it reduces the length of the prompt by removing the in-context demonstrations; 4) ICV is computationally much more efficient than fine-tuning. We demonstrate that ICV achieves better performance compared to standard in-context learning and fine-tuning on diverse tasks including safety, style transfer, role-playing and formatting. Moreover, we show that we can flexibly teach LLM to simultaneously follow different types of instructions by simple vector arithmetics on the corresponding ICVs.

연구 동기 및 목표

• 인-컨텍스트 학습(ICL)의 한계, 즉 시범 예제 순서에 대한 민감성, 높은 컨텍스트 길이 사용, 제어 불가능성 문제를 해결하기 위해.
• 프롬프트 템플릿이나 미세조정 없이도 시범 예제에서 작업별 정보를 추출할 수 있는 방법을 개발하기 위해.
• 추론 중에 단일 잠재 벡터를 사용해 효율적이고 확장 가능하며 제어 가능한 대규모 언어 모델 적응을 가능하게 하기 위해.
• ICV가 벡터 산술을 통해 여러 작업을 결합할 수 있고, 표준 ICL 및 LoRA 미세조정보다 뛰어난 성능을 보일 수 있음을 입증하기 위해.

제안 방법

• ICV는 대규모 언어 모델의 시범 예제 잠재 표현을 한 번의 순방향 전파를 통해 처리하여 단일 인-컨텍스트 벡터를 계산한다.
• 추론 중에 ICV는 모든 트랜스포머 레이어와 토큰 위치의 잠재 상태에 더해지며, 원래 활성화를 수정하지 않고도 모델의 생성을 효과적으로 이끈다.
• ICV의 크기를 조절하여 작업 지시의 강도를 제어할 수 있어 모델 행동에 세밀한 제어가 가능하다.
• 모든 과정은 추론 시간에만 이루어지며, 파라미터 업데이트나 미세조정이 필요 없고, 전체 시범 예제 시퀀스를 컨텍스트에 저장하거나 처리할 필요가 없다.
• 덧셈이나 부정과 같은 산술 연산을 통해 작업별 벡터를 조합함으로써 ICV는 다중 작업 학습을 지원한다.
• 이 방법은 Falcon-7B 및 Llama와 같은 여러 대규모 언어 모델에 적용되었으며, 스타일 전이, 안전성 필터링, 역할 연기 등의 작업에서 검증되었다.

실험 결과

연구 질문

• RQ1 시범 예제를 압축된 잠재 벡터로 대체함으로써 인-컨텍스트 학습을 더 효과적이고 제어 가능하게 만들 수 있는가?
• RQ2 표준 인-컨텍스트 학습과 비교해 성능을 유지하거나 향상시키면서도 컨텍스트 길이 사용량을 줄일 수 있는가?
• RQ3 재학습 없이도 벡터 산술을 통해 여러 다른 작업을 결합할 수 있는가?
• RQ4 성능 및 계산 효율성 측면에서 ICV는 LoRA와 같은 미세조정 방법보다 어떻게 비교되는가?
• RQ5 ICV는 모델의 원래 능력을 유지하면서도 새로운 작업 행동으로의 이끌림을 효과적으로 수행할 수 있는가?

주요 결과

• qualitative 및 quantitative 평가를 통해 대화 안전성, 스타일 전이, 포맷팅 등의 작업에서 ICV가 표준 인-컨텍스트 학습과 LoRA 미세조정을 뛰어넘는 성능을 보였다.
• ICV를 통해 인-컨텍스트 벡터의 크기를 조절함으로써 모델 행동을 민감하게 제어할 수 있으며, 지시 이행 정도를 정밀하게 제어할 수 있다.
• 시범 예제를 입력 컨텍스트에 포함할 필요가 없어지므로 프롬프트 길이가 단축되어 귀중한 컨텍스트 창 크기 공간을 절약할 수 있다.
• ICV는 벡터 산술을 통해 다중 작업 학습을 지원한다: 예를 들어, ICV를 덧셈하거나 부정함으로써 서로 다른 지시 유형을 결합하거나 상쇄시킬 수 있다.
• 시범 예제 수가 모델의 컨텍스트 길이를 초과하더라도 ICV는 예제를 단일 벡터로 요약하므로 높은 성능을 유지한다.
• 계산적으로 효율적이며, ICV 계산 시 거의 무시할 수 없는 오버헤드를 가지며, 파라미터 업데이트나 미세조정이 전혀 필요하지 않다.