[论文解读] In-context Vectors: Making In Context Learning More Effective and Controllable Through Latent Space Steering

Sheng Liu, Ye, Haotian+2 more|arXiv (Cornell University)|Nov 11, 2023

Topic Modeling被引用 4

一句话总结

本文提出上下文向量（ICV），一种将示范样本提炼为单一潜在向量的方法，用于在推理过程中引导大型语言模型，从而实现更高效、可控且高效的上下文学习，无需提示工程或参数更新。ICV在包括安全、风格迁移和角色扮演在内的多种任务中表现优于标准上下文学习和LoRA微调。

ABSTRACT

Large language models (LLMs) demonstrate emergent in-context learning capabilities, where they adapt to new tasks based on example demonstrations. However, in-context learning has seen limited effectiveness in many settings, is difficult to quantitatively control and takes up context window space. To overcome these limitations, we propose an alternative approach that recasts in-context learning as in-context vectors (ICV). Using ICV has two steps. We first use a forward pass on demonstration examples to create the in-context vector from the latent embedding of the LLM. This vector captures essential information about the intended task. On a new query, instead of adding demonstrations to the prompt, we shift the latent states of the LLM using the ICV. The ICV approach has several benefits: 1) it enables the LLM to more effectively follow the demonstration examples; 2) it's easy to control by adjusting the magnitude of the ICV; 3) it reduces the length of the prompt by removing the in-context demonstrations; 4) ICV is computationally much more efficient than fine-tuning. We demonstrate that ICV achieves better performance compared to standard in-context learning and fine-tuning on diverse tasks including safety, style transfer, role-playing and formatting. Moreover, we show that we can flexibly teach LLM to simultaneously follow different types of instructions by simple vector arithmetics on the corresponding ICVs.

研究动机与目标

• 为解决上下文学习（ICL）的局限性，如对示范顺序敏感、上下文长度使用过高以及缺乏可控性。
• 开发一种方法，从示范中捕获任务特定信息，而无需提示模板或微调。
• 通过推理时使用单一潜在向量，实现高效、可扩展且可控的大语言模型适应。
• 证明ICV可通过向量运算组合多个任务，并优于标准ICL和LoRA微调。

提出的方法

• ICV通过LLM的前向传播，从示范样本的潜在表示中计算出单一上下文向量。
• 在推理过程中，ICV被添加到所有Transformer层和标记位置的潜在状态中，有效引导模型生成，而无需修改原始激活值。
• ICV的大小可调节，以控制任务引导的强度，从而实现对模型行为的细粒度控制。
• 该方法完全在推理阶段运行，无需参数更新或微调，且避免了在上下文中存储或处理完整的示范序列。
• ICV通过加法或取反等算术运算，实现多任务学习，组合特定任务的向量。
• 该方法已应用于包括Falcon-7B和Llama在内的多个大语言模型，并在风格迁移、安全过滤和角色扮演等任务上进行了验证。

实验结果

研究问题

• RQ1 能否通过用提炼的潜在向量替代示范，使上下文学习更有效且可控？
• RQ2 与标准上下文学习相比，ICV方法是否能在保持或提升性能的同时减少上下文长度的使用？
• RQ3 ICV能否通过向量算术组合多个不同任务而无需重新训练？
• RQ4 在性能和计算效率方面，ICV与LoRA等微调方法相比如何？
• RQ5 ICV是否在有效引导模型实现新任务行为的同时，保持了模型原有的能力？

主要发现

• ICV在对话安全、风格迁移和格式化等任务中显著优于标准上下文学习和LoRA微调，经定性和定量评估验证。
• 通过调节上下文向量的大小，ICV可实现灵活且可控的行为调整，从而精确控制指令遵循的程度。
• 该方法通过消除在输入上下文中包含示范样本的需求，减少了提示长度，从而节省了宝贵的上下文窗口空间。
• ICV支持通过向量算术实现多任务学习：例如，加法或取反ICV可组合或抵消不同类型的指令。
• 即使示范数量超过模型的上下文长度，ICV仍能保持高性能，因为示范被总结为单一向量。
• 该方法计算效率高，ICV计算的开销可忽略不计，且无需任何参数更新或微调。