[论文解读] ChainForge: A Visual Toolkit for Prompt Engineering and LLM Hypothesis Testing

Ian Arawjo, Chelse Swoopes+3 more|arXiv (Cornell University)|Sep 17, 2023

Software Engineering Research参考文献 29被引用 5

一句话总结

ChainForge 是一个开源的可视化工具包，通过直观的拖拽式界面，使非专家和研究人员能够对大型语言模型（LLMs）进行按需假设检验，支持提示工程和跨模型比较。它支持三种 LLM 交互模式——机会性探索、有限评估和迭代优化，使用户能够以最少的编码量快速构建数据处理管道并审计模型行为，该有效性已在实验室测试和多样用户访谈中得到验证。

ABSTRACT

Evaluating outputs of large language models (LLMs) is challenging, requiring making -- and making sense of -- many responses. Yet tools that go beyond basic prompting tend to require knowledge of programming APIs, focus on narrow domains, or are closed-source. We present ChainForge, an open-source visual toolkit for prompt engineering and on-demand hypothesis testing of text generation LLMs. ChainForge provides a graphical interface for comparison of responses across models and prompt variations. Our system was designed to support three tasks: model selection, prompt template design, and hypothesis testing (e.g., auditing). We released ChainForge early in its development and iterated on its design with academics and online users. Through in-lab and interview studies, we find that a range of people could use ChainForge to investigate hypotheses that matter to them, including in real-world settings. We identify three modes of prompt engineering and LLM hypothesis testing: opportunistic exploration, limited evaluation, and iterative refinement.

研究动机与目标

• 为解决超越单个提示的 LLM 行为评估挑战，创建一种可访问的可视化界面，以实现系统的假设检验。
• 支持各类用户（尤其是非程序员）在不同模型和提示变体之间探索、比较和审计 LLM 输出。
• 识别并支持 LLM 交互的三种不同模式：机会性探索、有限评估和迭代优化。
• 通过观察用户如何将 ChainForge 扩展用于实际工作流，弥合提示工程与真实世界数据处理管道之间的差距。
• 通过识别在假设概念化、规划和评估系统化方面的未满足需求，为未来 LLM 工具的设计提供依据。

提出的方法

• ChainForge 使用可视化编程界面，用户通过流程图构建和共享实验，支持拖拽式组合提示模板和模型调用。
• 通过并排渲染输出结果，支持跨 LLM 比较，使用户能够直观评估不同模型在推理、事实一致性及偏见方面的差异。
• 系统支持提示模板链式组合——模板的递归嵌套，将 AI 链的概念扩展至支持模块化、可重用的提示设计。
• 用户可将实验保存为文件或网页链接，便于协作和 LLM 评估的可重现性。
• 该工具包通过学术界和在线用户的持续反馈进行迭代开发，并以开源形式早期发布于 chainforge.ai，支持网页端和本地部署两种方式。
• 通过面向多样化参与者的实验室测试和访谈研究，评估了其可用性、真实世界适用性及新兴使用场景。

实验结果

研究问题

• RQ1 非计算机背景的用户如何在真实场景中使用可视化工具包进行 LLM 假设检验？
• RQ2 在提示工程和审计任务中，哪些不同的 LLM 交互模式——机会性探索、有限评估和迭代优化——会自然浮现？
• RQ3 在不同模型和提示之间进行可视化比较，在多大程度上提升了用户对模型行为的理解能力，并支持其做出更明智的决策？
• RQ4 用户如何将 ChainForge 的使用扩展至原始设计目标之外，特别是用于数据处理管道的原型设计？
• RQ5 用户在从机会性探索过渡到系统化、可重复的 LLM 评估时面临哪些挑战？

主要发现

• 来自不同背景的用户在设置后 15 分钟内成功使用 ChainForge 探究了有意义的假设，包括模型对提示注入攻击的鲁棒性以及跨语言偏见问题。
• 该工具显著提升了小规模评估的原型设计效率，用户在 15 分钟内完成了一次完整的提示注入测试，证明其在有限评估任务中的高效性。
• 许多用户通过修改其源代码扩展了 ChainForge 的功能，表明其在实际数据处理管道原型设计中具有强大实用性。
• 尽管工具易用，但即使是具备编程或 AI 专业背景的用户，在系统化其评估方面仍面临困难，凸显了在从探索转向结构化测试过程中亟需更好的支持。
• 跨模型比较帮助用户建立了更完善的 LLM 行为心智模型，通过揭示事实准确性与推理模式的差异。
• 研究发现，提示和模型的选择具有高度主观性，即使在相同任务条件下，用户仍会采用多样的评判标准和理解方式。