[논문 리뷰] ChainForge: A Visual Toolkit for Prompt Engineering and LLM Hypothesis Testing

Ian Arawjo, Chelse Swoopes외 3명|arXiv (Cornell University)|2023. 09. 17.

Software Engineering Research참고 문헌 29인용 수 5

한 줄 요약

ChainForge는 대규모 언어 모델(Large Language Models, LLMs)에 대한 즉각적인 가설 검증을 가능하게 하는 오픈소스이자 시각적 툴킷으로, 프롬프트 엔지니어링과 모델 간 비교를 위한 직관적인 드래그-앤드-드롭 인터페이스를 제공한다. 이 툴킷은 기회적 탐색, 제한된 평가, 반복적 개선의 세 가지 모드로 LLM과 상호작용할 수 있으며, 최소한의 코딩으로 데이터 파이프라인을 프로토타이핑하고 모델 행동을 감사할 수 있도록 지원한다. 이는 다양한 사용자를 대상으로 한 실내 실험과 인터뷰 연구를 통해 검증되었다.

ABSTRACT

Evaluating outputs of large language models (LLMs) is challenging, requiring making -- and making sense of -- many responses. Yet tools that go beyond basic prompting tend to require knowledge of programming APIs, focus on narrow domains, or are closed-source. We present ChainForge, an open-source visual toolkit for prompt engineering and on-demand hypothesis testing of text generation LLMs. ChainForge provides a graphical interface for comparison of responses across models and prompt variations. Our system was designed to support three tasks: model selection, prompt template design, and hypothesis testing (e.g., auditing). We released ChainForge early in its development and iterated on its design with academics and online users. Through in-lab and interview studies, we find that a range of people could use ChainForge to investigate hypotheses that matter to them, including in real-world settings. We identify three modes of prompt engineering and LLM hypothesis testing: opportunistic exploration, limited evaluation, and iterative refinement.

연구 동기 및 목표

• 단일 프롬프트를 초월해 LLM 행동을 평가하는 데 도전하는 문제를 해결하기 위해, 체계적인 가설 검증을 위한 접근성 있고 시각적인 인터페이스를 제공한다.
• 특히 프로그래밍 경험이 없는 사용자들을 포함한 다양한 사용자가 모델과 프롬프트 변형 간의 출력을 탐색하고 비교하며 감사를 수행할 수 있도록 지원한다.
• 기회적 탐색, 제한된 평가, 반복적 개선의 세 가지 모델 상호작용 방식을 식별하고 지원한다.
• 프롬프트 엔지니어링과 실제 데이터 처리 파이프라인 간 격차를 해소하기 위해, 사용자가 ChainForge를 실무 워크플로우로 확장하는 방식을 관찰함으로써, 이를 통해 실생활 적용 가능성을 탐색한다.
• 미래의 LLM 도구 설계를 위한 통찰을 제공하기 위해, 평가의 개념화, 계획 수립, 체계화 과정에서의 충족되지 않은 요구사항을 식별한다.

제안 방법

• ChainForge는 사용자가 실험을 플로우차트 형태로 구성하고 공유할 수 있는 시각적 프로그래밍 인터페이스를 사용하며, 프롬프트 템플릿과 모델 호출 요소를 드래그-앤드-드롭으로 조합할 수 있다.
• 출력물을 옆에 붙여 놓는 방식으로 다중 LLM 비교를 지원하여, 사용자가 추론 방식, 사실적 일관성, 편향 등의 차이를 쉽게 시각적으로 평가할 수 있도록 한다.
• 프롬프트 템플릿 체이닝(재귀적 중첩)을 지원함으로써 AI 체인 개념을 확장하여, 모듈화되고 재사용 가능한 프롬프트 설계를 가능하게 한다.
• 사용자는 실험를 파일이나 웹 링크로 저장하고 공유할 수 있어 협업과 LLM 평가의 재현 가능성을 높인다.
• 학계 및 온라인 사용자로부터 피드백을 받아 반복적으로 개발되었으며, chainforge.ai에서 웹 및 로컬 배포 옵션을 제공하는 오픈소스로 초기 버전을 공개했다.
• 사용성, 실생활 적용 가능성, 잠재적인 응용 사례를 평가하기 위해 다양한 참가자를 대상으로 실내 실험과 인터뷰 연구를 수행했다.

실험 결과

연구 질문

• RQ1 컴퓨터 전공이 아닌 배경을 가진 사용자가 실생활 맥락에서 시각적 툴킷을 통해 LLM 가설 검증에 어떻게 참여하는가?
• RQ2 프롬프트 엔지니어링 및 감사 작업 중에 나타나는 기회적 탐색, 제한된 평가, 반복적 개선의 세 가지 모델 상호작용 방식은 각각 어떻게 구체화되는가?
• RQ3 다양한 모델과 프롬프트 간의 시각적 비교가 사용자가 모델 행동을 이해하고 정보 기반 결론을 내리는 데 얼마나 기여하는가?
• RQ4 사용자가 ChainForge의 원래 설계 목표를 초월해 데이터 처리 파이프라인을 프로토타이핑하기 위해 어떻게 활용하는가?
• RQ5 기회적 탐색에서 체계적이고 반복 가능한 LLM 평가로 전환하는 데 사용자가 겪는 주요 과제는 무엇인가?

주요 결과

• 다양한 배경을 가진 사용자들이 설치 후 약 15분 이내에 모델의 프롬프트 삽입 공격에 대한 강건성과 다국어 간 편향을 포함한 의미 있는 가설을 탐구하는 데 성공했다.
• 소규모 평가의 빠른 프로토타이핑이 가능했으며, 사용자들은 15분 이내로 전체 프롬프트 삽입 테스트를 완료하여 제한된 평가 작업에 대한 효율성을 입증했다.
• 많은 사용자들이 소스 코드를 수정함으로써 ChainForge의 功能을 확장하여, 실생활 데이터 파이프라인 프로토타이핑에 매우 유용한 도구로 기능함을 확인했다.
• 사용성은 높지만, 프로그래밍이나 AI 전문 지식이 있는 사용자들조차도 평가를 체계화하는 데 어려움을 겪었으며, 이는 탐색에서 체계적 테스트로 전환하는 데 더 나은 지원이 필요함을 시사한다.
• 모델 간 비교를 통해 사용자들은 사실 정확도와 추론 패턴의 차이를 노출시킴으로써 LLM 행동에 대한 더 나은 정서적 모델을 구축할 수 있었다.
• 연구 결과에 따르면, 프롬프트 및 모델 선택은 매우 주관적이며, 동일한 작업 조건에서도 사용자들이 다양한 기준과 해석을 적용하는 것으로 드러났다.