[论文解读] Automating Customer Service using LangChain: Building custom open-source GPT Chatbot for organizations

Keivalya Pandya, Mehfuza S. Holia|arXiv (Cornell University)|Oct 9, 2023

AI in Service Interactions被引用 32

一句话总结

本文提出 Sahaay，是一个开放源代码的 GPT 聊天机器人，使用 LangChain 构建，面向组织的客户服务，利用网页抓取、嵌入和对多個 LLM 的微调，实现实时、上下文感知的支持。它主张超越常见问题解答，提供个性化、可扩展的跨行业互动，附带在教育场景中的实现细节和用例。

ABSTRACT

In the digital age, the dynamics of customer service are evolving, driven by technological advancements and the integration of Large Language Models (LLMs). This research paper introduces a groundbreaking approach to automating customer service using LangChain, a custom LLM tailored for organizations. The paper explores the obsolescence of traditional customer support techniques, particularly Frequently Asked Questions (FAQs), and proposes a paradigm shift towards responsive, context-aware, and personalized customer interactions. The heart of this innovation lies in the fusion of open-source methodologies, web scraping, fine-tuning, and the seamless integration of LangChain into customer service platforms. This open-source state-of-the-art framework, presented as "Sahaay," demonstrates the ability to scale across industries and organizations, offering real-time support and query resolution. Key elements of this research encompass data collection via web scraping, the role of embeddings, the utilization of Google's Flan T5 XXL, Base and Small language models for knowledge retrieval, and the integration of the chatbot into customer service platforms. The results section provides insights into their performance and use cases, here particularly within an educational institution. This research heralds a new era in customer service, where technology is harnessed to create efficient, personalized, and responsive interactions. Sahaay, powered by LangChain, redefines the customer-company relationship, elevating customer retention, value extraction, and brand image. As organizations embrace LLMs, customer service becomes a dynamic and customer-centric ecosystem.

研究动机与目标

• 激励将传统的基于常见问题解答的客户服务转变为响应式、上下文感知的互动。
• 提出一个可通过 LangChain 在跨行业扩展的开源框架（Sahaay）。
• 描述面向组织使用的数据收集、知识检索和模型整合技术。
• 通过教育机构中的用例演示该方法。

提出的方法

• 通过网页抓取进行数据收集，构建组织知识库。
• 使用嵌入来进行知识检索和查询理解。
• 在基于 LangChain 的流水线中集成 Google 的 Flan T5 XXL、Base 和 Small 语言模型。
• 开发名为 Sahaay 的开源框架，用于实时支持和查询解决。
• 将开源工具结合成系统架构，以在跨平台部署可定制的聊天机器人。

实验结果

研究问题

• RQ1 基于 LangChain 的开源框架能否为组织提供实时、上下文感知的客户支持？
• RQ2 嵌入和多 LLM 配置（Flan T5 XXL、Base、Small）在企业聊天机器人中的知识检索效果如何？
• RQ3 定制化的 GPT 聊天机器人对客户留存、价值提取和品牌形象有何影响？
• RQ4 如何将网页抓取的数据转化为组织常见问题解答和支持查询的可靠知识源？

主要发现

• Sahaay 展示了基于 LangChain 的开源聊天机器人用于组织场景的可行性。
• 该方法利用网页抓取和嵌入来支持知识检索和个性化响应。
• 教育机构的用例展示了实时查询解决和在面向客户的情境中的潜在收益。
• 该框架将 LangChain 驱动的聊天机器人定位为提升客户留存和品牌认知的工具。