[論文レビュー] Automating Customer Service using LangChain: Building custom open-source GPT Chatbot for organizations

Keivalya Pandya, Mehfuza S. Holia|arXiv (Cornell University)|Oct 9, 2023

AI in Service Interactions被引用数 32

ひとこと要約

この論文は、組織向けの顧客サービス用として LangChain で構築されたオープンソースの GPT チャットボット Sahaay を提示します。ウェブスクレイピング、埋め込み、複数の LLM のファインチューニングを用いて、リアルタイムで文脈を意識したサポートを実現します。FAQ を超えて個別化され、スケーラブルな対話を産業横断で提供することを主張し、教育機関における実装の詳細とユースケースを含みます。

ABSTRACT

In the digital age, the dynamics of customer service are evolving, driven by technological advancements and the integration of Large Language Models (LLMs). This research paper introduces a groundbreaking approach to automating customer service using LangChain, a custom LLM tailored for organizations. The paper explores the obsolescence of traditional customer support techniques, particularly Frequently Asked Questions (FAQs), and proposes a paradigm shift towards responsive, context-aware, and personalized customer interactions. The heart of this innovation lies in the fusion of open-source methodologies, web scraping, fine-tuning, and the seamless integration of LangChain into customer service platforms. This open-source state-of-the-art framework, presented as "Sahaay," demonstrates the ability to scale across industries and organizations, offering real-time support and query resolution. Key elements of this research encompass data collection via web scraping, the role of embeddings, the utilization of Google's Flan T5 XXL, Base and Small language models for knowledge retrieval, and the integration of the chatbot into customer service platforms. The results section provides insights into their performance and use cases, here particularly within an educational institution. This research heralds a new era in customer service, where technology is harnessed to create efficient, personalized, and responsive interactions. Sahaay, powered by LangChain, redefines the customer-company relationship, elevating customer retention, value extraction, and brand image. As organizations embrace LLMs, customer service becomes a dynamic and customer-centric ecosystem.

研究の動機と目的

• 従来の FAQ ベースの顧客サービスから、反応的で文脈を考慮した対話への移行を促進する。
• LangChain を用いた産業横断的にスケールするオープンソース枠組み（Sahaay）を提案する。
• 組織利用のためのデータ収集、知識検索、モデル統合技術を説明する。
• 教育機関のユースケースを用いてアプローチを実演する。

提案手法

• 組織知識ベースを構築するためのウェブスクレイピングによるデータ収集。
• 知識検索とクエリ理解のための埋め込みの活用。
• LangChain ベースのパイプライン内で Google's Flan T5 XXL、Base、Small を統合。
• リアルタイムサポートとクエリ解決のための Sahaay というオープンソース枠組みの開発。
• オープンソースツールを組み合わせて、複数のプラットフォームでカスタマイズ可能なチャットボットを展開するシステムアーキテクチャ。

実験結果

リサーチクエスチョン

• RQ1 LangChain ベースのオープンソース枠組みは組織向けのリアルタイムかつ文脈を意識した顧客サポートを提供できるか。
• RQ2 埋め込みとマルチ LLM 構成（Flan T5 XXL、Base、Small）が企業向けチャットボットの知識検索にどれほど効果的か。
• RQ3 カスタマイズされた GPT チャットボットは顧客維持、価値抽出、ブランドイメージにどのような影響を与えるか。
• RQ4 ウェブスクレイピングで得たデータを、組織の FAQ やサポート質問の信頼できる知識源へ変換するにはどうすればよいか。

主な発見

• Sahaay は、組織利用のためのオープンソースの LangChain ベースチャットボットの実現可能性を示しています。
• このアプローチは、知識検索と個別化された回答を支援するためにウェブスクレイピングと埋め込みを活用します。
• 教育機関のユースケースは、リアルタイムのクエリ解決と顧客対応文脈での潜在的利益を示します。
• この枠組みは LangChain 搭載のチャットボットが顧客維持とブランド認識を向上させる可能性を示します。