[论文解读] A Platform for the Biomedical Application of Large Language Models

Sebastian Lobentanzer, Feng, Shaohong+7 more|arXiv (Cornell University)|May 10, 2023

Artificial Intelligence in Healthcare and Education被引用 13

一句话总结

本文提出 BioChatter，一个开源框架，用于与生物医学大模型交互，整合检索增强生成、模型串联、基准测试，以及隐私保护部署，通过两个网页应用进行演示。

ABSTRACT

Current-generation Large Language Models (LLMs) have stirred enormous interest in recent months, yielding great potential for accessibility and automation, while simultaneously posing significant challenges and risk of misuse. To facilitate interfacing with LLMs in the biomedical space, while at the same time safeguarding their functionalities through sensible constraints, we propose a dedicated, open-source framework: BioChatter. Based on open-source software packages, we synergise the many functionalities that are currently developing around LLMs, such as knowledge integration / retrieval-augmented generation, model chaining, and benchmarking, resulting in an easy-to-use and inclusive framework for application in many use cases of biomedicine. We focus on robust and user-friendly implementation, including ways to deploy privacy-preserving local open-source LLMs. We demonstrate use cases via two multi-purpose web apps (https://chat.biocypher.org), and provide documentation, support, and an open community.

研究动机与目标

• 在生物医学领域促进对大型语言模型的安全、可访问接口的需求。
• 提出一个开源框架，统一当前的 LLM 能力（RAG、串联、基准测试），用于生物医学场景。
• 确保稳健、易于使用的部署，包括隐私保护的本地 LLM 选项。
• 提供文档、支持和开放社区，促进采用与协作。

提出的方法

• 利用开源软件包构建可互操作的框架。
• 将知识融合/检索增强生成与模型串联及基准测试集成。
• 强调本地开源 LLM 的隐私保护部署。
• 通过两个多用途网页应用及随附文档展示其适用性。
• 旨在提供包容且易于使用的界面，适用于多样的生物医学用例。

实验结果

研究问题

• RQ1 开源平台如何有效整合检索增强生成、模型串联和基准测试，以用于生物医学 LLM 应用？
• RQ2 哪些设计选择能够在生物医学领域实现本地开源 LLM 的稳健、隐私保护部署？
• RQ3 生物科学研究人员如何利用网页应用和文档来采用 BioChatter 以应对多种生物医学任务？

主要发现

• BioChatter 通过两个多用途网页应用展示用例（可通过提供的 URL 访问）。
• 该平台提供文档、支持和开放社区以促进采用。
• 本工作聚焦于稳健、用户友好的实现，以及将多种 LLM 功能整合用于生物医学应用。