[논문 리뷰] A Platform for the Biomedical Application of Large Language Models

Sebastian Lobentanzer, Feng, Shaohong외 7명|arXiv (Cornell University)|2023. 05. 10.

Artificial Intelligence in Healthcare and Education인용 수 13

한 줄 요약

논문은 BioChatter를 소개합니다, 생의학 LLM과 인터페이스하는 오픈 소스 프레임워크로, 검색 기반 생성(RAG) 통합, 모델 체인, 벤치마킹, 프라이버시 보호 배치를 포함하며, 두 개의 웹 앱을 통해 시연됩니다.

ABSTRACT

Current-generation Large Language Models (LLMs) have stirred enormous interest in recent months, yielding great potential for accessibility and automation, while simultaneously posing significant challenges and risk of misuse. To facilitate interfacing with LLMs in the biomedical space, while at the same time safeguarding their functionalities through sensible constraints, we propose a dedicated, open-source framework: BioChatter. Based on open-source software packages, we synergise the many functionalities that are currently developing around LLMs, such as knowledge integration / retrieval-augmented generation, model chaining, and benchmarking, resulting in an easy-to-use and inclusive framework for application in many use cases of biomedicine. We focus on robust and user-friendly implementation, including ways to deploy privacy-preserving local open-source LLMs. We demonstrate use cases via two multi-purpose web apps (https://chat.biocypher.org), and provide documentation, support, and an open community.

연구 동기 및 목표

• 생의학 분야에서 대형 언어 모델과의 안전하고 접근 가능한 인터페이스의 필요성을 고취한다.
• 생의학 활용 사례를 위해 현재 LLM 기능(RAG, 체이닝, 벤치마킹)을 통합하는 오픈 소스 프레임워크를 제안한다.
• 프라이버시를 보호하는 로컬 LLM 옵션을 포함한 강력하고 사용자 친화적인 배치를 보장한다.
• 채택과 협업을 촉진하기 위한 문서화, 지원 및 오픈 커뮤니티를 제공한다.

제안 방법

• 상호 운용 가능한 프레임워크를 구축하기 위해 오픈 소스 소프트웨어 패키지를 활용한다.
• 지식 통합/검색 기반 생성(RAG)을 모델 체인 및 벤치마킹과 통합한다.
• 로컬 오픈 소스 LLM의 프라이버시 보호 배치를 강조한다.
• 두 개의 다목적 웹 애플리케이션과 함께 문서화를 통해 적용 가능성을 시연한다.
• 다양한 생의학 활용 사례에 적합한 포용적이고 사용하기 쉬운 인터페이스를 목표로 한다.

실험 결과

연구 질문

• RQ1 오픈 소스 플랫폼이 생의학 LLM 애플리케이션에서 검색 기반 생성, 모델 체인, 벤치마킹을 효과적으로 어떻게 통합할 수 있는가?
• RQ2 생의학에서 로컬 오픈 소스 LLM의 강력하고 프라이버시 보호 배치를 가능하게 하는 설계 선택은 무엇인가?
• RQ3 생물 과학 연구자들이 웹 애플리케이션과 문서를 활용하여 다양한 생의학 과제에 BioChatter를 어떻게 도입할 수 있는가?

주요 결과

• BioChatter는 제공된 URL을 통해 접근 가능한 두 개의 다목적 웹 애플리케이션을 통해 활용 사례를 시연한다.
• 플랫폼은 채택을 촉진하기 위해 문서, 지원 및 오픈 커뮤니티를 제공한다.
• 연구는 바이오메디컬 활용을 위한 다수의 LLM 기능의 강건하고 사용자 친화적인 구현 및 통합에 중점을 둔다.