[논문 리뷰] Prompt Engineering for Healthcare: Methodologies and Applications

Jiaqi Wang, Enze Shi외 22명|arXiv (Cornell University)|2023. 04. 28.

Topic Modeling인용 수 116

한 줄 요약

프롬프트 엔지니어링이 의료 NLP에서 포괄적으로 다루는 리뷰로, 프롬프트 유형, 설계 방법(수동 및 자동), LLM, 의료 응용 분야를 포괄하며 연구자용 지침과 향후 방향을 제시합니다.

ABSTRACT

Prompt engineering is a critical technique in the field of natural language processing that involves designing and optimizing the prompts used to input information into models, aiming to enhance their performance on specific tasks. With the recent advancements in large language models, prompt engineering has shown significant superiority across various domains and has become increasingly important in the healthcare domain. However, there is a lack of comprehensive reviews specifically focusing on prompt engineering in the medical field. This review will introduce the latest advances in prompt engineering in the field of natural language processing for the medical field. First, we will provide the development of prompt engineering and emphasize its significant contributions to healthcare natural language processing applications such as question-answering systems, text summarization, and machine translation. With the continuous improvement of general large language models, the importance of prompt engineering in the healthcare domain is becoming increasingly prominent. The aim of this article is to provide useful resources and bridges for healthcare natural language processing researchers to better explore the application of prompt engineering in this field. We hope that this review can provide new ideas and inspire for research and application in medical natural language processing.

연구 동기 및 목표

• 의료 NLP에서 프롬프트 엔지니어링의 개발과 역할 요약.
• 수동 및 자동 프롬프트의 유형과 설계 방법 조사.
• 분류, 생성, 탐지, 보강, QA, 추론 전반에 걸친 프롬프트의 의료 응용 분석.
• 의료 프롬프트 엔지니어링의 도전과제, 향후 방향 및 자원 격차를 강조.

제안 방법

• 의료 NLP에서 2019년부터 2023년까지의 프롬프트 엔지니어링 범위 정의 및 문헌 고찰 수행.
• 의료 프롬프트와 관련된 대형 언어 모델의 특성 및 의료 프롬프트와의 관련성 설명(예: BERT, T5, GPT 변형 등).
• 프롬프트 형식(클로즈 vs 접두사; 수동 vs 자동; 이산 vs 연속) 및 구성 정리.
• 제로샷 및 파샷 전략을 포함한 수동 프롬프트와 자동 프롬프트 접근 방식 비교.
• 분류, 생성, 탐지, 보강, QA, 추론과 같은 의학 태스크에 대한 프롬프트의 응용 요약.

실험 결과

연구 질문

• RQ1 의료 NLP에서 현재 사용 중인 주요 프롬프트 엔지니어링 기법은 무엇인가?
• RQ2 의료 작업에 대한 효과성과 실용성 측면에서 수동 프롬프트와 자동 프롬프트의 비교는 어떠한가?
• RQ3 프롬프트 기반 방법으로 가장 큰 혜택을 받은 의료 NLP 작업은 무엇이며, 대표적 응용 사례는 무엇인가?
• RQ4 의학 도메인에서 프롬핑의 주요 도전과 향후 방향은 무엇인가?

주요 결과

• 프롬프트 엔지니어링은 LLM을 활용해 의료 NLP 태스크에 대해 소수 샷(few-shot) 또는 제로샷 학습을 수행하게 한다.
• 수동 프롬프트(제로샷 및 파샷)가 강한 성능을 보이며, 도메인 특화 프롬프트가 임상 텍스트 태스크의 개선을 이끈다.
• 자동 프롬프트(이산적 및 연속적)는 설계의 확장성과 태스크 적응성을 제공하며, 프롬프트 마이닝, 패러프레이징, 생성 및 점수화 같은 방법이 효율성을 높인다.
• 연속 프롬핑은 임베딩 공간에서 태스크 특화 최적화를 가능하게 하며 멀티모달 및 저자원 상황을 지원한다.
• 응용 분야는 임상 및 생의학 맥락에서 분류, 생성, 탐지, 보강, 질의응답, 추론에 걸쳐 있다.
• 리뷰는 현재의 도전 과제를 식별하고 의료 프롬프트 엔지니어링을 발전시키기 위한 향후 연구 방향을 제시한다.