[논문 리뷰] Interactive Natural Language Processing

Zekun Wang, Ge Zhang외 20명|arXiv (Cornell University)|2023. 05. 22.

Topic Modeling인용 수 22

한 줄 요약

이 논문은 대화형 NLP(iNLP)를 검토하며, 언어 모델이 인간, 지식 베이스, 도구, 환경으로부터 관찰, 행동 및 피드백을 받고 성능과 정렬을 개선하기 위해 에이전트처럼 작동하는 통합 프레임워크를 정의한다.

ABSTRACT

Interactive Natural Language Processing (iNLP) has emerged as a novel paradigm within the field of NLP, aimed at addressing limitations in existing frameworks while aligning with the ultimate goals of artificial intelligence. This paradigm considers language models as agents capable of observing, acting, and receiving feedback iteratively from external entities. Specifically, language models in this context can: (1) interact with humans for better understanding and addressing user needs, personalizing responses, aligning with human values, and improving the overall user experience; (2) interact with knowledge bases for enriching language representations with factual knowledge, enhancing the contextual relevance of responses, and dynamically leveraging external information to generate more accurate and informed responses; (3) interact with models and tools for effectively decomposing and addressing complex tasks, leveraging specialized expertise for specific subtasks, and fostering the simulation of social behaviors; and (4) interact with environments for learning grounded representations of language, and effectively tackling embodied tasks such as reasoning, planning, and decision-making in response to environmental observations. This paper offers a comprehensive survey of iNLP, starting by proposing a unified definition and framework of the concept. We then provide a systematic classification of iNLP, dissecting its various components, including interactive objects, interaction interfaces, and interaction methods. We proceed to delve into the evaluation methodologies used in the field, explore its diverse applications, scrutinize its ethical and safety issues, and discuss prospective research directions. This survey serves as an entry point for researchers who are interested in this rapidly evolving area and offers a broad view of the current landscape and future trajectory of iNLP.

연구 동기 및 목표

• iNLP를 새로운 NLP 패러다임으로서의 통합 정의와 형식을 제시한다.
• 상호작용 객체, 인터페이스 및 방법에 따라 iNLP의 포괄적인 분류를 제시한다.
• iNLP의 평가 방법론, 응용 및 윤리/안전 고려사항을 조사한다.
• 빠르게 진화하는 이 분야에서 연구자들을 안내하기 위한 향후 방향과 과제를 논의한다.

제안 방법

• LMs은 외부 객체로부터 관찰하고, 행동하며 피드백을 받는 에이전트인 iNLP에 대한 통합 프레임워크를 제안한다.
• 상호작용 객체를 인간, 지식 베이스, 모델/도구, 환경으로 분류하고 그 역할을 설명한다.
• 상호작용 인터페이스(자연어/형식 언어, 편집, 기계어, 공유 메모리)와 상호작용 방법(프롬프트, 파인튜닝, RL, 활성학습, 모방학습 등)을 체계적으로 검토한다.
• 각 상호작용 유형에 대한 평가 전략을 분석하고 현재 응용 사례와 안전 문제를 요약한다.
• iNLP에서 구현, 사회적 상호작용 및 grounding을 발전시키기 위한 향후 연구 방향을 식별한다.

실험 결과

연구 질문

• RQ1 상호작용형 NLP에 대한 통일되고 형식적인 정의와 프레임워크는 무엇으로 구성되는가?
• RQ2 iNLP를 상호작용 객체, 인터페이스 및 방법으로 어떻게 체계적으로 분류할 수 있는가?
• RQ3 대화형 상호작용 전반에 걸쳐 iNLP에 관련된 평가 방법과 윤리적 고려사항은 무엇인가?
• RQ4 iNLP의 주요 응용 영역과 향후 방향은 무엇인가?

주요 결과

• iNLP는 LMs를 인간, KBs, 도구/모델, 환경과 상호 작용하는 에이전트로 간주하여 환각, 정렬, 그리고 grounding 문제를 해결하기 위해 기존 NLP를 확장한다.
• 상호작용 인터페이스의 분류 체계에는 자연어, 형식 언어, 편집, 기계어, 공유 메모리가 포함된다.
• 상호작용 방법의 분류에는 프롬프트, 파인튜닝, RL, 활성학습, 모방학습, 그리고 메시지 융합 전략이 포함된다.
• KB 상호작용은 말뭉치, 인터넷, 생성적/암시적 지식 검색을 포괄하며 검색 품질과 노이즈에 대한 고려가 있다.
• 모델/도구와 환경은 작업 분해, 모듈식 하위 작업, 그리고 에이전트 간 협업을 가능하게 하여 복합 문제를 해결한다.