[논문 리뷰] LLM-BRAIn: AI-driven Fast Generation of Robot Behaviour Tree based on Large Language Model

Artem Lykov, Dzmitry Tsetserukou|arXiv (Cornell University)|2023. 05. 30.

Natural Language Processing Techniques인용 수 5

한 줄 요약

LLM-BRAIn은 스탠포드 알파카 기반의 7B 파라미터 LLM을 피지테이닝하여 자연어 명령어에서 구조적이고 논리적으로 올바른 로봇 행동 트리(BT)를 생성합니다. 8,500개의 지시 수행 시범 데이터로 훈련된 LLM-BRAIn은 사용자 연구에서 인간이 생성한 행동 트리와 구분이 불가능할 정도로 유사한 결과를 도출합니다(4.53/10 정확도), 이는 모바일 로봇, 드론, 산업용 시스템에서 압축된 온디바이스 배포를 가능하게 합니다.

ABSTRACT

This paper presents a novel approach in autonomous robot control, named LLM-BRAIn, that makes possible robot behavior generation, based on operator's commands. LLM-BRAIn is a transformer-based Large Language Model (LLM) fine-tuned from Stanford Alpaca 7B model to generate robot behavior tree (BT) from the text description. We train the LLM-BRAIn on 8,5k instruction-following demonstrations, generated in the style of self-instruct using text-davinchi-003. The developed model accurately builds complex robot behavior while remaining small enough to be run on the robot's onboard microcomputer. The model gives structural and logical correct BTs and can successfully manage instructions that were not presented in training set. The experiment did not reveal any significant subjective differences between BTs generated by LLM-BRAIn and those created by humans (on average, participants were able to correctly distinguish between LLM-BRAIn generated BTs and human-created BTs in only 4.53 out of 10 cases, indicating that their performance was close to random chance). The proposed approach potentially can be applied to mobile robotics, drone operation, robot manipulator systems and Industry 4.0.

연구 동기 및 목표

• 비기술자 사용자가 자연어 명령어로 로봇을 제어할 수 있도록 한다.
• 비구조적인 인간 지시를 공식적이고 실행 가능한 로봇 행동 논리로 변환하는 과제를 해결한다.
• 실시간 로봇 행동 생성을 위한 경량이며 온디바이스 호환 가능한 LLM 기반 시스템을 개발한다.
• 정교한 노드 라이브러리를 통해 생성된 행동 트리가 구조적으로 정확하고 논리적으로 일관되며 안전한지 보장한다.
• 통제된 사용자 평가에서 LLM이 생성한 BT가 인간이 만든 BT와 시각적으로 구분이 불가능한지 입증한다.

제안 방법

• 텍스트-다빈치-003를 사용해 생성한 8,500개의 지시 수행 시범 데이터로 스탠포드 알파카의 7B 파라미터 LLM을 피지테이닝한다.
• 로봇 동작 및 조건 노드의 사전 정의된 라이브러리를 사용해 행동 트리 생성을 제약하고 이입한다.
• 자연어 기술서를 XML 형식의 유효하고 계층적인 행동 트리 구조로 매핑하도록 모델을 훈련한다.
• 다양하고 현실적인 명령어-BT 쌍을 확보하기 위해 자기지시 프롬프팅 전략을 활용해 훈련 데이터를 합성한다.
• 저자원 장치에 통합된 마이크로컴퓨터에서의 추론을 최적화하여 최소한의 계산 자원으로도 높은 성능을 유지한다.
• 노드 라이브러리를 사용해 LLM 출력을 실행 가능한 로봇 행동으로 매핑하는 제어 파이프라인에 모델을 통합한다.

실험 결과

연구 질문

• RQ1 피지테이닝된 LLM이 자연어 명령어에서 구조적이고 논리적으로 올바른 행동 트리를 생성할 수 있는가?
• RQ2 사용자 주관적 인식 측면에서 LLM이 생성한 행동 트리는 인간이 만든 행동 트리와 어느 정도 유사한가?
• RQ3 LLM-BRAIn 모델은 훈련 중에 볼 수 없었던 지시에 일반화할 수 있는가?
• RQ4 모델은 온보드 마이크로컴퓨터에서 실시간 로봇 제어를 위해 작동할 수 있을 정도로 작고 효율적인가?
• RQ5 블라인드 사용자 연구에서 모델의 성능은 인간이 생성한 BT와 비교해 어떻게 되는가?

주요 결과

• LLM-BRAIn은 복잡한, 훈련 중에 본 적 없는 지시에 대해서도 행동 트리가 구조적이고 논리적으로 정확하게 생성된다.
• 15명의 참가자가 참여한 사용자 연구에서, 모델이 생성한 BT는 인간이 생성한 BT와 평균 4.53개의 경우에서만 정확히 구분되었으며, 이는 거의 무작위 성능이며 강한 시각적 유사성을 의미한다.
• t-검정 결과 인간과 LLM이 생성한 BT 간 유의미한 통계적 차이가 없음을 확인했으며(p > 0.05), 이는 둘이 구분이 불가능하다는 귀무가설을 지지한다.
• 모델는 로봇 온보드 마이크로컴퓨터에 배포하기에 적합한 컴act한 크기를 유지하여 실시간 추론이 가능하다.
• 시스템은 훈련 세트에 포함되지 않은 분포 외 지시에 대해서도 일반화 성능를 보여준다.
• 모델의 성능는 재귀적 서브트리 생성 기능 부재와 드론과 같은 특수 로봇에 대해 장치별 맞춤 피지테이닝이 필요하다는 점에서 제한을 받는다.