[论文解读] LLM-BRAIn: AI-driven Fast Generation of Robot Behaviour Tree based on Large Language Model

Artem Lykov, Dzmitry Tsetserukou|arXiv (Cornell University)|May 30, 2023

Natural Language Processing Techniques被引用 5

一句话总结

LLM-BRAIn 是基于 Stanford Alpaca 微调的 70 亿参数大语言模型，能够从自然语言指令生成结构和逻辑正确的机器人行为树（BT）。该模型在 8,500 个遵循指令的演示数据上进行训练，用户研究表明其生成的 BT 与人工生成的 BT 几乎无法区分（正确区分率仅为 4.53/10），支持在移动机器人、无人机和工业系统中实现紧凑、本地化部署。

ABSTRACT

This paper presents a novel approach in autonomous robot control, named LLM-BRAIn, that makes possible robot behavior generation, based on operator's commands. LLM-BRAIn is a transformer-based Large Language Model (LLM) fine-tuned from Stanford Alpaca 7B model to generate robot behavior tree (BT) from the text description. We train the LLM-BRAIn on 8,5k instruction-following demonstrations, generated in the style of self-instruct using text-davinchi-003. The developed model accurately builds complex robot behavior while remaining small enough to be run on the robot's onboard microcomputer. The model gives structural and logical correct BTs and can successfully manage instructions that were not presented in training set. The experiment did not reveal any significant subjective differences between BTs generated by LLM-BRAIn and those created by humans (on average, participants were able to correctly distinguish between LLM-BRAIn generated BTs and human-created BTs in only 4.53 out of 10 cases, indicating that their performance was close to random chance). The proposed approach potentially can be applied to mobile robotics, drone operation, robot manipulator systems and Industry 4.0.

研究动机与目标

• 使非技术用户能够通过自然语言指令控制机器人。
• 解决将非结构化的人类指令转化为正式、可执行的机器人行为逻辑的挑战。
• 开发一种轻量化、可在设备端运行的基于大语言模型的系统，实现实时机器人行为生成。
• 通过精心设计的节点库，确保生成的行为树在结构上正确、逻辑上一致且安全。
• 证明 LLM 生成的行为树在受控用户评估中与人工创建的行为树在感知上无法区分。

提出的方法

• 在使用 text-davinci-003 生成的 8,500 个遵循指令的演示数据上，对 70 亿参数的 Stanford Alpaca 大语言模型进行微调。
• 使用预定义的机器人动作和条件节点库，以约束并引导行为树的生成。
• 训练模型将自然语言描述映射为有效的、分层的 XML 格式行为树结构。
• 采用自指导提示策略合成训练数据，确保命令-BT 对的多样性与真实性。
• 优化模型以在低资源的机载微型计算机上进行推理，同时保持高性能且计算开销极小。
• 将模型集成到控制流水线中，利用节点库将 LLM 输出映射为可执行的机器人行为。

实验结果

研究问题

• RQ1 微调的大语言模型能否从自然语言指令生成结构和逻辑正确的机器人行为树？
• RQ2 LLM 生成的行为树在主观感知上与人工创建的行为树相似程度如何？
• RQ3 LLM-BRAIn 模型能否泛化到训练过程中未见过的指令？
• RQ4 该模型是否足够小且高效，足以在机载微处理器上实时运行以实现机器人控制？
• RQ5 在盲测用户研究中，该模型的性能与人工生成的 BT 相比如何？

主要发现

• LLM-BRAIn 即使面对复杂且未见过的指令，也能生成结构和逻辑正确的行为树。
• 在 15 名参与者的用户研究中，模型生成的 BT 平均仅在 4.53/10 次中被正确区分出与人工生成 BT 的差异，表明其感知相似度极高，接近随机水平。
• t 检验结果证实人类与 LLM 生成的 BT 之间无显著统计差异（p > 0.05），支持原假设：两者无法区分。
• 该模型保持了紧凑的模型尺寸，适合部署于机器人机载微处理器，支持实时推理。
• 系统在未见分布的指令上表现出良好的泛化能力。
• 模型性能受限于无法递归生成子树，以及对特定机器人（如无人机）需进行设备特定的微调。