跳到主要内容

全身 VLA 概览

Roban 全身 VLA 覆盖从数据转换、模型训练,到基于 CycloneDDS 与 HEFT 的真机推理的完整流程。

上游文档

本模块内容与 LeTools-Learning 文档 同源,以那边为准。发现不一致时请以上游为准并回报。

规格

项目说明
状态23 维:左臂 4 + 左爪 1 + 右臂 4 + 右爪 1 + 左腿 6 + 右腿 6 + 腰 1
动作32 维:上述 23 维 + root_xyz 3 + root_rot6d 6
图像仅头部相机
频率训练与 HEFT 控制均为 50 Hz
布局定义kuavo_data/modality_templates/roban_wholebody_modality.json
支持模型OpenPI、Isaac GR00T N1.7、LingBot-VLA v2

维度顺序与 kuavo_data/roban_data/config.py 中的 WHOLEBODY_STATE_NAMES / WHOLEBODY_ACTION_NAMES 一致。

流程

步骤做什么文档
数据准备rosbag 转 LeRobot v3 数据集数据准备
模型训练三个外置模型各自训练模型训练
通信准备控制器切换、CycloneDDS、有线与 ROS 通信通信准备
推理部署启动推理 Server 与 Client推理部署

前置条件

使用前请先装好 LeTools 主环境和对应的外置模型环境。

通用 Kuavo 双臂流程不在本模块范围内,本模块只覆盖 Roban wholebody VLA 的差异

检查清单

上真机前逐条确认:

  1. 数据集是 23D state / 32D action、只有头相机、50 Hz
  2. 三个模型都不要误用 Kuavo 双臂 adapter(openpi / groot / lingbotvla2
  3. OpenPI 的 policy_config_name、LingBot 的 lingbotvla_cli.yamlrobot_norm_path 必须来自同一次训练
  4. 边侧机可以 ping 通 192.168.26.1 / 192.168.26.12,ROS 能收到压缩图,controller_switch_cli amp 能发出切换
  5. cyclonedds_roban_edge.xml 的网卡名和 heft.switch_* 路径已换成实际机器