众力资讯网

具身智能还在烧钱?开源底座让Qwen零样本操控双臂机器人

核心价值:不换模型、不加真机数据,只换一套「机器人智能体底座」,同一个 Qwen 的 RoboDojo 得分从 1.90 直接涨到 31.39。
清华与 UC Berkeley 团队开源的 uni-robot-agent,把「大模型当机器人大脑」这件事从闭源 API 手里解放出来:一套统一工具接口,通吃仿真与真机,开源权重模型零样本就能干翻一众微调过的专用模型。

做具身智能的人都有一个痛点:想让机器人听懂「把红色积木叠到蓝色上面」这类自然语言,过去基本只能接 GPT 级闭源模型。模型权重拿不到、API 按调用烧钱、推理慢还没法做缓存优化,更别提拿机器人交互数据去训练自己的智能体。
uni-robot-agent 是清华与 UC Berkeley 团队 2026 年 11 月开源的「机器人使用智能体统一底座」(Robot-Use Agent Harness)。它不训练新模型,而是把模型与机器人之间的那一层——工具接口、调度、反馈、环境适配——重新做了一遍:统一、高效、真实、模块化。结果相当炸裂:同一个 Qwen3.8-Flash-Next,在 RoboDojo 基准上从原基线 1.90 分涨到 31.39 分,超过了论文里发表的 GPT-6 Astra + RoboProbe 的 28.97 分;在 19 项真机任务上零样本拿到 53.50 分,压过用每个任务 10 小时真机数据微调出来的 π0.5(47.75)。

核心定位:让开源权重模型「开箱即用」地操控机器人,并且把交互记录攒成可训练的数据资产。
配套资源很齐:官网、文档站、研究博客、arXiv 论文(2611.01560)、PyPI 包 uni-robot-agent 全都有,MIT 协议,277 星(截至 2026-11-08),建仓才 6 天但已经迭代到 v0.1.1。
✨ 核心功能一览
五层架构,每一层都可替换。 官方架构图把一次工具调用拆成:Agent 层(管模型与上下文)→ Orchestration 调度层 → Tool 层(Motion / Perception / Skills / Episode 共享接口)→ Service 层(管运行时资源)→ Backend 层(仿真器、真机、模型的原生实现)。想换模型、换工具、换机器人后端,都是换一个显式接口,不用推倒重来。

最狠的一条是「无特权输入」:只给 RGB 图像、相机标定、机器人本体感觉和任务说明,不给仿真深度、不给物体 CAD 模型、不给隐藏场景标注、更不给任务判定器反馈。 这逼着智能体像真机一样靠多视角三角测量自己算坐标——论文证明这样反而更接近现实部署,泛化性更好。
️ 快速上手:5 分钟跑通示例安装 / 注册需要一台 Linux + GPU 的机器(官方建议 Python 3.11 虚拟环境),两条命令装完:




pip install uni-robot-agent # 或 uv pip install uni-robot-agent
uni-robot-agent setup --integration robodojo跑一个任务配好视觉模型和兼容 Responses 协议的端点,直接下指令:




export UNI_ROBOT_AGENT_API_KEY='YOUR_API_KEY'
export UNI_ROBOT_AGENT_PROVIDER_URL='https://provider.example/v1'

uni-robot-agent run --integration robodojo --deploy local \
--task stack_bowls --model YOUR_MODEL_ID \
--action-profile direct --no-sam3 --output-dir ./runs --monitor--monitor 会在本地起一个 Dashboard,直接看相机流、工具调用、耗时和任务结果,无需前端构建。
Python SDK(自己写策略)



from uni_robot_agent import AgentConfig, SessionConfig, run

result = run(SessionConfig(
integration="robodojo",
env_url="http://127.0.0.1:18760",
no_sam3=True,
agent=AgentConfig(
model="YOUR_MODEL_ID",
provider_url="https://provider.example/v1",
),
output_dir="runs",
))
print(result.agent_finished, result.task_success, result.session_dir)Session.tools 可以让你完全自定义策略,RunRecord 读回已保存的 episode,setup() / deploy() 把本地服务掌控权交给你。想试「代码即策略」的新玩法,加 --interaction-mode code_as_policy。
注意:--no-depth(论文 RGB-only 设置)才是不靠特权信息的可比配置;RoboDojo 默认开深度,想复现论文结果记得关掉。
与竞品对比
几个值得划重点的数字:
• 同一模型、不同底座:Qwen3.8-Flash-Next 配 RoboProbe 只有 1.90 分,配 GAP(融了 π0.5)21.01 分,换到 uni-robot-agent 直接 31.39 分 / 25% 成功率——+29.49 分,一分钱真机数据都没加。• 换开源模型也成立:DeepSeek-V4.1-Flash 用同一底座拿 27.11 分,说明这不是给 Qwen 量身定做的特例。• 真机更夸张:19 项双臂桌面任务里,Qwen 零样本 53.50 分,微调 π0.5 是 47.75,零样本 Dream-1 是 43.50;换成闭源 GPT-6 Astra 上限能到 80.50。• 论文还定位了四个瓶颈:视觉理解、空间定位、几何编码、具身推理——并发现它们与 ERQA / MMMU-Pro / LiveCodeBench 等通用能力高度相关(ERQA 相关系数 r=0.97),给后续训练指了路。 适用场景场景一:双臂仿真操作(RoboDojo)
功能说明:RoboDojo 覆盖 42 个任务、五个能力维度(泛化、精度、长程执行、记忆、开放词汇指令遵循),每配置 252 个 episode。智能体用共享的 Motion / Perception 工具,靠多视角图像三角测量定位物体,再一步步完成抓取、递送、叠放。
输入要求:RGB 图像 + 相机标定 + 机器人本体状态 + 一句自然语言任务描述。
输出效果:结构化的工具调用轨迹 + 每步执行回执 + 完整的成功率/得分记录,全部存进 ./runs,可回放。
适用场景:评测新模型「会不会用机器人」、给开源模型攒可训练的交互轨迹、做跨环境泛化实验。
场景二:真机双臂桌面任务
功能说明:论文在物理双臂机器人上跑了 19 项任务,从叠杯子、插试管、擦白板到汉诺塔,五个维度各 20 分。智能体加装 Intel RealSense D405 深度后零样本上机,没有针对任何一项做过任务微调。

输入要求:相机画面 + 任务指令;可选深度传感器。
输出效果:Qwen 53.50 / 100,其中「按颜色顺序排方块」「擦白板」等拿到满分;Astra 80.50,组合泛化 20/20。
适用场景:科研真机验证、双臂协调算法对照、低成本把大模型接到现有机械臂平台。



场景三:一套接口,多种本体

功能说明:不管是 Franka 单臂、ALOHA 双臂还是 YuMi 双臂,也不管背后是 RoboDojo / RoboUse / LIBERO / RoboTwin 2.0 / RoboLab 哪个仿真器,上层智能体看到的是同一组工具、同样的参数和单位。加一个新环境 = 写一个 adapter,而不是把所有工具重写一遍。

输入要求:为新环境实现一个 adapter,声明可用的臂、相机与能力。
输出效果:跨环境、跨本体的交互记录能用同一格式存下来,直接喂给后续的 agentic training。
适用场景:多机器人平台实验室、把仿真经验迁移到真机、构建统一训练数据管线。
用户群体总结• ✅ 具身智能研究者:想用开源权重模型做可复现、可训练的机器人智能体实验。• ✅ 机器人实验室 / 高校:多套仿真器和真机平台需要一套统一接口收敛工具链。• ✅ Agent / LLM 工程师:想把「模型调用工具」这套范式从屏幕搬到物理世界。• ❌ 不适合:想开箱即用接上自家实体机械臂的用户——官方明确写了真机集成(ARX One / Franka)「Coming soon」,公开包目前只有仿真 + 论文里的实验性真机流程;也不适合纯 Windows 无 GPU 环境。 定价方案完全免费,MIT 协议,代码、Skill 文档、Dashboard、提示词全在包里。你只需要自备模型端点的费用——但正因为支持开源权重模型 + 本地部署,这条成本可以从「按次烧闭源 API」压到「自己跑模型」,而且官方专门做了推理与机械臂执行并行的两级调度来省时间。
开源协议: MIT
总结uni-robot-agent 的价值不在「又一个机器人模型」,而在它证明了:把信息组织好、把工具做可靠,开源模型今天就能把机器人用起来——1.90 → 31.39 的那 29.49 分,全是底座的功劳。对做具身智能、Agent 工具链、或是想把大模型能力落到物理世界的人来说,这是一个 6 天内就冲到 277 星、带论文带博客带 Dashboard 的扎实起点。
推荐指数: ⭐⭐⭐⭐⭐(满分5星)
适合人群: 具身智能研究者、机器人实验室、Agent / LLM 工程师。
立即体验: uni-robot-agent 官网
GitHub 仓库: Open-RUA/uni-robot-agent
数据截至 2026-11-08,最新信息请以官网为准。