企业官网建设流程全解析

最近具身智能圈子里有一件值得聊聊的事：某开源团队联合某高校研究院，把“人机联合训练”的缩放规律（Scaling Law）正式公开，并放出了一个统一具身操作模型的开源版本。这件事有意思的地方在于，它把机器人策略训练里最“玄”的那部分——人类遥操作数据到底怎么影响模型能力——用看起来很朴素的数据规律讲清楚了。过去大家默认“数据越多越好”，但人机联合训练的数据不是凭空来的，每一段轨迹都是人一步步操作出来的，成本极高。所以这篇文章我想借这个话题，把“人机联合训练的Scaling Law”拆开聊聊：它到底在描述什么规律，统一具身模型该怎么设计、怎么复现、怎么避坑，以及这件事对未来机器人学习生态意味着什么。如果你正准备入坑具身智能，或者已经被机器人端到端策略的数据问题折磨过，那这篇内容应该能帮你省不少时间。

1. 具身智能为什么突然开始强调“人机联合训练”

1.1 从“会看”到“会操作”，缺的到底是什么

过去几年，视觉大模型和语言大模型的发展，本质上靠的是互联网上海量的文本和图像数据。模型看多了图片，学会了识别物体；读多了文章，学会了生成语言。但机器人不一样，它不光要“理解”物理世界，还要“操作”物理世界。一个机械臂要稳稳地拿起一个软绵绵的物体，要拧开一个瓶盖，要把螺丝对准孔位——这些动作背后的“知识”，在互联网数据里几乎找不到。文本里写着“如何倒水”，但文本不会告诉你手腕该转多少度、施加多大的力。

这就引出了具身智能的核心瓶颈：训练机器人策略需要“操作数据”，而操作数据只能来自真实世界的人机交互。所谓人机联合训练，就是人类操作员通过遥操作设备（比如示教器、力反馈手柄、动作捕捉手套）操控机器人，把完整动作轨迹记录下来，再作为监督信号训练策略模型。这个过程，相当于把人类手眼协调的“肌肉记忆”搬到模型参数里。

这也是为什么最近“人机联合训练”被反复提及——它不是一种可选的训练技巧，而是目前获取真实操作数据最可靠、最直接的途径。仿真数据虽然量大，但sim-to-real的gap（仿真与现实之间的差距）在精细操作任务上依然让人头疼；自动生成数据虽然成本低，但无法覆盖人类操作中那种微妙的柔顺性和意图。所以至少在现阶段，人依然是高质量操作数据的主要来源。

1.2 为什么要搞“统一模型”，而不是一个任务一个模型

早期机器人学习往往是“一任务一模型”：给抓取训练一个模型，给开门训练一个模型，给倒水再训练一个模型。这种做法听起来直接，但问题很明显——每个任务都要重新采集数据、重新训练，数据和算力都无法积累。更重要的是，单个任务模型学到的特征非常窄，换个物体、换个环境就失灵，几乎没有泛化能力。

所以社区开始往“统一模型”方向走。所谓统一，核心是三层：统一动作表达，让不同机器人本体能共享同一套动作输出格式；统一任务接口，让模型通过自然语言或目标图片来理解当前任务；统一训练和评测流程，让不同团队的数据能合并训练、横向对比。把这个统一模型做实了，数据才能像大语言模型的文本token一样“攒起来”，模型能力才会随数据规模往上走。

这次开源团队做的事情，本质上就是把这条“统一”路线往前推了一大步：不仅公布了模型结构，还把“人机联合训练到底如何缩放”这个大家最关心的规律一起摆了出来。注意，这已经不是“我们要多采数据”这种口号，而是给出了一个可以指导实践的方向。

2. 人机联合训练的Scaling Law到底在说啥

2.1 把大模型领域的“缩放”概念搬到机器人策略上

在大语言模型领域，Scaling Law通常描述的是：模型参数量、训练数据量、计算量这几个变量和最终模型性能之间的关系。它的价值在于，你可以先在小规模上做实验，再预测扩大规模后的表现，从而合理分配资源。

具身智能领域也在寻找类似的规律，但有个关键区别：大语言模型的数据可以从互联网上大规模爬取，而机器人操作数据必须靠人一点点采。所以具身领域的Scaling Law，核心变量不再只是“数据量”，还叠加了“任务多样性”“操作者数量”“本体类型”这些与人相关的维度。我个人在实践中比较认可一个粗粒度观察：策略成功率随数据量的增长呈对数线性关系，也就是说，数据从1千条涨到1万条，成功率涨得最快；从10万条再往100万条走，收益会明显变缓。而任务多样性带来的收益往往比单纯堆数据量更显著——一个模型见过10种物体抓取，远比它重复学同一个物体抓取100遍更能应对新场景。

2.2 影响模型能力的三类核心变量

为了更好理解，可以把人机联合训练的Scaling Law拆成三个可调节的“旋钮”。

第一是数据规模，这里指的是“有效轨迹数”。什么叫有效？不是简单录了多少条视频，而是有多少条轨迹真正被模型用上并产生了正向梯度更新。很多人容易踩的坑是录了一大堆数据，结果其中大量轨迹是失败的、重复的、或者和任务无关的前后摇，清洗完发现有效数据只剩一半。所以在评估数据规模时，一定要以“有效轨迹”为口径。

第二是任务与场景多样性。多样性通常比数量更能提升泛化能力。比如同样训练“抓取”这个技能，如果数据里只有固定位置、固定光照、固定物体颜色，模型学到的可能是“伸到那个位置、合上夹爪”，而不是真正的“识别物体并适配抓取”。只有让数据覆盖不同位置、不同物体形状、不同背景干扰，模型才会被迫学到更本质的视觉-动作映射。

第三是模型参数量与数据量的匹配。这里有个很实际的经验：模型参数太大但数据量不够，loss虽然能降得很低，但泛化极差，本质上是过拟合了数据里的噪声；模型参数太小但数据量巨大，又会导致容量不足，学不到精细操作策略。比较稳妥的做法是从一个小规模模型起步，先验证数据有效性和训练流程，再随着数据量的增加同步放大模型——这种做法也方便你观察Scaling Law在自己数据集上的具体形态。

2.3 人在训练循环里的独特价值

人机联合训练里，“人”不只是数据的生产者，还是在训练循环里提供质量信号的特殊通道。同样一段操作，不同人演示出来的轨迹差异很大：有人喜欢先用视觉对准再快速插入，有人习惯贴近了再慢慢试探；有人动作流畅，有人会有多余的抖动。这些差异看似“麻烦”，但实际上是宝贵的多样性。模型在训练时如果能同时见过多种风格，最终学到的策略往往更鲁棒。

另外，人在数据采集过程中还会自然产生“纠错”行为——比如抓取失败后重新调整位置，插入不到位时退出来换个角度。这些包含失败与重试的轨迹，对训练一个真正能在真实世界应对意外情况的策略来说非常关键。很多团队在清洗数据时会把“失败轨迹”删掉，但从我的经验来看，合理保留部分含纠错过程的轨迹，反而能显著提升模型的鲁棒性。这个点后面在实操章节还会再提到。

3. 开源统一模型的设计思路与关键模块

3.1 一套典型的统一操作模型长什么样

这次开源出来的统一操作模型，整体架构其实并不复杂，基本可以看作“视觉编码器 + 时序Transformer + 动作输出头”的三段式设计。很多入门的同学看到论文里花花绿绿的框架图会觉得高深，但拆到底层，核心就是用视觉信息感知当前状态，用时序模型记住最近一段上下文，再输出期望的动作指令。

视觉输入部分，一般会同时使用多个视角：固定的第三视角RGB摄像头、机械臂末端手腕摄像头、可选深度图。多视角的价值在于互补——第三视角能提供全局空间关系，手腕视角能提供抓取点附近的精细纹理和深度信息。视觉编码器通常用预训练的ViT（Vision Transformer），可以冻结只当特征提取器，也可以放开微调。我的经验是，如果数据量不太大，冻结前几层、只微调后面几层，稳定性和训练速度都会更好。

时序融合部分，这就是Transformer的舞台了。把每一帧的视觉特征和上一时刻的动作状态拼成一个token序列，交给因果Transformer去建模“从过去到现在的上下文”。这里有一个关键设计：模型输出的不是单一动作，而是一小段未来的动作序列，比如预测接下来16帧的期望动作，然后从中间取一部分作为当前控制指令。这么做的目的，是为了让策略具备“预判”能力，动作不会一帧一帧地抖。

动作输出头是最后把隐状态映射成具体控制信号的部分，一般是一个全连接层。整体来说，这套架构本身不算新颖，但真正体现工程水平的地方在动作空间设计和数据流程上。

3.2 统一动作空间：让多本体真的能“共用一套模型”

统一模型最难的不是网络结构，而是怎么定义动作空间。市面上机械臂的构型五花八门：六自由度、七自由度，夹爪有一指、两指、三指，有的带力控，有的只有位置控制。如果每个本体都用自己的关节角度作为动作输出，那模型学到的策略根本没法迁移。

目前比较主流的做法是输出“末端执行器的位姿增量 + 夹爪开合指令”。所谓末端执行器，就是机械臂手腕中心那个点，它在三维空间里有六个自由度（3个位置 + 3个姿态）。让模型输出这个点的目标位置和目标姿态增量，而不是每个关节的角度，这样不同机械臂之间就有了统一的“动作语言”。真正执行的时候，再通过机械臂自身的逆运动学解算器把末端位姿换算成各关节角度。

这个设计还有个好处：增量式输出天然适合精细操作。比如“插入”这个动作，模型只需要预测“再往下移动2毫米”，而不是预测“1号关节转多少度”。后者要求模型精确理解整个机械臂的运动学，而前者只在当前状态附近做小范围调整，稳定性和精度都会高很多。当然，这会引入一层逆运动学计算的延迟和误差，所以在工程实现时要预留好控制频率的余量。

3.3 数据流程：人机联合训练的“标准生产线”

有了模型架构，接下来就是怎么组织人机联合训练的数据流。这里面相当关键的是数据格式的统一。开源仓库一般会推荐一个通用轨迹格式，每条轨迹包含：

• 观测序列：多视角图像帧（按控制频率采集，比如30Hz）；
• 动作序列：末端位姿增量 + 夹爪指令；
• 元信息：任务描述文本、物体类别、本体型号、数据采集时间等。

这些内容建议统一打包成HDF5格式，因为它支持分块读写，在大规模训练时读取效率远高于一堆散落的JSON文件。数据采集端、预处理端、训练端共享这一套格式，是团队协作不打架的基础。

训练阶段一般遵循“先缓存、再打混、后训练”的流程。先把所有轨迹的观测序列和动作序列都预提取成特征向量，缓存到显存或内存里，避免训练时反复解码图像拖慢速度。然后按轨迹粒度做随机打混，保证同一个任务批次里能看到不同场景、不同操作者的数据。最后才是常规的分布式训练。

我做这套流程最大的体会是：数据整理和特征预提取的时间，往往远超模型训练本身。所以一开始就要把数据管线设计好，不要等到数据踩坑了再改格式，改一次格式等于重训一遍所有模型。

4. 实操复现：从零跑通一个人机联合训练统一模型

4.1 环境准备与资源估算

先说硬件。如果你只是想跑通一个小规模的demo，一张12GB显存左右的消费级显卡也能凑合跑起来，但训练速度会让你难受。正常来说，一个像样的统一操作模型想要看到明显的缩放效果，建议至少用8卡A100（80GB）级别的资源，这样你可以在合理时间内完成足够多epoch的迭代。如果你是个人开发者，没有这么豪华的条件，可以先在单卡上用小模型跑一套完整流程，确认数据没问题、代码能通，再租用大机器扩规模。

软件环境相对标准：Ubuntu 20.04以上、Python 3.10、PyTorch 2.1以上、CUDA 11.8或12.1。依赖包主要是transformers、h5py、opencv-python、tensorboard等。这里要特别提醒一句：CUDA、PyTorch、显卡驱动三者版本一定要匹配好，否则训练过程会出现各种莫名其妙的“非法内存访问”报错。建议直接用官方容器镜像，省去自己配环境的痛苦。

启动训练常用一个配置文件，里面包含模型结构参数（视觉编码器规格、Transformer层数、头数）、训练参数（学习率、batch size、混合精度策略）、数据路径和日志路径。跑的第一件事建议是先让代码正常load数据、算一个batch的loss并输出，再正式拉长训练。很多问题在“第一步loss能算出来”之前都暴露不出来。

4.2 数据采集与预处理的要点

如果你有真实机械臂和遥操作设备，数据采集流程大概是这样的：设定机器人回到初始位姿，操作员通过手柄或示教器控制机械臂完成一次任务，系统按固定频率（我建议30Hz）同时记录图像流、末端位姿和夹爪状态。每次任务开始和结束时，把任务描述、物体编号写进元信息。

采完之后一定要做三个后处理步骤：

第一是剔除无效片段。轨迹开头可能有一两秒系统启动时间，轨迹结尾可能有机器人回退到安全位置的过程，这些片段对策略学习没有正向意义，要切掉。

第二是动作平滑。人手操作时多少会有抖动，直接训练进模型会让策略学出高频抖动。一般做法是对动作序列做低通滤波或Savitzky-Golay平滑，把高频噪声滤掉，但要注意不要平滑过头，否则会削弱“插入”这类动作中关键的力度变化。

第三是场景均衡。如果数据里包含了5种物体，但某种物体采了80%的轨迹，模型会严重偏向那个物体。建议按任务和场景做分层采样，让每个类别在batch里出现的概率接近均匀。

4.3 训练参数与效果观察

训练超参方面，可以直接参考一个经过反复调校的基准配置：AdamW优化器，学习率1e-4，warmup步数500到1000，batch size 64，混合精度fp16，训练50到100个epoch。每个epoch结束做一次评估，把当前策略放到一组固定的测试任务上计算成功率，不要只盯着loss看。这个非常重要——具身策略经常出现loss一直下降、真实任务成功率不涨的情况，因为模型在记忆训练轨迹而不是理解操作逻辑。

我习惯观察两个指标：一是成功率，二是动作轨迹与人类示范的平均距离。成功率反映了任务层面表现，轨迹距离则能侧面说明策略是否学到了“像人一样”的操作风格。如果成功率上去了、轨迹距离还很大，说明策略用了一种不同的但可行的方式完成任务；如果成功率不高、轨迹距离也大，大概率是模型没有学到关键动作节点。

训练曲线一般会有一个“顿悟”现象：前面几十个epoch成功率在低位徘徊，突然某几个epoch后快速上升。这时候不用急着改参数，耐心让它继续跑，往往后面会收敛到不错的水平。

5. 常见问题与调优心得

5.1 速查表：训练不收敛该查哪里

这个表里的每一条，都是我在实际运行中真实遇到过的问题。最典型的其实是第一类：模型loss很低，但策略完全没法用。原因通常不是模型结构有问题，而是动作空间定义和实际执行对不上。比如你输出的是末端位姿增量，但数据归一化时用了全局的最大最小值，导致增量幅度被压缩得极小，模型根本指挥不动机械臂。所以动作归一化这一步，要么不做，要么就按每个维度合理的物理范围单独设置上下界，千万别图省事用一个统一的scaler。

5.2 数据侧的独家经验：别急着删“坏数据”

很多团队整理数据时有个习惯：只要操作失败的轨迹就扔掉。但根据我跑下来的经验，完全失败的数据确实没用，但“失败后重新调整再成功”的数据非常有用。这种轨迹里包含了一个完整的纠错闭环：模型会看到“这个位置不对”，然后看到“人如何调整到一个更合理的位置”，这比单纯看几十条成功轨迹更能帮模型学会应对意外。

另一个容易被忽视的点是操作者的数量。如果所有数据都来自同一个人，模型会慢慢学到这个人的操作习惯和偏好，遇到不同风格的新操作者时表现就会下降。如果条件允许，尽量安排2到3个不同的人采同一批任务，哪怕其中一个人动作不那么“标准”，多样性带来的鲁棒性提升也远大于“标准性”带来的收益。

5.3 模型侧的小技巧：用任务描述拉大不同任务的区分度

在统一多任务模型里，任务表征的设计经常决定上限。最简单的方式是用自然语言描述任务，比如“拿起红色杯子放到左侧托盘”，由文本编码器转成向量后和视觉特征融合。但文本描述如果太笼统，比如常写成“grasp object”这种，模型就很难区分“拿起杯子”和“推动杯子”这种相近但不一样的任务。建议在数据采集时就让操作者提供更精确的一句话描述，并且在训练时用“文本向量 + 当前物体类别标签”一起作为任务条件，实测下来比单独用文本效果好很多。

6. 开源这件事，为什么值得整个社区跟着一起动

6.1 数据格式统一，比模型结构统一更重要

这次开源最大的价值不是那套网络结构，而是它把“人机联合训练”的数据协议、评测方式和基线模型做了整合。过去不同的团队各玩各的：你录HDF5，我存pickle，他导ROS bag，彼此谁也跑不了谁的数据。这种割裂严重拖慢了社区整体的数据积累速度。

现在开源版本提供了一个参考基线：数据格式统一了，评测指标统一了，模型结构和训练代码也开源了。这等于给整个领域提供了一个“公共度量衡”。任何一个团队，只要按这个格式产出数据，就能直接拿来和已有baseline对比。对一个新兴领域来说，一套好用的公共协议，比再多一篇高分论文都有价值。

6.2 后续能怎么扩展，基于人机联合训练还能玩什么

从我的角度看，人机联合训练这条路至少还有三个值得期待的方向。

一个是在线持续学习：在模型已经上线之后，人依然可以通过遥操作来纠正机器人的错误行为，这些纠正轨迹可以直接用于模型的在线微调。这样机器人就不是一次性训练后固化，而是在使用过程中通过人的反馈持续变强。

另一个是仿真数据与人机数据的混合训练：仿真数据负责覆盖大规模随机场景，人机数据负责提供真实物理交互细节，两者按一定比例混合，再通过统一模型结构去联动。这个方向很可能在明年成为新的grow点。

还有一个是跨本体强化：如果动作空间统一了，在一个机械臂上学到的策略能不能迁移到另一个不同构型的机械臂上？目前已经有一些初步工作证明了可能性，但距离真正开箱即用还有差距。开源统一模型的出现，会让这个方向的验证成本大幅下降。

最后分享一点个人感受。我在跑通这套流程之后，最强烈的感觉是：具身智能目前最大的瓶颈不在模型结构，而在数据生产端。一次高质量的遥操作数据采集，既要操作员熟练，又要场景搭配合适，还要后处理仔细，整个链路的人力成本远远超过训练模型本身的算力成本。所以想让Scaling Law真正发挥作用，功夫更多在数据侧。建议新入坑的朋友，先踏踏实实把一个小任务的数据采通、洗好、训练流水线跑顺，再考虑扩大任务规模和模型参数。这条路上的每一步踩过的坑，都可能在后面帮你省下一个月的时间。