首个真· 家具组装的VLA框架
——做对了什么?还有什么没做?
目录
01 家具组装为什么这么难
三条路线的共同盲区
三种家具的难度阶梯
02 进度增强VLA:两招管住长时序
连续进度信号替代离散切换
“撤退后再切”的边界设计
理时的自动切换
03 实验
仿真主结果
四个设计因素的影响与边界
04 真机:只掉16%意味着什么
05 VLA家具组装第一步
不同于过往仅支持单臂、迷你模型的 VLA 方案,由MERL(三菱电机研究实验室)联合牛津大学等团队提出的 FurnitureVLA,是业内首套可完成真实尺寸桌椅、书架双臂协同装配的视觉语言动作完整框架。
真实尺度的家具装配对机器人而言面临多重挑战:任务序列长达7个子步骤、总计约1550个控制指令,双机械臂需在狭小空间内协同完成对准、插入、拧紧等操作,且对位置精度有毫米级要求。
FurnitureVLA 搭建仿真 + VR 遥操作双数据采集链路,创新引入任务进度表征优化模型推理,无需人工分段干预即可自主流转装配工序,在超千步连续控制流程中稳定完成家具组装,为家用操作机器人落地长时序双臂作业提供了完整可行技术路线。
01 家具组装为什么这么难
三条路线的共同盲区
现有家具组装研究大致分三条线。
- 第一条是手工规则,先解析说明书,再手工编写抓取、对齐、插入的运动序列(如Fabrica)。
换一件家具就重写整套逻辑,泛化为零。 - 第二条是模仿学习(JUICER、IKEA Assembly Environment等),但在玩具尺度上用单臂操作,零件的几何容差、重量、双臂协调等真实约束一个都没覆盖。
- 第三条是VLA路线,但在面对650到1550步的长时序组装时,初始分布漂移和累积误差直接把策略送进没见过的状态空间。
研究中π0.5零样本在三类家具上全部挂零,全量微调也只有48%。
▲FurnitureVLA系统总览:仿真数据管线 + VR遥操作 + 进度增强VLA
三种家具的难度阶梯
论文选了三款宜家产品构建难度梯度:
边桌(4个子任务、12次技能执行、650步);
搁架(4个子任务、14次技能执行、850步);
椅子(7个子任务、25次技能执行、1550步)。
椅子任务最多,整个过程涉及抓取、对齐、插入、抬升、旋转等多种技能的灵活组合。所有零件初始位置在标称位姿±3cm、±5°范围内随机扰动,组装精度要求小零件平移误差≤1cm、大零件≤2cm,旋转轴偏差≤4°。
▲三类宜家家具的子任务分解与难度阶梯
02 进度增强VLA:两招管住长时序
FurnitureVLA以π0.5为backbone(PaliGemma-2B视觉编码器 + Gemma-300M动作专家,总参数约26亿),在子任务数据上全量微调。
两个关键设计都打在长时序的核心矛盾上。
连续进度信号替代离散切换
每段子任务演示数据被标注上一个从0到1的连续进度值。
标注的依据是子任务内动作原语的执行顺序,比如:
"抓取→放置→撤退"三个原语各占1/3的进度区间,区间内按时间线性插值。
VLA的输出从14维双臂动作扩展为15维(动作+进度),通过Flow Matching联合训练。
消融实验中如果把连续进度换成离散标签(整个子任务内进度不变、靠分桶切换),三类家具全部零成功率。
原因很直观:零件"快装好了"和"已经装好了"在视觉上几乎没有差别,离散信号学不到临界点,模型卡死在切换边缘。
连续信号提供的是从"刚开始"到"差不多了"到"完成了"的平滑梯度,容错空间大得多。
▲预定义方向预设
“撤退后再切”的边界设计
子任务切换点不放在"零件刚装好"那一刻,而是放在机械臂撤退到安全位置之后。
研究的逻辑是:刚完成组装的接触状态极不稳定,微小的执行误差会让下一子任务的起始分布变得很宽,进入没见过的状态空间、开始漂移。
而机械臂撤退到远离家具的悬停位置后,无接触、无受力约束,小偏差不会放大,每个子任务的起始状态更窄、更一致。
跨子任务的分布漂移就是这样被‘摁’住的。
▲进度增强VLA架构:联合预测动作与连续进度信号
理时的自动切换
推理阶段,模型每步输出当前子任务的动作和进度值。
当进度超过阈值(τ=0.95)且通过简单高频滤波(连续两帧都超阈值,或隔几帧再次触发),系统自动切到下一子任务指令,重置进度、清空动作缓存,不需要外部状态估计器。
03 实验
仿真主结果
500条仿真演示训练、100轮评测(Table I):
进步最大的是椅子(IVAR)组装:零件最大最重,对长时序漂移诱导的奇异位形最敏感,进度分解的收益因此最明显。
IVAR 虽然也涨了15个百分点,但56%的成功率依旧是明显瓶颈,失败集中在第五子任务:双臂协同抬起并挂接椅子框架。
▲仿真组装成功率对比
逐子任务成功率曲线呈现单调递减:每个子任务的成功率是一条只跌不涨的线,直观印证了误差累积传播的假设,而非某个环节存在单点瓶颈。
▲子任务成功率单调递减曲线
四个设计因素的影响与边界
下表覆盖了时序集成、动作步长、相机视角、输入分辨率四个因素的网格扫描。解读这些数字时需要注意边界条件:
- 时序集成(指数衰减权重平均近期预测,λ=-0.1最优)让整体成功率从65%回到80%,提升了15个百分点。
但这个收益来自平滑效应:对需要快速响应的动态场景,平滑本身可能是副作用。
边桌(LACK)最优λ=-0.1,而搁架(KALLAX)需要更平滑的λ=-0.25,说明重零件需要更多惯性。 - 动作步长上,LACK和IVAR倾向10步一重规划,KALLAX倾向25步:重零件轨迹需要更长的平滑窗口,更频繁的重规划意味着更高的推理开销。
- 后置相机最关键。
去掉后置相机或替换为深度图后,LACK从98%跌至45%,这说明双臂操作中后置视角对处理遮挡不可替代。 - 分辨率从224×224提到448×448,IVAR从50%提到56%,有收益但边际效应递减。
▲感知与控制设计因素的网格扫描结果
04 真机:只掉16%意味着什么
真机只测了最难的IVAR椅子。100条VR遥操作演示训练,15轮评测(Table IV)。完整组装成功率40%。
逐子任务分解看:
S1=80% → S2=73% → S3=60% → S4=53% → S5=47% → S6=47% → S7=40%。
S3和S4的瓶颈是左臂远离相机、视觉信息衰减;
S5是双臂抬起框架时要求同时对齐多组磁铁,精度需求最高。
▲真机完整组装过程与自主纠错行为
对比仿真56%的成功率,真机下降了16个百分点。
考虑到sim2real域差距通常在30%以上,这个数字说明VR遥操作采集的数据质量足够支撑策略迁移。
另外值得注意:模型出现了自主纠错行为。
当抓取不稳定时,机械臂会主动松开、调整位姿、重新抓取;安装框架时,会小幅调整以对齐磁铁。
这些行为在遥操作演示中有人工示范,策略学到了并能在新rollout中自主复现。
▲现实世界中的精度要求
但单独跑每个子任务(从正确的中间状态起步),各子任务成功率在67%~87%之间,远高于完整组装的40%,进一步确认失败模式是子任务间误差累积,而非某个环节无法完成。
▲真机IVAR椅子逐子任务成功率
05 VLA家具组装第一步
FurnitureVLA 证明长时序VLA的瓶颈不是模型不够大,而是误差管理机制没做对。
子任务分解+连续进度信号+撤退后切边界的组合,把VLA在真实尺寸复杂操作上的表现从"完全不可用"拉到了"路线可行"。
但这里的“路线可行”也是有“限制条件”的:
- 第一,双臂固定在工作台上,工作空间受机械臂运动学范围限制,移动底盘是必须的下一步。
- 第二,用磁铁替代了螺丝紧固。这是整个装配中最难、精度要求最高的环节,研究中也坦诚标注了此简化。
- 第三,仅覆盖三款宜家产品,家具种类的泛化能力未验证。
- 第四,真机仅100条演示训练、15轮评测,40%成功率的置信区间较宽,大规模统计意义上的性能有待进一步验证。
参考论文:
论文标题:FurnitureVLA: Learning Long-Horizon Bimanual Furniture Assembly with Vision-Language-Action Model