Never Too Late for Force: Accelerating VLA Post-Training with Reactive Force Injection
Never Too Late for Force: Accelerating VLA Post-Training with Reactive Force Injection
一句话结论
LIFT 给预训练 VLA 增加一条低延迟的力觉反应通路:复制原动作专家、编码最近 6D 力历史、用零初始化交叉注意力注入,并通过在线 DAgger 覆盖策略诱导的接触分布。真机结果显示它在书本插入和河内环放置上以更少样本达到更高分数,同时大体保留视觉泛化;但收益依赖任务,仍需要人工纠正与特定硬件。
摘要
中文摘要
预训练 VLA 具有强大的语言条件操作知识,但主要依赖视觉,在遮挡、深度模糊或微小力误差导致偏离离线分布的接触状态下容易失败。LIFT 在原动作专家旁边增加反应式动作专家,从预训练权重初始化,并通过因果力记忆和零初始化交叉注意力注入末端 6D 力,使动作能在执行中刷新。为处理策略依赖的接触分布偏移,LIFT 将反应式力注入与在线 DAgger 结合,在离线任务对齐数据和人工纠正轨迹的混合数据上训练。毛巾折叠、书本插入和河内环放置实验表明,LIFT 比仅视觉后训练学习更快、最终性能更高。
英文摘要
Pretrained vision-language-action (VLA) policies provide strong language-conditioned manipulation knowledge, but they remain largely vision-driven and can struggle once manipulation enters contact states where the scene is occluded, depth is ambiguous, or small force errors push execution off the offline demonstration distribution. We present LIFT, Late Reactive Injection of Force for VLA Post-Training, a force-aware post-training framework that adds contact reactivity to a pretrained VLA policy while preserving its general manipulation knowledge. LIFT grafts a reactive action expert beside the original action expert, initializes it from pretrained action weights, and injects recent 6D end-effector force through causal force memory and zero-initialized cross attention, enabling actions to be refreshed during execution. To address the policy-dependent distribution shift of contact feedback, LIFT couples reactive force injection with an online DAgger loop that trains on a mixture of offline task-alignment data and human-corrected online rollouts. Across towel folding, book insertion, and Hanoi ring placement, LIFT learns faster and reaches higher performance than vision-only post-training, while ablations show that reactive force memory and online corrective data are both important for robust contact-rich manipulation.
直观理解
背景与问题
为什么做
视觉语言动作策略已能从大规模数据获得通用操作知识,但真实操作总会经过接触状态。遮挡、深度歧义和微小位姿误差会让相机无法判断是否触碰、插到底或卡住,而末端 6D 力能直接揭示这些物理状态。力数据昂贵且依赖机器人平台,把它加入预训练会显著增加采集和统一标注成本,因此在后训练阶段补入力觉更现实。
问题缺口
后训练加入新力通路有三个难点:高频力必须在动作块内部快速生效,并保留最近接触历史;新增分支不能破坏原 VLA 的通用操作先验;真实策略稍有偏离就会进入离线数据未覆盖的力分布,单靠静态示范无法学习如何纠错。论文围绕这三点设计 LIFT,并用在线 DAgger 收集当前策略诱导的纠正状态。
方法
方法概述
LIFT 保留预训练 VLA 的视觉语言栈和原动作专家,旁路复制出一个因果反应式专家。视觉语言前缀只在每个动作块开始时计算并缓存 KV;执行过程中,力编码器把延迟对齐的最近 6D 力历史变成 causal force memory,通过交叉注意力注入反应式专家,逐动作更新动作块。训练时同时优化原分支和反应式分支,并以 1:1 比例混合无力的离线数据与带力的在线纠正数据。
核心机制
复制动作专家并采用 shifted causal attention,使第 i 个 reactive token 看到视觉语言前缀、后续 base-action token 和历史 reactive token,从而在初始化时复现原专家的全注意力上下文。力交叉注意力的输出投影全零初始化,所以第 0 步新增残差为零,策略输出与原 VLA 等价;训练后残差才逐渐学会利用力变化。延迟对齐 mask 保证每个动作只读取推理完成前实际可获得的力信息,避免未来信息泄漏。
方法拆解
- 反应式动作专家:复制原动作专家权重,使用 shifted causal mask,在动作块内部实现因果逐步解码。
- 因果力记忆:编码最近 6D 末端力/力矩序列,并按系统延迟对齐到可用时间窗。
- 慢视觉、快力更新:缓存视觉语言前缀 KV,动作块内重复计算力通路,避免每次接触变化都重跑视觉编码。
- 异构数据训练:双分支 flow-matching 损失;无力样本遮罩力路径梯度;离线与在线批次 1:1 采样。
- 在线 DAgger:机器人执行当前策略,人类在失败或危险接触状态纠正并回收带力轨迹,周期性同步新检查点。
结果
结果速览表
| 任务 | LIFT 峰值 | 视觉在线 DAgger峰值 |
|---|---|---|
| 毛巾折叠 | 0.825 / 2.8K | 0.725 / 3.1K |
| 书本插入 | 0.6 / 4.6K | 0.4 / 5.6K |
| 河内环放置 | 0.6 / 1.7K | 0.3 / 1.4K |
洞察
风险与判断
局限
适用场景
最终判断
值得作为 VLA 后训练接入物理反馈的工程模板跟进。最可复用的是输出等价初始化、缓存视觉慢上下文与力觉快更新的系统分工,以及在线数据覆盖真实失败分布的闭环;但在更大任务集与更少人工干预下的稳定收益仍需验证。
相关主题
Vision-Language-Action
VLA/WAM 从开放基座、多源数据、在线精修和长时程记忆,继续扩展到新感官模态、隐式空间表征对齐、几何世界建模、模块化世界—动作预训练、训练期物理模态蒸馏、动作接触后果预测与执行期闭环。
打开主题
继续阅读
上一篇
Tactile Genesis: Exploring Tactile Sensors at Scale for Learning Dexterous Tasks
Tactile Genesis 的主要贡献不是再造一种触觉传感器,而是建立一个足够快、接口统一的虚拟实验台,让研究者第一次能在同一只手、同一任务、同一训练协议下比较触觉的类型、覆盖、分辨率与噪声。论文最值得记住的结论是:在这三项灵巧操作任务中,**覆盖手掌和近端指节通常比升级指尖传感器更重要,约 200 个整手 taxels 已经够用,而 per-taxel 六维力/力矩是最稳健的默认表示**。这是一条有价值的硬件设计先验,但证据主要来自仿真蒸馏实验;真机只验证了 XHand1 上一次策略转移,因此不能直接解读为通用硬件排行榜。
下一篇
FM-VLA: Force-based Memory for Vision-Language-Action Models in Contact-Rich Manipulation
FM-VLA 的关键不是给 VLA 再塞一种当前时刻传感器,而是把整段腕部力/力矩历史压缩成可供动作专家读取的长期事件记忆。它在找隐藏积木、精确计数按钮按压与碗内擦拭三项非马尔可夫任务上达到 83.3% 平均成功率,显著超过视觉记忆 π-MEM 的 53.7%,推理延迟仅比无记忆 π0.5 增加 3.3 ms。最值得记住的是“长时 force + 短时 state”的职责分工,但证据目前仍限于单一双臂平台和小规模任务。
