CR-VLA-Force: Learning Control-aware Compliance VLA Model for Robust Contact-rich Robotic Manipulation
CR-VLA-Force: Learning Control-aware Compliance VLA Model for Robust Contact-rich Robotic Manipulation
Zhaohong Mai · Chao Wang · Chao Zeng · Sitong Mao · Heng Zhang · Shunbo Zhou · Chenguang Yang
一句话结论
CR-VLA-Force 的真正贡献不是再给 VLA 增加一个力觉输入，而是把 1 Hz 的慢速 VLA 与 500 Hz 的自适应柔顺控制器组成分层闭环：模型联合预测位姿和前馈力，控制器用实时力误差连续调刚度。六个力觉/接触条件平均成功率达到 89.2%，高于 ForceVLA 的 73.2%；擦板 40 N 跟踪误差降到 5.52%（base）和 8.78%（OOD）。但它的泛化证据仅覆盖单台 UR5e、四类任务与有限位姿偏移，“安全”主要来自工程控制约束而非整个学习系统的形式化保证。
关键词
摘要
中文摘要
将视觉运动策略或视觉-语言-动作模型与力/力矩感知结合，已经推动了机器人模仿学习，但现有力感知 VLA 往往难以精确跟踪作用力并快速连续调整。根因在于动作块一次生成、分段执行，以及感知推理与实时控制之间的明显延迟；当一个动作块持续施加过大的交互力而无法及时修正时，会带来任务失败和安全风险。本文提出用于反应式控制的控制感知柔顺 VLA（CC-VLA）：以多模态混合专家编码力序列和视觉-语言融合特征，用多阶段训练保护视觉语义感知并学习稀疏采样下的力觉，再由 VLA 引导的自适应柔顺控制器兼顾自由空间的位置跟踪与接触任务的力位跟踪。作者还设计了面向高精度力/力矩示范采集的共享遥操作方法。真实机器人实验显示，CC-VLA 提升了困难力觉任务的成功率和力控制精度，并在论文测试的部分 OOD 位姿偏移下保持多层安全性与鲁棒性。
英文摘要
Integrating visuomotor policies or Vision-Language-Action (VLA) models with force/torque (F/T) perception has demonstrated significant progress in imitation learning for robotic manipulation. However, existing force-aware VLA models frequently exhibit limited capability in precise force tracking and rapid successive adjustments. This deficiency stems from the limitations of action-chunk execution strategies and the substantial latency between perception and real-time control. Such limitations can lead to task failures and safety risks, particularly when the execution of an action chunk exerts excessive interaction forces without timely adjustment. To overcome this challenge, we propose the Control-aware Compliance VLA (CC-VLA) framework for reactive control. The CC-VLA model employs a multimodal mixture-of-experts (MoE) to encode force signal sequences and vision-language fused feature. Furthermore, it utilizes a multi-stage training strategy to ensure robust perception within the visual-semantic space and effective force perception under sparse sampling conditions. Additionally, a VLA-guided adaptive compliance controller is designed to facilitate precise position tracking during contact-free motion and optimal force-position tracking for contact-rich tasks. To facilitate high-precision F/T data acquisition, we also implement an adversaria shared teleoperation strategy for contact-rich demonstrations that bolsters system safety and interactivity. Extensive real-world experiments demonstrate that CC-VLA significantly improves success rates in challenging force-perception tasks and enhances force-control precision, while providing multi-level safety and robustness under the tested partial-OOD pose-shift settings.
直观理解
可以把系统理解为“慢脑 + 快反射”：慢脑每秒读取双视角图像、语言、机器人状态和一段力历史，规划未来 40 步的位姿、夹爪与期望力；快反射把离散动作插值成连续命令，并在 500 Hz 下根据实测力与期望力的偏差调节刚度。这样，即使视觉位姿估错几毫米，机器人也不必等下一次 VLA 推理才卸力，而能先由低层柔顺回路避免把误差放大成危险接触。
图 1：上层 CC-VLA 融合视觉、语言、本体状态与历史力，生成位姿和前馈力动作块；下层 VG-ACC 以 300-500 Hz 跟踪连续化后的参考位姿与期望力。
背景与问题
为什么做
接触密集操作同时要求几何精度、足够作用力和碰撞时的让步能力。纯位置 VLA 通常以低频观测生成较长动作块，接触后的新力信号要等下一轮推理才能改变计划；在插头错位、窗框约束或擦拭法向变化时，几毫米误差就可能被刚性位置控制放大成过载。真正可部署的系统需要把 VLA 的语义与泛化能力同高频、稳定、可约束的柔顺控制连接起来。
问题缺口
ForceVLA、TA-VLA 等方法虽然已把力或力矩加入 VLA，却主要仍以位置动作块为执行接口：低频模型难以跟踪精确期望力，也难以在一个动作块内部对连续接触变化作出反应。另一方面，视觉与力在维度、噪声、稀疏性和时间尺度上高度不平衡，过早或直接融合容易让视觉压过力信号，或让力噪声破坏预训练视觉语义。论文要补的是模型融合、动作接口和低层控制三者之间的系统缺口。
方法
方法概述
CC-VLA 是一个建立在 pi0 上的慢快分层系统：上层以 PaliGemma、flow-based action expert、历史力序列编码器和稀疏 MoE 联合产生位姿、夹爪和前馈力动作块；下层将动作块异步插值到高频命令，并依据力跟踪误差在线调节笛卡尔刚度。训练先建立视觉、语言、本体和动作对齐，再把力融合专家作为残差分支加入，以减少视觉主导与力噪声对基础空间能力的干扰。
核心机制
上层观测包含双视角 RGB、语言指令、13 维本体状态（TCP 位姿、夹爪宽度与当前六维力）以及历史六维力序列；pi0 的 flow action expert 输出长度 40 的 13 维动作块，其中每步同时含位姿、夹爪和期望力。历史力先分段，经共享 MLP patch encoder 与时间位置编码，再由可学习 force token 通过 cross-attention 汇聚；第二阶段的稀疏 MoE 把它作为对视觉策略的残差修正。下层把离散位姿在位置空间和 SO(3) 上连续插值，以实测力减期望力形成误差；当误差幅值恶化时降低刚度、改善时提高刚度，步长与当前误差成比例，并经过低通、上下界投影、临界阻尼设置和刚度变化率约束，在 500 Hz 形成力位闭环。
方法拆解
- 共享遥操作采集：在非力反馈输入设备与位置控制 UR5e 之间加入补偿虚拟阻抗，使机器人感受到的等效环境刚度低于真实环境，降低接触示教中的保护停机，并记录真实执行位姿和六维力。
- 第一阶段视觉策略学习：微调 pi0，并用 block-wise attention mask 对齐视觉、语言、本体与动作空间，先建立不依赖噪声力信号的空间感知和一般操作能力。
- 历史力序列编码：把推理间隔内的力/力矩序列切成连续 patch，共享 MLP 捕捉局部力矩耦合与变化趋势，时间位置编码保留顺序，可学习 force token 汇总接触建立、丢失、峰值和导数信息。
- 第二阶段 MoE 残差融合：加入四专家稀疏跨模态分支，让不同任务阶段依据高层指令与低层交互反馈动态路由；训练力分支去细化既有视觉动作轨迹，而不是与视觉主干从头竞争。
- VLA 引导的柔顺执行：将动作块异步插值到控制频率，位姿作为参考轨迹、预测力作为前馈项；自适应律根据连续力误差趋势逐轴调刚度，并以低通、饱和和稳定性条件约束变化。
关键要点
- “反应式”能力主要来自分层接口：VLA 本身仅 1 Hz 推理、力历史仅 10 Hz 采样，真正处理动作块内部突发接触的是 500 Hz 的 VG-ACC，而非更快的神经策略。
- 力在这里同时是输入和动作目标：历史力帮助识别任务阶段，预测前馈力把示范中的接触意图传给低层控制器，这比只让力条件化位姿动作更接近可执行的力位控制接口。
- 两阶段训练把力学习定义为对已建立视觉策略的残差修正；按钮基准中成功率提升 12 个百分点、错误按压位姿率从 28% 降至 8%，说明融合顺序会影响空间能力保持。
- 标题使用 CR-VLA-Force，而论文正文把核心框架称为 CC-VLA；阅读和检索时应把二者视为同一工作，不能误当成两个模型。
结果
- 六个成功率条件的平均值为 89.2%，对比 Diffusion Policy 31.3%、pi0 47.3%、pi0.5 44.7%、pi0 直接拼力 60.2% 和 ForceVLA 73.2%。
- 在 PB-base、PB-OOD、PI-base、PI-Pro、OW-1、OW-2 上，CC-VLA 分别达到 84%、88%、88%、92%、100%、83%；ForceVLA 分别为 68%、64%、68%、72%、92%、75%。
- 擦板任务的目标法向力为 40 N。CC-VLA 的相对力跟踪误差在 WB-base 为 5.52%、WB-OOD 为 8.78%；ForceVLA 分别为 35.57% 和 52.33%，pi0 与 pi0.5 还会因瞬时力超过 75 N 触发保护停机。
- 去掉 VG-ACC、使用固定低刚度、固定高刚度和可变刚度时，WB-base 力误差分别为 17.73%、7.92%、13.30% 和 5.52%，说明模型给出的目标力与自适应柔顺控制器都有独立贡献。
- 历史力编码器在视觉看不到插孔的 PI-Pro 中把成功率从 72% 提升到 92%；两阶段训练在 PB-base 提升 12 个百分点，在 PI-base 达到 76% 并提升 8 个百分点。
结果速览表
| 条件 | DP | pi0 | pi0.5 | pi0 + force | ForceVLA | CC-VLA |
|---|---|---|---|---|---|---|
| PB-base | 40% | 36% | 44% | 68% | 68% | **84%** |
| PB-OOD（高度 -6 cm） | 0% | 40% | 24% | 52% | 64% | **88%** |
| PI-base | 36% | 52% | 44% | 60% | 68% | **88%** |
| PI-Pro（插孔不可见） | 48% | 40% | 56% | 72% | 72% | **92%** |
| OW-1 | 40% | 58% | 58% | 67% | 92% | **100%** |
| OW-2 | 24% | 58% | 42% | 42% | 75% | **83%** |
| **六条件平均** | **31.3%** | **47.3%** | **44.7%** | **60.2%** | **73.2%** | **89.2%** |
洞察
- 这篇工作把 force-aware VLA 的瓶颈从“能否看见力”改写为“谁在什么频率上消费力”。输入模态、动作语义和控制频率必须一起设计，单独提高 VLA 的力编码能力并不能解决动作块内部的接触延迟。
- 预测期望力是系统的关键接口：它把学习到的示范意图交给经典控制器，使力不只是判断碰撞的观测，也成为可执行目标。相比只输出位置残差，这一接口更容易分别审计目标是否合理、跟踪是否稳定。
- 两阶段训练和残差 MoE 的本质是模态权重治理：先保护高维视觉语义，再让低维稀疏力信号只负责接触修正。它与 ForceFlow 用 AdaLN 提升 force 话语权、FD-VLA 用定向注意力隔离控制 token 属于同一设计原则的不同实现。
- 89.2% 平均成功率不能单独解释成 VLA 模型能力跃升，因为收益来自采集、融合、动作目标和控制器的联合系统。论文的价值恰恰在这种协同设计，而不是某一个网络模块的纯模型增益。
和已有方法的关系
- 相对 ForceVLA，CC-VLA 继承稀疏 MoE 的视觉-语言-力融合思路，但把力历史编码、前馈力动作目标和高频自适应柔顺控制器补成完整闭环，因此增量主要在控制接口与时间尺度，而非 VLA 基座规模。
- 相对 Reactive Diffusion Policy、FoAR 等快慢策略，CC-VLA 没有让高频神经网络持续重写动作；它让经典控制器在动作块内部反应，模型更新更慢但控制频率更高，工程稳定性与表达能力的权衡不同。
- 相对 Adaptive Compliance Policy，二者都把柔顺从固定部署参数提升为策略相关变量；ACP 直接预测参考位姿、虚拟目标与刚度，CC-VLA 则预测期望位姿和力，由误差趋势在线产生刚度。
- 相对 ForceFlow，二者都使用历史 wrench 并联合预测未来力与动作；ForceFlow 的预测力主要是训练期辅助目标、最终只执行位姿，CC-VLA 的预测力直接成为控制器前馈目标，因此控制语义更显式。
可借鉴点
- 为低频生成策略设计双通道输出：一条输出几何参考轨迹，另一条输出由高频控制器消费的物理目标；用明确接口把学习层与稳定控制层解耦。
- 新传感模态噪声大、信息密度低时，先训练基础感知和动作先验，再把新模态作为残差专家接入，并分别做空间能力保持与新模态有效性的消融。
- 安全评测至少同时报告成功率、期望力跟踪误差、峰值力/保护停机和扰动响应；只有成功率会掩盖刚性控制完成任务时的危险过载。
风险与判断
局限
- 只在单台 UR5e、同一类腕部六轴力传感器、四项实验室任务上验证；每个条件仅 24–25 次试验，没有置信区间、显著性检验或跨机器人迁移。
- 所谓 OOD 主要是按钮/白板高度下移 6 cm，以及插孔进入腕部相机盲区的近端起始；没有覆盖材料、摩擦、工具、负载、视觉背景或动力学的大范围分布外变化。
- 整个系统仍依赖示范中的高质量力控制和时间一致性。作者明确承认数据采集质量是关键依赖，错误的期望力分布可能会作为前馈项直接进入控制器。
- 自适应刚度使用受约束的启发式 Rprop 风格更新而非优化求解；论文给出控制器层稳定性约束，但没有证明包含感知误差、动作生成和异步插值的完整学习闭环具有形式化安全保证。
- 当前只处理物体级末端柔顺，未涉及手指级夹持力、多个接触点、六维耦合刚度或灵巧手内操作；对高速冲击的响应也不应从 10 Hz 力历史直接外推。
适用场景
- 需要持续法向力或受控插入力的工业操作，例如擦拭、抛光、打磨、插装、旋钮/窗体操作，以及视觉误差会迅速转化成危险内力的刚性环境交互。
- 已有低频 VLA 或生成式动作策略，但机器人控制栈支持笛卡尔阻抗/导纳、实时力矩传感与高频控制，希望在不把大模型提速到控制频率的情况下增加接触鲁棒性。
- 不适合直接用于没有可靠力传感、控制接口只接受低频位置命令、涉及高速冲击或多点灵巧接触、或需要可认证安全保证的场景。
最终判断
- 值得重点跟踪。它比“再融合一种模态”的论文更接近部署系统设计，因为明确回答了慢速 VLA 如何把意图交给快速柔顺回路，并用成功率、力误差和保护停机共同验证。
- 但应把结论限定为单平台、有限接触任务上的系统级证据：多层安全机制不等于端到端形式化安全，部分 OOD 也不等于开放世界泛化。后续关键验证是跨机器人/控制器迁移、错误期望力下的故障边界、摩擦与材料变化，以及手指级多接触扩展。
相关主题
继续阅读
上一篇
GE-Act 2.0: Pretraining and Scaling a World-Action Model for Robotic Manipulation
GE-Act 2.0 把 world model 的“预测未来画面”和 policy 的“输出动作”拆成可分别预训练、再可微分连接的两段，并用 KASO 解决“生成的未来与示范动作可能不是同一种正确行为”的监督错配。它最有价值的证据不是某个单点 benchmark，而是从 300 小时扩到 30,000 小时后，两个真实机器人上的零样本 OOD 操作成功率仍持续上升；但它目前仍是短视的 System-1 控制器，不等于开放环境中的完整机器人智能。
下一篇
OpenWAM: An Open, Modular Exploration Towards Systematic World-Action Model Pretraining
OpenWAM 最值得记住的不是“又一个视频生成模型改机器人策略”，而是它第一次把 WAM 的设计变量拆成可复现实验：骨干、潜空间、动作容量、世界/动作信息流、联合去噪和预训练数据配方分别控制，再把结论累积成一个开放模型。 论文给出的强结论是：WAM 需要足够强的视频生成先验和紧凑、高信息量的视觉潜空间；动作必须有独立容量并在训练时读取世界特征；推理时同步联合去噪优于人为安排“先想未来、再反推动作”；跨域预训练的主要收益是 OOD 泛化，而不是继续抬高接近饱和的 ID 分数。 OpenWAM-α 用约 6369 小时、5.185 亿帧的人类第一视角与异构机器人数据实现这套配方，在多数仿真和三类真机形态上达到强基线水平。但它在 LIBERO-Plus 只有 69.2%，相机扰动 33.8%、噪声扰动 39.8%，清楚暴露了“长时程像素潜空间预测 + 单臂数据覆盖不足”的 OOD 脆弱性。因此，这篇论文既是 WAM 的工程底座，也是比单纯 SOTA 宣传更有价值的失效边界报告。