FoAR: Force-Aware Reactive Policy for Contact-Rich Robotic Manipulation
FoAR: Force-Aware Reactive Policy for Contact-Rich Robotic Manipulation
Zihao He · Hongjie Fang · Jingjing Chen · Hao-Shu Fang · Cewu Lu
一句话结论
FoAR 的关键不是把力/扭矩简单拼到视觉策略上，而是先预测未来是否会接触，再用这个概率门控力觉特征，并在部署时用力觉触发小步反应式修正。仅用 50 条示范，它在擦除、削皮和切菜等接触丰富任务上显著超过 RISE 与多种融合基线，并在白板被移动或重写后保持 100% 基本动作成功率。
关键词
摘要
中文摘要
接触丰富任务具有复杂的接触动力学，并要求精确控制，因此对机器人操作策略很具挑战。基于视觉的策略通常缺少力/扭矩等关键接触反馈，难以完成这类任务。论文提出 FoAR，一种融合高频力/扭矩感知与视觉输入的力觉感知反应式策略。FoAR 构建在 RISE 之上，引入由未来接触预测器引导的多模态特征融合，在非接触和接触阶段动态调节力/扭矩数据的使用比例。其反应式控制策略还使机器人仅用简单的位置控制就能准确完成接触丰富操作。实验表明，FoAR 在多种具有挑战性的接触丰富任务上显著超过所有基线，并能在意外动态扰动下保持稳健性能。
英文摘要
Contact-rich tasks present significant challenges for robotic manipulation policies due to the complex dynamics of contact and the need for precise control. Vision-based policies often struggle with the skill required for such tasks, as they typically lack critical contact feedback modalities like force/torque information. To address this issue, we propose FoAR, a force-aware reactive policy that combines high-frequency force/torque sensing with visual inputs to enhance the performance in contact-rich manipulation. Built upon the RISE policy, FoAR incorporates a multimodal feature fusion mechanism guided by a future contact predictor, enabling dynamic adjustment of force/torque data usage between non-contact and contact phases. Its reactive control strategy also allows FoAR to accomplish contact-rich tasks accurately through simple position control. Experimental results demonstrate that FoAR significantly outperforms all baselines across various challenging contact-rich tasks while maintaining robust performance under unexpected dynamic disturbances.
直观理解
把机器人想成同时拥有“远视”和“触觉”：点云负责看清场景与目标，100Hz 力/扭矩历史负责判断是否真正压到物体。FoAR 先问“未来几步会不会接触”，只有答案接近会接触时才放大力觉信息；一旦预测要接触但当前力不足，就沿动作块的前进方向补一个很小的位置步长。这样既避免了非接触阶段的传感器噪声，又不需要完整的阻抗控制器。
主要图
背景与问题
为什么做
擦除、削皮、切菜等任务的难点不是到达某个视觉目标，而是在接触发生后持续保持合适的法向力、方向和时序。接触前后的 RGB 或点云差异很小，视觉策略无法可靠知道工具是否真正压到表面；力/扭矩传感器能直接暴露物理交互，但在抓取、移动等非接触阶段又会产生噪声。此前把力觉特征全程拼接或作为额外 token 的做法没有区分任务阶段，可能反过来伤害抓取和接近动作。
问题缺口
论文要解决的是一个具体的阶段选择问题：如何让策略只在即将接触或已经接触时依赖高频力/扭矩，同时保留视觉策略在非接触阶段的泛化能力；以及如何把这种接触判断转化为无需手工调刚度、接触方向的在线纠偏。FoAR 以未来接触概率作为共享接口，将感知融合和反应式控制统一起来。
方法
方法概述
FoAR 将高频六维力/扭矩历史、RGB-D 点云和扩散动作头组合成一个阶段感知策略：独立预测未来接触概率 phi，用 phi 对力觉特征做软门控；部署时以 phi、8N 力阈值和 5N·m 扭矩阈值触发 0.006m 反应式位置修正。该设计在小样本真实机器人设置中同时改善接触精度与非接触动作可靠性。
核心机制
策略输入当前 RGB-D 点云 p_t、约 2 秒窗口的 100Hz 六维力/扭矩历史 f_(t-To:t) 和 RGB 图像 I_t。稀疏 3D 编码器与 Transformer 产出 512 维场景特征 h_s，三层 MLP 加时间 Transformer 产出 512 维力觉特征 h_f；独立的 ResNet18+MLP 接触预测器输出未来接触概率 phi。融合特征为 [h_s; phi*h_f+(1-phi)h]，再条件化扩散去噪动作头生成未来动作块；训练用动作 L2 损失与接触二元交叉熵之和，部署时按 phi 和力/扭矩阈值做反应式位置修正。
方法拆解
- 阶段感知编码：点云经稀疏 3D ResNet 与 Transformer 得到场景 token；100Hz 力/扭矩序列经 MLP、正弦位置编码和时间 Transformer 得到力觉 token。
- 未来接触门控：独立预测器用当前 RGB 与力觉历史预测未来接触概率 phi，并将力觉特征软门控到 phi*h_f+(1-phi)h，避免非接触噪声污染策略。
- 扩散动作生成：门控后的多模态特征作为条件，扩散动作头逐步去噪生成长度为 T_a 的末端执行器动作块。
- 部署反应式控制：当 phi>=0.9 且当前力低于 8N 或扭矩低于 5N·m 时，沿预测动作块的平均前进方向补偿 epsilon=0.006m；接触与非接触阶段使用独立时间集成缓冲区。
关键要点
- “是否需要触觉”本身是可学习的时序决策，软门控比全程拼接或 token 注入更能处理接触稀疏性。
- 未来接触预测和反应式控制是协同设计：预测器既控制特征融合，也决定何时启用力觉纠偏，降低了单独设计模块的接口错配。
结果
- 真实平台为 Flexiv Rizon + Dahuan AG-95 + OptoForce 六轴力/扭矩传感器 + RealSense D435，工作空间 45cm x 60cm x 40cm；每个擦除/削皮任务 50 条示范，切菜 40 条示范。
- 擦除、一般擦除和削皮得分分别为 0.875、0.850、0.756，三项抓取与接触动作 ASR 均为 100%；对应最佳基线 RISE 得分为 0.500、0.500、0.377。
- 切菜中 FoAR 平均切出 3.9±0.9 段，归一化段长均值/标准差 0.353/0.094；RISE 仅 1.8±0.6 段，0.727/0.411，FoAR 更接近示范 oracle 的 5.0 段和 0.200/0.056。
- 擦除消融显示 100Hz+预测器+反应式控制得分 0.875、擦除 ASR 100%；去掉反应式控制得分降至 0.650，降到 2Hz/10Hz 时分别为 0.625/0.800。
- 一般擦除的 Rewrite、Move、Rewrite+Move 扰动下，FoAR 得分/抓取 ASR/擦除 ASR 始终为 0.800-0.850/100%/100%，而 RISE 与 force-token 版本明显波动。
结果速览表
| 任务/方法 | 得分 | 关键 ASR |
|---|---|---|
| 擦除 FoAR | 0.875 | 抓取 100%，擦除 100% |
| 擦除（一般）FoAR | 0.850 | 抓取 100%，擦除 100% |
| 削皮 FoAR | 0.756 | 抓取 100%，削皮 100% |
| 擦除 RISE | 0.500 | 抓取 100%，擦除 75% |
| 削皮 RISE | 0.377 | 抓取 100%，削皮 50% |
| 切菜 FoAR | 3.9±0.9 段 | Place ASR 70% |
| 切菜 RISE | 1.8±0.6 段 | Place ASR 30% |
洞察
- 这项工作的主要贡献更像“控制接口设计”而非新的扩散骨干：把接触状态预测变成融合门控和控制触发器，使一个视觉策略能在不同物理阶段切换信息源。
- FoAR (3D-cls) 共享点云编码器后反而显著变差，说明接触预测关注“是否接触”的粗粒度线索，而动作策略需要物体位置和末端姿态等细粒度线索，两个目标应保持表示隔离。
- 100Hz 力觉并非越高越好，而是与 10Hz 动作输出形成快慢时标互补；2Hz/10Hz/100Hz 的消融直接展示了接触瞬态对采样率的敏感性。
和已有方法的关系
- 相较 RISE、ACT 和 Diffusion Policy 的纯视觉路线，FoAR 增加了高频力觉和阶段门控；相较 force-token/force-concat，它显式建模接触时机而不是全程注入。
可借鉴点
- 对任何稀疏激活的传感模态先学习一个“何时可信”的门控变量，再把门控同时接到特征融合和执行逻辑，可迁移到触觉、音频或事件相机。
- 保留非接触与接触两套时间集成缓冲区，避免接触阶段的动作块污染自由空间轨迹，是实现反应式策略时一个低成本的工程细节。
风险与判断
局限
- 静态阈值（8N、5N·m、phi=0.9）依赖传感器、工具和任务，换环境后需要重新标定，尚未证明跨机器人或跨物体的阈值不变性。
- 实验规模较小且为单臂、单相机、三类精心设计任务；切菜仅 FoAR 与 RISE 各 10 次，统计置信区间和失败模式覆盖有限。
- 位置控制下的纠偏只是沿动作方向的固定小步，不能显式控制法向力、顺应性或切向摩擦；论文也承认复杂环境可能需要混合力/位置或阻抗控制。
适用场景
- 适合擦除、削皮、插入、打磨、切割等接触状态难以从视觉区分、且需要持续或瞬时力调整的单臂操作。
- 也适合作为现有视觉扩散策略的增量模块：当已有位置控制接口但缺少力觉闭环时，可先复用门控预测器和小步纠偏。
最终判断
- 证据支持 FoAR 在受控真实机器人场景中显著改善接触成功率和动作质量，但不能据此宣称已解决通用力控；其优势依赖 OptoForce 传感器、示范分布和任务阈值，跨平台部署仍需校准与更强控制器。
相关主题
Contact-Rich Manipulation and Adaptive Compliance
接触密集操作中的运动—力联合学习路线：如何从示范、实时反馈、关节力矩、训练期力蒸馏、力域动作或动作后果预测获得任务相关接触表示，并在安全接触、轨迹精度、硬件成本、快速响应与控制带宽之间动态权衡。
打开主题
继续阅读
上一篇
Reactive Diffusion Policy: Slow-Fast Visual-Tactile Policy Learning for Contact-Rich Manipulation
RDP 的关键不是“把力塞进 Diffusion Policy”，而是把力放到正确的时间尺度和网络位置：低频 latent diffusion policy 负责生成约 0.67 秒的高层动作块，快速 asymmetric tokenizer 则以 24 FPS 读取最新触觉或六维 wrench，把潜在动作解码成末端相对位姿。模型不输出目标力、阻抗或力矩，学到的是“看到这种受力与任务阶段时，位置应该再压入、退出还是沿曲面移动一点”。 这正面回应“小位移很难学、策略浮在表面”的问题。论文观察到有效修正确实只有亚毫米级：削皮器受力突增时向上卸力，接近黄瓜末端时向下压入以继续贴面，双臂夹杯接触后向外修正以免压瘪。真正决定能否学到的不是位移绝对值，而是示范中是否有稳定的“力变化—微位移—接触结果”相关性，以及训练、推理和机器人执行是否在时间上对齐。
下一篇
TA-VLA: Elucidating the Design Space of Torque-aware Vision-Language-Action Models
TA-VLA 不是只提出一种新网络，而是系统回答力矩应该怎样进入预训练 VLA：关节力矩应接到动作解码器而非视觉语言编码器；一段力矩历史应先聚合成一个 token，而不是逐帧占用多个 token；训练时还应让模型联合预测未来动作与未来力矩。三项设计叠加后，π0 在五项接触密集任务上的总成功率从 23/100 提升到 86/100，在五项普通操作上仍从 85% 小幅升到 89%。证据说明廉价电机电流推算的关节力矩确实能补足视觉，但它不是经标定的末端接触力，跨机器人证据也仍很有限。