TenStep

Action-to-Action Flow Matching

论文 2026-02-07 Vision-Language-Action

Action-to-Action Flow Matching

Jindou Jia · Gen Li · Xiangyu Chen · Tuo An · Yuxuan Hu · Jingliang Li · Xinying Guo · Jianfei Yang

首要单位:MARS Lab, Nanyang Technological University MARS LabNanyang Technological UniversityMARS Lab, Nanyang Technological University

一句话结论

这篇论文值得记住,因为它重新审视了机器人扩散策略的起点:机器人已经有连续的本体反馈,就不必每次从无信息的高斯噪声开始生成动作。A2A 用已执行动作的历史序列初始化未来动作的 flow matching,在保持生成策略多模态与泛化能力的同时,把推理压到单步 0.56 ms。它的真正价值不是又一个更快的采样器,而是把控制策略的生成先验从“随机噪声”改成“机器人自身的动力学历史”。

摘要

中文摘要

近年来,基于扩散的策略通过把动作预测建模为条件去噪过程,在机器人领域取得了显著成功。然而,从随机高斯噪声采样通常需要多次迭代才能得到干净动作,推理延迟因此成为实时控制的主要瓶颈。本文质疑这种无信息噪声采样是否必要,并提出 Action-to-Action Flow Matching(A2A):用先前本体动作提供的信息初始化生成过程,而不是从随机噪声开始。不同于把本体反馈仅当作静态条件的已有方法,A2A 利用历史本体动作序列,并将其嵌入高维 latent 空间作为动作生成的起点。这个设计绕开昂贵的迭代去噪,同时捕捉机器人的物理动力学与时间连续性。大量实验显示,A2A 具有更高训练效率、更快推理速度和更强泛化能力;它在最低单步推理下仍能生成高质量动作,并对视觉扰动和未见配置更鲁棒。作者还把 A2A 扩展到视频生成,展示了它在时间建模任务中的通用性。

英文摘要

Diffusion-based policies have recently achieved remarkable success in robotics by formulating action prediction as a conditional denoising process. However, the standard practice of sampling from random Gaussian noise often requires multiple iterative steps to produce clean actions, leading to high inference latency that incurs a major bottleneck for real-time control. In this paper, we challenge the necessity of uninformed noise sampling and propose Action-to-Action flow matching (A2A), a novel policy paradigm that shifts from random sampling to initialization informed by the previous proprioceptive action. Unlike existing methods that treat proprioceptive action feedback as static conditions, A2A leverages historical proprioceptive sequences, embedding them into a high-dimensional latent space as the starting point for action generation. This design bypasses costly iterative denoising while effectively capturing the robot's physical dynamics and temporal continuity. Extensive experiments demonstrate that A2A exhibits high training efficiency, fast inference speed, and improved generalization. Notably, A2A enables high-quality action generation in as few as a single inference step, and exhibits superior robustness to visual perturbations and enhanced generalization to unseen configurations. Lastly, we also extend A2A to video generation, demonstrating its broader versatility in temporal modeling.

直观理解

把普通 diffusion policy 想成每次先把动作计划擦成一团噪声,再花几十步把它还原;A2A 则直接拿机器人刚刚真实执行过的连续动作片段作为起点。历史动作经过 CNN 编码到 512 维 latent,视觉只提供全局条件,AdaLN-MLP flow net 把这个起点搬到未来动作 latent,最后由残差 MLP 解码出下一段动作,因此模型是在一条很短、很符合物理连续性的路径上做修正,而不是从零猜整段动作。

主要图

主要图

主要图
主要图

背景与问题

为什么做

机器人控制和图像生成的先验不同:控制循环每一时刻都能读取关节、末端执行器和已执行动作,这些低延迟反馈已经携带当前姿态、速度趋势与动力学约束。扩散策略仍从高斯噪声开始,等于丢掉了最容易获得的时间连续性;在需要高频闭环的操作任务中,多次去噪会直接转化为控制延迟和更高的部署成本。

问题缺口

已有回归策略容易把多模态动作平均掉,扩散和 flow matching 策略则通常从无信息噪声到动作分布,必须用很多步把两个相距很远的分布连接起来。简单把当前本体状态和高维视觉特征拼接也会稀释低维物理信号,甚至损害空间泛化。论文要解决的是:能否把历史已执行动作作为有物理意义的起点,缩短生成路径,同时保留生成策略对多模态和未见环境的鲁棒性,并让单步推理在真实机器人上可用?

方法

方法概述

A2A 是一个面向机器人控制的 action-to-action flow matching 策略:它把历史已执行本体动作编码成起始 latent z0,把未来动作编码成目标 latent z1,在共享的 512 维空间中学习条件向量场,将 z0 运输到 z1。视觉序列由 ResNet-18 和线性投影提供全局条件,flow net 使用 AdaLN-MLP,残差 MLP 解码未来动作。训练同时优化 latent flow matching、动作自编码器重建和推理一致性损失,目标是让短路径生成既准确又能回到可执行的物理动作。

核心机制

A2A 的核心不是改变 flow matching 的损失形式,而是改变 source distribution:训练时不再从标准高斯 z0 出发,而是用历史本体动作 a≤t 经 CNN 自编码器得到的 latent 作为起点,并把未来动作 a>t 编码为目标 z1。视觉序列通过 ResNet-18 独立编码成条件 c,AdaLN-MLP flow net 学习 dzτ/dτ=vτ(zτ,c);由于相邻动作块在物理上连续,z0 与 z1 的分布距离天然更小,少量 Euler 步甚至单步就能完成有效运输。训练再用 L1 自编码器重建和 inference consistency 约束 latent 与原动作空间,避免 latent collapse 和不可执行输出。

方法拆解

  • 历史动作路径:收集最近 n=8 帧由本体反馈推断出的已执行动作,而不是仅使用上一时刻的命令;CNN action encoder 将动作轨迹压缩到共享 512 维 latent,作为 z0。
  • 视觉条件路径:最近 m=8 帧图像由 ResNet-18 编码,经线性投影/MLP 得到全局条件 c;视觉不和低维本体量直接拼接,减少高维视觉对物理信号的掩盖。
  • latent action-to-action flow:未来动作片段通过 action encoder 得到 z1,flow net 在 z0 到 z1 之间学习条件向量场,并用离散 Euler 积分进行 1、4 或 6 步推理。
  • 可执行性约束:联合优化 flow matching loss、动作自编码器 L1 重建 loss 和 inference consistency loss,让 ODE 得到的 latent 既接近真实未来 latent,也能被 decoder 还原为可执行动作。
  • 不确定性处理:在历史动作编码前注入小幅高斯噪声,为原本偏确定性的 action-to-action 路径恢复一定多模态,并缓解初始姿态或动作历史误差。
方法图
方法图

关键要点

  • A2A 的低延迟来自更短的分布运输路径,而不是单纯减少网络层数:历史动作与未来动作在物理连续性作用下本来就更接近。
  • 作者把历史动作定义为本体反馈推断出的已执行动作,而不是先前命令,这使闭环策略能显式吸收低层跟踪误差。
  • latent 空间不是可有可无的压缩层;消融显示,直接在原始 action 空间做 flow matching 的收敛和泛化都更差。
  • A2A 仍保留生成模型的价值:相比 latent regression,它在环境扰动下明显更鲁棒;必要时给历史动作加噪声还能恢复多模态行为。

结果

  • 仿真 5 任务的统一比较中,A2A(6 步)在 Close Box、Pick Cube、Stack Cube、Open Drawer、Pick-Place Bowl 上分别达到 92%、92%、86%、92%、90%,均为最高或并列最高。
  • 训练效率测试中,Close Box 用 100 条示范时 A2A 在约 40 个 epoch 内达到稳定 100% 成功率;真实 Franka 的 Pick Cube 和 Open Drawer 只用 30 条轨迹就达到 100% in-distribution 成功率。
  • 推理成本测试在 RTX 5090 32GB 上进行,A2A 单步平均延迟为 0.56 ms,整体低于 1 ms;论文报告其收敛速度最高约为 vanilla diffusion 的 20 倍、普通 flow matching 的 5 倍。
  • 在视觉扰动的 Roboverse Level 1–3 中,A2A(6 步)仍保持 38%、42%、38% 成功率;真实测试将目标替换为未见的发光方块时,基线完全失败而 A2A 达到 80%。
  • 初始状态不确定性会暴露 A2A 对动作历史的依赖,但给历史动作注入 0.1 STD 噪声后,泛化显著提高;在 Level 1 的另一组实验中,0.02 STD 的动作扰动把成功率从 20% 提到 52%。
结果图
结果图
结果图
结果图

结果速览表

对比维度A2A 结果论文含义
5 项仿真任务,6 步92 / 92 / 86 / 92 / 90%相比 8 个基线整体最高
单步推理0.56 ms;32 epoch 后成功率超过 90%高频闭环控制可行
真实 Franka,30 条轨迹Pick Cube、Open Drawer 均 100% in-distribution小数据和短训练更占优
未见发光方块80% 成功率,基线 0%历史动作提供视觉扰动下的物理锚点
Roboverse Level 1–3,6 步38% / 42% / 38%对背景、光照、视角变化更鲁棒
单步延迟对比低于 1 ms,最佳 0.56 ms主要收益来自短路径和 MLP 架构

洞察

  • 这项工作把“加速扩散策略”提升为“重新选择生成先验”:机器人自身的历史状态比人工设计的 warm-start 或额外噪声网络更直接。
  • A2A 的鲁棒性并非来自视觉编码器更强,而是把视觉和本体历史解耦后,让物理连续性在视觉受干扰时仍能维持动作方向。
  • 论文同时说明生成与回归不是二选一的口号:训练分布内两者都能拟合,但 flow matching 在未见扰动下明显保留更多可迁移结构。

和已有方法的关系

  • 相对 DDPM/Score/Flow 的 noise-to-action,A2A 缩短了 source-target 分布距离;相对 ACT 等回归策略,它保留了生成式路径对扰动的鲁棒性。
  • 相对 warm-start 或 RL 优化初始噪声的方法,A2A 不需要额外模型预测噪声统计量,而是直接复用执行历史这一可观测先验。
  • 相对 VITA 等一步 flow policy,A2A 的差异在于 source 不是视觉条件下的随机 latent,而是有物理语义的历史动作 latent。

可借鉴点

  • 对任何连续时间控制任务,优先检查上一段真实执行轨迹能否作为下一段生成的近似 source,而不是默认从白噪声或零向量开始。
  • 将低维物理反馈和高维视觉采用独立编码、全局调制的接口,比简单拼接更适合保留互补信号。
  • 若 action-to-action 过于确定导致模式坍缩,可在历史轨迹编码前使用小幅噪声作为轻量随机性旋钮。
洞察图
洞察图

风险与判断

局限

  • 方法依赖动作连续性;二值夹爪开关等离散或突变维度无法直接从历史动作连续性中获益。
  • 闭环生成依赖可靠的已执行动作历史,初始姿态或低层跟踪误差较大时性能会下降,虽然动作加噪能部分缓解。
  • 总损失中的多个权重(论文使用 λ0=0.5、λ1=1、λ2=0.5、λ3=1)仍需手工调节,跨机器人和跨动作空间的稳定性尚未充分验证。
  • 视频 F2F 只在小规模模型和四个未见场景上展示,尚未证明预测视频接入控制策略后能带来实际闭环收益。

适用场景

  • 适合连续关节或末端位姿控制、需要高频闭环和低推理延迟的抓取、开抽屉、堆叠等操作任务。
  • 适合训练数据有限、视觉背景或光照变化较大的机器人部署,可用历史动作维持物理一致性。
  • 可迁移到未来帧预测、轨迹生成等具有明显时间连续性的任务,但需要重新验证大规模模型的收益。

最终判断

  • 整体判断:A2A 是一个有明确物理先验、证据链完整且工程收益清晰的策略生成范式;0.56 ms 单步推理是其最具部署价值的结果。
  • 谨慎判断:它不是通用替代 diffusion/VLA 的万能方案,离散动作、历史反馈失真和多模态复杂任务仍是主要边界;后续应重点看混合离散-连续动作和跨机器人迁移。

Vision-Language-Action

VLA/WAM 从开放基座、多源数据、在线精修和长时程记忆,继续扩展到新感官模态、隐式空间表征对齐、几何世界建模、模块化世界—动作预训练、训练期物理模态蒸馏、动作接触后果预测与执行期闭环。

打开主题

继续阅读

上一篇

FD-VLA: Force-Distilled Vision-Language-Action Model for Contact-Rich Manipulation

FD-VLA 用真实力信号做训练期教师,让一个由视觉与机器人本体状态条件化的可学习 query 预测潜在力 token;部署时不再需要力传感器,却在三项真实接触操作上达到 61.1% 平均成功率。真正值得记住的不是“无传感器也能估力”,而是把含噪物理模态蒸馏为任务相关中间表示,并用定向注意力保护冻结 VLM 的视觉—语言语义。证据仍局限于单台 UR5e、三项任务和 50 条示范/任务,尚不能视为通用触觉替代方案。

下一篇

DexImit: Learning Bimanual Dexterous Manipulation from Monocular Human Videos

DexImit 的价值在于把大量单目人类操作视频转成可训练的双手灵巧机器人数据,而不是直接把 human embodiment 当成 policy 输入。它通过重建、调度、动作生成和增强四阶段,把 Internet 或生成模型产生的人类视频变成物理可行的机器人轨迹,并在零真实机器人数据下支持 sim-to-real 部署。