- 基础
- CLIP | 21.1 通过直接匹配图-文编码来训练
- DINO | 21.4 以 EMA & 全局视图的教师与局部视图学生进行自蒸馏
- BLIP | 22.1 在 CLIP 基础上添加 decoder 看图生文本
- SigLIP | 23.3 将 CLIP 的 softmax 损失改为 sigmoid 二分类损失提升训练效率
- LLaVA | 23.4 将 CLIP 投影到 LLM 空间并进行问答训练
- QwenVL | 23.8 将 CLIP 通过 256 learnable-queries cross-attn 变换到 LLM 空间
- VLA
- 基模
- OpenVLA | 24.6 VLM next-token-prediction 输出离散动作
- pi0 | 24.10 MoT & FM & zero-padding
- pi05 | 25.4 扩充 CE/互联网,FAST,subtask
- SmolVLA | 25.6 裁剪 MoT 并交错使用 CA 和 SA 以让模型更轻量化
- pi06 | 25.11 稀疏 RL 训练进度估计器给数据打 0/1 advantage
- 自回归
- G0.5 | 26.8 带 ActionCodec 和 CoT 的自回归 VLA,实验 AR > FM
- 基模
- WM
- EnerVerse | 25.11 稀疏自回归扩散训练 Unet-VM,中间层 latent 作为 AE cross-attn kv
- DreamDojo | 26.2 LAPA 式提取 WM 预训练 Ego 所需的 latent action condition 并将 WM 用于其他policy择优
- Ctrl-World (for IL) | 26.3 WM simulator rollout + 人工选择后训练数据
- PlaNet ?
- Sora
- V-JEPA
- Wan
- WM for RL
- Dreamer to Control
- Dreamer V3
- World-Env
- Cascaded WAM
- 显式
- 隐式
- VPP | 24.12 微调 SVD 并 query UNet 的中间特征交给 AE
- LAPA | 25.5 训练 latent action encoder 获取 pretraining condition
- RynnVLA-Latent | 26.10 分离残差/光流/相机位姿监督的 LAPA
- MWM https://www.alphaxiv.org/abs/2603.07799
- Joint WAM
- 扩散
- Motus | 25.12 VM/VLM/AE 三专家 MoT
- Lingbot-va | 26.1 自回归交错去噪 video chunk/action chunk
- Cosmos | 26.1 单一 Cosmos 直接去噪 proprio/action/img/value token,不用投影直接广播
- DreamZero | 26.2 单一 WAN 去噪 img/action token,带 action decoder
- DiT4DiT | 26.3 非 MoT & 带 diffusion shift & action_to_video_only 的实践
- FastWAM | 26.3 video gen 仅作为辅助任务
- MotuBrain
- Query-based 架构 (ACT-like)
- VLA-JEPA | 26.2 query latent action 并在 JEPA 空间监督从而 leverage human video
- Reactive
- AHA-WAM | 26.6 Context Routing 实现 v-a 异步
- InternW0 | 26.9 Context Routing + 力触觉
- 扩散
- 奇怪的架构
- dVLA | 25.9 用 VLM 做 discrete diffusion 同时出 image,text,action token https://www.alphaxiv.org/pdf/2509.25681
- discrete diffusion 就是从 all mask 开始,每步出 logits 后随机确定一些 token.
- dVLA | 25.9 用 VLM 做 discrete diffusion 同时出 image,text,action token https://www.alphaxiv.org/pdf/2509.25681
- 数据集
本文相对于其他机器人数据集的特色动机是?硬件/环境/时长?1-2句话高质量- RH20T | 23.7 带力和部分触觉的 4 本体 11万条,来自 haoshu
- BridgeData V2 | 23.8 多环境 widowx6 万条
- OXE | 23.10 室内跨本体数据
- DROID | 24.3 单臂 Franka + robotiq 尽量多场景和物体. 350h
- ActionNet | 24.12 傅里叶GR-1 GT-2机器人的灵巧操作数据, 30k eps
- AgiBot World Beta| 25.3 agibot g1100万条广泛室内场景,部分带触觉
- Galaxea Open-World | 25.8 星海图 R1 移动双臂 in-the-wild 500h
- RoboCoin| 25.11 各种移动机器人 18 万条带详细语言标注
- RoboMind| 25.12; 31 条异构/移动/触觉/仿真
- Open-H-Embodimen | 26.4 医疗机器人 750h
- MolmoAct2 | 26.5 in-the-wild 三视角 YAM
- ABC-130K | 26.6 YAM 3500h 较灵巧任务
- OpenNeoData | 26.9 N0 的视触觉 5000h 数据,含 TacUMI 和真机
- SharpaDex v1.0 | 26.9 Sharpa 指尖力触觉 300h,任务看起来挺灵巧
- EgoSteer | 26.7 ego 9600h, 遥操作以及 dagger 187h
- RoboAtom | 26.10 有 1.69wh 的原子操作数据集
- 无标签数据
- ATM | 24.1 预测二维点轨迹
- 仿真数据集
- InternData-M1 | 25.10, 24.4w eps 的 isaac 仿真数据,随机物体场景
- InternData-A1 | 25.11, 7433h,isaac + curobo 运动规划,涉及刚性、可动、柔性和液体 https://www.alphaxiv.org/abs/2511.16651
- Benchmark
- Bench2Dex | 26 灵巧手 bench, Isaac,采集的触觉数据巨大无比
- DAgger
- CR-DAgger 25.1 |基于导纳控制的残差 DAgger
- RoboPocket 26.3 | UMI DAgger
- EgoRecovery 26.7 | 人类手动摆出失败配置并纠正,提取意图调制 Gated 动作解码
- 触觉 VLA/WAM
- TacForesight 26.6| 以 force 预测未来 tactile 作为辅助条件
- VLA Framework
- FLuxVLA
- RLinf
- StarVLA
- 初创
- liber0 | 26.9 220Mh human 联训V/L/A三专家,配套机器人和手套
TODO
-
MMLab 的 EGOWILD2DEX https://mmlab.hk/egowild2dex/
-
9/23 推荐的五六篇文章 https://shuiyuan.sjtu.edu.cn/t/topic/506513/350
-
字节 embodied SWE: https://arxiv.org/pdf/2609.27308
-
每日 paper https://paper.axi404.top/daily/2026-09-24#cat-cs-CV