24 亿参数、90.4%、21.8 毫秒：Kyutai 把「记忆」塞进动作专家，VLA 的下一道题从参数量换成了时延
一个 24 亿参数的 VLA 模型，用 32 个 register token 把「最近几帧发生了什么」缓存下来，在 LIBERO-Plus 上拿到 90.4%，单张 H100 上一个动作块 21.8 毫秒。这篇讲的是：当基准分数普遍上到 90 分之后，真正卡住落地的已经不是准确率，是时延和可见性。
- 发布内容：法国 AI 实验室 Kyutai 联合 Inria 与 École des Ponts 发布 REKI，一个 24 亿参数的视觉-语言-动作（VLA）模型，面向机器人操作，权重已公开在 Hugging Face。
- 结构：骨架是 Qwen3.5-2B，配一个 2 亿参数的动作专家，动作块由 flow matching 生成；机器人状态与流时间通过 adaptive RMSNorm 注入，每种机器人状态配置配一个独立的小状态 MLP。
- 记忆机制：动作专家内部用 32 个可学习的 register token 放在动作 token 之前，既能交叉注意力看提示与当前帧，也能自注意力看更早帧的 register；register 只依赖观测，每帧算一次后放进滚动窗口缓存。
- 成绩：在 LIBERO-Plus 上取得 90.4% 的最高分；在 RoboTwin Clean2Rand 上是「仅用公开数据预训练」的 VLA 中最好的；在 NVIDIA H100 上，两路 256×256 相机输入下，一个动作块处理耗时 21.8 毫秒。
- 边界：报道同时写明，在部分分布外（OOD）基准上，REKI 被参数量约为其两倍的模型超过；权重目前只提供 BF16，未发布量化版本。
- 判断：90.4% 这个分数本身不是新闻，21.8 毫秒才是。它把 VLA 的竞争从「能不能做对」推到了「多久能给出下一个动作」，而这恰好是端侧部署最先撞墙的地方。
REKI 是一个 24 亿参数的 VLA：输入相机画面与语言指令，输出机器人动作。骨架是 Qwen3.5-2B，负责理解「画面里有什么、指令要什么」；在此基础上挂一个 2 亿参数的动作专家，用 flow matching 生成动作块。机器人自身的状态（关节角、夹爪开合等）和 flow matching 的时间步，通过 adaptive RMSNorm 注入；每一种机器人状态配置，配一个独立的小状态 MLP。
这个结构并不新鲜——主干加动作专家，是当下 VLA 的主流做法。真正新的是动作专家内部的那一段：32 个可学习的 register token，被放在动作 token 之前。
这 32 个 token 做两件事。其一，对已编码的提示与当前帧做交叉注意力，把「现在要干什么」读进来；其二，对**更早帧的 register** 做自注意力，把「刚才发生了什么」接上来。关键在于，register 只依赖观测，不依赖动作输出，因此每一帧只需计算一次，算完就丢进一个滚动窗口缓存起来，后续帧直接复用。
判断：这其实是一个很工程化的取舍：与其让模型反复回头看整段历史（代价随帧数线性甚至平方增长），不如把历史压缩成一段固定长度的记忆，每帧增量更新。代价是记忆容量被 32 个 token 锁死，好处是推理开销几乎不随记忆长度变化。这条路线的价值不在精度，在于它让「带记忆的 VLA」第一次变得可部署。
多数 VLA 只看当前帧。这在实验室里够用，一到真实场景就出问题：物体被手挡住两帧、夹爪打滑了一次、桌面被前面的动作推动了半厘米——这些都不会出现在当前帧里，但决定了下一步该怎么做。没有记忆的模型只能靠当前这一帧重新猜，猜错的代价是动作抖动或直接失败。
补记忆有两条路。一条是加大上下文，把历史帧直接塞进模型；代价是计算量随帧数增长，对需要在几十毫秒内出动作的控制系统来说，这几乎不可用。另一条就是 REKI 的做法：把历史压成固定长度的 register，滚动更新。
加大上下文：信息保真度高，能回溯到具体某一帧；代价是时延随历史长度增长，且长上下文的注意力开销在端侧芯片上很难压住。
压缩记忆：时延基本恒定，可预测、可排期；代价是记忆容量有上限，长时间跨度的因果链可能被截断，且丢弃哪些信息由训练决定，不可人工指定。
判断：这两条路不是技术优劣之争，是部署形态之争。如果模型跑在云端、机器人通过网络调用，加大上下文完全可行，反正网络往返本身就几十毫秒；如果模型跑在本体上，压缩记忆几乎是唯一选择。REKI 把答案明确压向了后者。
报道给出的成绩有三项：LIBERO-Plus 上 90.4% 的最高分，RoboTwin Clean2Rand 上是公开数据预训练 VLA 中的最好成绩，以及在单张 NVIDIA H100 上、两路 256×256 相机输入下，一个动作块的推理耗时 21.8 毫秒。权重以 BF16 提供，目前没有量化版本。
| 指标 | 数值 | 条件 | 本站说明 |
|---|---|---|---|
| 参数量 | 24 亿 | Qwen3.5-2B + 2 亿动作专家 | 原文口径，其余为状态 MLP 等 |
| LIBERO-Plus | 90.4% | 分布外操作基准 | 报道称最高分，未披露对比清单 |
| 动作块时延 | 21.8 毫秒 | H100，两路 256×256 | 对应约 45.9 Hz，为本站换算 |
| 权重格式 | BF16 | 无量化版本 | 端侧落地前需自行量化 |
| 记忆单元 | 32 register | 滚动窗口缓存 | 每帧仅算一次的增量设计 |
把 21.8 毫秒换算成频率，大约是每秒 45.9 次决策。这个数字要放在控制周期里看：工业机械臂的常见控制周期在 4 到 10 毫秒，服务机器人本体的关节控制多在 5 到 20 毫秒，而人形机器人整机的高层决策周期通常在 20 到 50 毫秒。也就是说，21.8 毫秒刚好落在高层决策周期的可用区间内，但**没有余量**——一旦加上图像采集、传输、前后处理与安全检查，实际闭环很容易被推到 50 毫秒以上。
判断：这条换算给出的是一个并不舒服的结论：模型推理本身已经够快，但快到「刚好够用」的程度。真正决定能不能上机的，是推理之外那一圈——采集、传输、前后处理、安全兜底。行业里大量「模型跑不通」的案例，卡住的从来不是模型，是这一圈里没人负责的部分。
90.4% 出现在一个分布外基准上，这件事本身值得留意。过去两年 VLA 的公开分数从 60 分档爬到 90 分档，速度很快；但当头部模型普遍进入 90 分区间之后，分数对采购决策的指导意义会迅速衰减——因为剩下那不到 10% 的失败，往往集中在最脏、最不可预测的长尾工况里，而基准测不到那里。
报道也如实写了 REKI 的边界：在部分分布外基准上，它被参数量约为其两倍的模型超过。这句话比 90.4% 更有信息量。它说明「小模型 + 记忆」并没有赢下全部战场，赢的是效率与公开数据下的可比性。
判断：接下来 VLA 的分化会沿着部署形态走，而不是沿着分数走。一类往云端走，追求上限，参数可以很大，靠网络换能力；一类往本体走，追求可预测，参数被功耗和时延锁死，靠结构换效率。REKI 明确属于第二类，而且它把「只用公开数据预训练」写进了卖点——这对没法自建大规模真机数据团队的中小厂商，是一个比分数更实在的信号。
第一，把「记忆」当成可插拔模块评估，而不是当成模型自带的能力。做集成的团队在选模型时，可以直接问一句：记忆是压成固定长度可缓存的，还是要回看原始历史帧？这一问基本能定出部署形态。
第二，量化是落地前的必答题。目前只有 BF16，没有量化版本，是否能在目标硬件上压到可用区间需要实测。报道没有给出任何端侧芯片上的数字，本篇不做推测。
第三，别把基准分数直接写进验收指标。90.4% 是分布外基准上的成绩，不等于产线上的成功率。
最后标注一条边界：本篇所有结构描述与数字均来自 MarkTechPost 的单篇报道及其转载页，未直接核验论文原文与代码仓库。若后续论文正文对 32 个 register 的训练方式、滚动窗口长度或 LIBERO-Plus 的评测设置有更细的说明，应以原文为准。