为什么几百毫秒对机器人是致命的，对聊天机器人不是

先把问题本身讲清楚。同一个 VLA 模型，在云端跑得好好的，装到机器人本体上，最先崩掉的不是模型能力，是**推理系统**：端侧算力有限、功耗受限，而机器人需要持续感知、连续决策、实时控制——几百毫秒的延迟意味着机械臂伸过去的时候，传送带上的杯子已经挪走了十几厘米。 APXInf 开源要解的就是这一段。按量子位报道的官方口径，π0.5 在 Jetson AGX Thor 上优化前的前端到端推理延迟约 **278ms**；APXInf 的 GitHub 基准进一步给出：FP8 标准配置下延迟 **41.16ms、吞吐 24.3Hz**，加入 one-step action generation pruning 后降至 **26.32ms、38.0Hz**。注意这两组数字对应的实验口径不同——前者是官方披露的整体优化前后对比，后者是当前公开基准测试里的两种配置，**不能串成同一个实验步骤来读**。比延迟更重要的是成功率没掉：LIBERO-10 基准上，π0.5 参考成功率 **92.4%**，Jetson AGX Thor 上 BF16 版 **92.8%**、FP8 版 **92.2%**。量化换速度而没有明显牺牲任务成功率，这是这类引擎能进入量产讨论的前提。

APXInf 公开基准（Jetson AGX Thor + π0.5）GitHub 官方仓库口径

优化前整体延迟（官方披露）

约 278ms

FP8 标准配置

41.16ms / 24.3Hz

FP8 + 动作生成剪枝

26.32ms / 38.0Hz

LIBERO-10 成功率（FP8）

92.2%

延迟条形为相对 278ms 的示意比例；测试条件：两视角、224×224、10 flow steps、H=10、batch=1、P50。

上手三步：克隆、选卡、验成功率

对想真机部署的团队，这件事的工程门槛现在是这样三步： **第一步，确认硬件与模型组合**。APXInf 公开版本已支持 RTX 4090、Jetson Orin、Jetson Thor 三档平台，首发适配 Physical Intelligence 的 π0.5 与国内自变量机器人的 WALL-OSS。按预算选卡即可：4090 适合实验室验证，Orin/Thor 面向本体部署。 **第二步，克隆仓库跑基准**。官方基准的测试条件写得清楚：两视角输入、224×224 分辨率、10 个流匹配步数、动作视野 H=10、batch=1，延迟指标取 steady-state CUDA Graph replay 的 P50。复现时务必对齐这组条件，否则数字没有可比性。 **第三步，验成功率而不是验速度**。在自己的任务上跑 LIBERO 同款对照：先测 BF16 基线成功率，再测 FP8 版本，两者差值超过 1–2 个百分点就要警惕。官方给出的参考是 BF16 92.8%、FP8 92.2%——如果你手上的任务掉得比这多，先查量化配置再查模型版本。

一个采购侧的提醒（源自海外媒体 RobotAIGeek 的分析，值得逐字记下）：FP8 的 26ms 是用一定数值精度换来的速度，供应商演示的 26ms 不等于你产线上的 26ms。验收时固定问三件事——什么精度、什么模型、什么负载；要求厂商在实际所需精度下给出延迟与稳定性数据，而不是把 FP8 最优数字当成全配置保证。

窗口内的新增量：CTO 专访补上的公司底牌

开源三天后的 9 月 18 日，无问芯穹 CTO 李伯勋的专访披露了几个此前未成体系的公司侧数字：Agentic Infra 平台已触达 **37000P 算力和 16 种芯片**，新推出芯片的适配时间缩短至 **2 天**，国产芯片适配成本降低 **70% 以上**；此前公司已完成六种芯片 700 亿参数大模型混合训练，千卡集群算力利用率最高 **97.6%**，并联合中国电信完成超 4000 公里跨域训练、性能提升 **165%**。把这些数字和 APXInf 的路线图拼起来，意图就很清楚了：模型适配上已启动 Qwen、Groot，硬件上要适配国产芯片后端与 AMD，还要支持国产机器人操作系统。一条开源链路已经成型——**训练用 RLinf（2025 年 8–9 月开源），部署用 APXInf**，无问芯穹在做的不是卖软件，是抢具身智能时代「运行时」的基础设施席位。公司累计融资超 22 亿元（腾讯、百度、联想、小米等参投），烧得起这个长周期。

判断：APXInf 的长期价值不在 26ms 这个头条数字，而在它试图把高度定制化的具身端侧部署沉淀为标准化工程基础设施——这对行业是好事，推理「最后一公里」的成本被开源打到了地板上，三个人的小团队用一个下午就能完成过去需要系统工程团队才能做的事。但有两层要泼冷水：其一，公开验证目前集中于英伟达 GPU/Jetson 平台，国产芯片与 AMD 后端的实际成熟度要等后续版本，路线图上的「芯片无关」目前还是愿景；其二，端侧推理赛道已有 TensorRT、ONNX Runtime 等通用框架和多家场景化方案，APXInf 能否成为事实标准，取决于多少模型、多少芯片被真实社区验证，而不是发布会。对部署团队的实用结论：现在就可以把 APXInf 拉下来做 PoC，但产线选型要等到它的国产芯片后端和更多模型适配经过第三方验证之后再定。

来源：APXInf GitHub 官方仓库基准数据、量子位 2026-09-15 18:43 报道、网易 2026-09-18 无问芯穹 CTO 李伯勋专访（163.com/dy/article/L74L0R820552OH9Y.html）；素材时间窗：2026-09-18 09:00 → 19:00，开源事件（9 月 15 日）属窗口外，按「旧事件+窗口内专访新增量」处理；公司经营数字为专访自报口径。