← 返回新闻列表

每分钟 2.3 到 7.7 美分:9B 全双工模型已开源,实时语音这一格货架还是空的

发布于 2026-10-24 14:20:00 · 3 阅读

9月中旬起,蚂蚁集团 inclusionAI 把 Realtime-Venus 的权重放在 Hugging Face 上,直到本周仍有媒体把它当新发布转发。这件事本身暴露了一个更值得注意的空白:实时全双工这条产品线,开权重已经摆在桌面上,托管 API 却还没上到聚合货架。

一、拿到的到底是什么

两个检查点,各 9B,BF16 精度,Apache-2.0。Realtime-Venus-Omni 吃视频、图像、音频和文本,Realtime-Venus-Audio 只吃音频;底座是 MiniCPM-o 4.5,语言骨干 Qwen3-8B,音频编码器 Whisper-Medium,视觉用 SigLIP2,上下文 40,960 tokens。与普通语音助手拉开距离的是三件事:说话时仍在听,能分辨附和、打断、纠正、改话题四类信号;不等提问就主动开口;把工具调用塞进流内的委派请求,后台跑完再回到同一段对话里说出来——最后这项依赖 GitHub 上的 Realtime-Venus-Harness 运行时,不在权重包里。

性能为厂商与论文自测:Omni 在 StreamingBench 得 70.2%、OVO-Bench 64.7%、Daily-Omni 81.3%;Audio 在 MMAU 78.0%、MMAU-Pro 63.2%、Speech CMMLU 67.8%;Full-Duplex-Bench v1.5 上打断响应率 75%,附和、旁听、背景声三种场景的不抢话延续率分别为 97%、88%、86%。这些数字尚无第三方复现,按厂商自报处理。

二、货架上这一格现在是空的

眼下能买到的实时语音仍是闭源按分钟计价。OpenAI 的 gpt-realtime-2.1 按音频 token 计费:输入 32 美元/百万、输出 64 美元/百万,缓存输入 0.40 美元;按其口径用户侧 600 token/分钟、助手侧 1200 token/分钟,助手说满一分钟是 7.68 美分,一人一半是 4.8 美分。GPT-Live-1 走另一条路,语音层 0.05 美元/分钟秒级计费,后端模型另算。Google 的 Gemini 3.8 Live 已公布到分钟级:音频输入 0.5 美分、输出 1.8 美分,一分钟合计约 2.3 美分。

换算下来,一千分钟对话在 Gemini 档位约 23 美元,在 gpt-realtime-2.1 半听半说档位约 48 美元。Realtime-Venus 上架之前,这个价格带里没有任何开权重选项——聚合货架上实时语音这一格,目前只有闭源两条线。

三、自建的门槛不是算力,是利用率

9B BF16 权重约 18GB,一张 48GB 卡即可装下;按 0.8–1.2 美元/GPU·时 的市场区间取中值 1 美元,一月 730 小时合 730 美元。对比打平点:对 gpt-realtime-2.1 半听半说的 4.8 美分,需 15,208 分钟/月(约 507 分钟/天);对 GPT-Live-1 的 5 美分,需 14,600 分钟/月;对 Gemini 3.8 Live 的 2.3 美分,需 31,739 分钟/月(约 1,058 分钟/天)。

再看产能:8 路并发、每天跑 22 小时,一个月理论可承接约 31.7 万分钟。也就是说,对标最贵的闭源档,打平只需要 4.8% 的利用率。这个比例才是关键结论——实时语音的成本结构里,闲置时长是主成本,单价不是。

四、什么时候走哪边

我把它分三档:月用量低于 1.5 万分钟、又没有话务合规硬约束的,继续用 API,把力气放在打断体验和提示词上;月用量到 3 万分钟以上,或数据必须落在自有环境(客服录音、线下门店、问诊场景),自建才开始有账算;夹在中间、用量又季节起伏大的,先别买卡,按分钟成本加闲置占比连跑三个月真实占用率再定。

还有一条容易踩的:实时交互的计费单位是分钟和并发,不是 token。按 token 做预算的团队第一次看账单常常翻倍——每一轮都重算会话上下文,长会话的成本曲线是往上翘的。所以该签的验收指标是每千分钟成本加打断响应延迟,而不是每百万 token 单价。

来源:inclusionAI Hugging Face 模型卡与 arXiv 论文(性能为厂商自测)、OpenAI Realtime 计价文档、Google Gemini API 计价页、forasoft / weneedai 计价核对(2026-10)