← 返回新闻列表

501B开放权重新卡上架: Beam给了多模型路由一张最省档位

发布于 2026-10-18 14:00:00 · 4 阅读

一张开放权重的501B, 同时上了托管端点与官方API

10月16日, AWS机器学习博客确认: Reflection AI的首个开放权重模型Beam(模型ID Beam-1.0-501B-A23B)登陆Amazon SageMaker JumpStart, 开发者可在美东(北弗吉尼亚)与美东(俄亥俄)区域直接部署实时推理端点; 分布式场景走HyperPod Inference, 配SGLang或vLLM. 权重本体10月5日已按Apache 2.0放在Hugging Face, 提供BF16 / FP8 / NVFP4三种精度checkpoint, 官方同步开放OpenAI兼容API端点(api.reflection.ai/openai/v1), 1M上下文, 最大输出128K, 默认max_tokens 32768, 支持推理, 工具调用与结构化输出.

参数账与基准账: 卖的是最省不是最强

Beam为稀疏MoE: 总参数501B, 每次激活23B, 预训练语料23.8T token. 厂商自报的基准表(尚未经第三方独立验证): Terminal Bench v2.1得80.1(GLM-5.2为81.0, GLM-5.3为88.2, DeepSeek V4.1-Flash为90.6), SWE-Bench Verified 80.9, AIME 2026达97.8, GPQA Diamond 90.5. Reflection坦承原始能力上Kimi K3等开放旗舰仍领先, 其卖点是效率 - 先进推理基准上以约1/3到1/4的推理算力(厂商自报)达到与GLM-5.2相近的分数. 训练侧成本已公开: 强化学习阶段用1.05万张NVIDIA GB300连跑4周, 生成超1亿条rollout.

对API分发与路由的含义

1) 货架新增一档性价比卡. 1/3到1/4推理算力直接翻译为每百万输出token的推理成本较GLM-5.2更低, 多模型路由在高频编码/智能体档位多了一个可切选项, 与5.5系列小模型的降价潮同向 - 小模型层的价格地板还在被往下打.

2) 1M上下文+128K输出. 面向代码库维护, 长程Agent这类长尾任务, 缓存命中率会显著改变实际账单, 接入方需按任务真实长度分布测算.

3) 三种精度对应三档硬件. 同一模型按NVFP4/FP8/BF16分层供给, 未来API价格带会很宽; OpenAI兼容端点意味着现有聚合网关改一行model参数即可挂上.

观察点: Reflection尚未公布API单价. 待定价出炉, 按每百万输出token成本xTerminalBench80.1档能力与GLM-5.2, V4.1-Flash做价格-能力比, 再更新路由表.

来源: Reflection AI官方博客(Introducing Beam / Beam is now available, 10-05, 10-16), AWS Machine Learning Blog(10-16), Reflection开发者文档, 钛媒体Edge AI Daily(10-18综合整理); 基准数据为厂商自报, 未经独立验证.

接入路径与验证清单

开发者接入分三步: 一, 在platform.reflection.ai注册并申请早期访问资格, 拿到REFLECTION_API_KEY后, 用OpenAI SDK把base_url指到api.reflection.ai/openai/v1即可调通chat/completions; 二, 若走AWS路径, 需先在IAM上放通SageMaker权限, 从aws-samples仓库拉sagemaker-genai-hosting-examples, 选Beam-1.0-501B-A23B的NVFP4部署样例, 跑通deploy-cleanup全生命周期再上生产; 三, 自有业务集做回归验证时, 建议固定200条含工具调用的编码任务, 记录成功率, 平均输出长度, 耗时与token消耗四项指标.

验证时要盯住三个数: 一是缓存命中率, 1M上下文场景下prefix cache的表现会直接改变实际token账单; 二是128K输出上限, 长代码生成任务要确认截断率; 三是NVFP4与FP8两档的精度差, 量化后基准是否有回退. 这些拿到手, 路由表上Beam该挂在哪个价位就有依据.

竞争位置: 放在谁的货架上看

把Beam放进10月货架横向比: 高频编码/智能体档位目前主力是GLM-5.2(81.0档)与DeepSeek V4.1-Flash(90.6档, 厂商自报基准), Beam以80.1档卖效率, 价格带若落在两卡之间, 路由逻辑就是高分复杂任务走V4.1-Flash或GLM-5.3, 高频批量任务走Beam; 1M长尾检索/代码库问答走Beam的缓存优势. 与10月5日Claude Haiku 5.5降到每百万输入token 0.10美元的行情放一起看, 小模型层价格战与开放权重效率战两条线在打同一个方向: 把每百万token的获取成本再往下压. 对API分发平台, 这是供给侧好消息 - 货架纵深变宽, 路由可选项变多, 议价空间变大.

最后提醒一点: 本轮所有基准分与推理效率比均为厂商自报, 第三方尚未复现. 货架上架前, 用自有任务集跑一遍TerminalBench与SWE-Bench子集, 校准后的数字再进路由配置, 避免把厂商榜单位直接当成采购依据.对分发平台而言, 校验成本一次投入, 货架信任长期受益.