FREQUENTLY ASKED QUESTIONS
常见问题
共 91 条, 8 个分类:平台与账号、接入与调用、计费与配额、模型与渠道来源、稳定性与容错、安全与合规、分销与代理,以及聚合平台专业知识。
写在这里的每一条,都对应平台的真实实现——渠道来源可核验、计费口径可复算、故障行为可预期。
PLATFORM · 11
平台与账号
星枢云是什么、账号怎么开、入口在哪、出了事找谁
星枢云是大模型 API 聚合分发平台:向上聚合主流厂商的官方模型能力,向下输出统一接口(OpenAI 兼容 /v1/*,并兼容 Anthropic /v1/messages),并提供统一密钥、统一账单、统一用量统计与渠道故障自动降级。
一句话:一次接入,调动全球大模型。
#平台
三个硬指标:官方直连渠道(渠道来源可追溯、模型标识可核验)、QUOTA 级精准计费(预扣-结算两段式,不透支)、渠道故障自动降级(主渠道不可用时按配置切换,不中断你的任务)。不做逆向、不做来源不明的转发。
#平台#渠道
都不需要。注册即可用,无需企业资质、无需绑卡、无需预付定金。企业采购、对公转账与合同签署需求,请通过控制台工单提交,由商务对接。
#账号
有。新用户注册即送 1,000,000 配额(价值 ¥2),到账即可跑通首次调用,无需绑卡。免费额度按 QUOTA 用量正常扣减,用于验证接入链路是否通畅。
#账号#计费
不会自动续费,也不会静默扣钱。额度用尽后,调用会返回 HTTP 402 / 错误码 40201 insufficient_quota(余额不足)。你需要主动充值后继续使用。平台不存在自动扣款或订阅续费。
#计费
用户控制台 /user、代理商入口 /agent、总后台入口 /qsos_login。登录后统一进入 /console 风格的控制台界面,按角色显示不同菜单。总后台不对公众开放注册。
#账号
不建议共用账号——账号是计费与安全的最小单位,共用会导致用量无法归因、泄露无法收口。正确做法:一个账号 + 按环境/应用拆分多把 API Key(开发/测试/生产各一把),每把 Key 可独立设置过期时间与 IP 白名单,泄露时只作废一把。
#账号#安全
通过登录页提供的找回流程处理;若账号被风控锁定或存在异常登录,请在控制台提交工单,附注册手机号/邮箱与最近一次调用时间,平台核实后处理。
#账号
控制台内提交工单是唯一官方渠道(相比口头沟通可留痕、可追溯)。描述问题时请一并附上:Request ID、调用时间(含时区)、模型 ID、HTTP 状态码与错误码。带齐信息的问题处理最快;标【紧急】的线上故障优先。
#支持
星枢云由青硕信息集团运营,资质证照全公示:增值电信业务经营许可证 冀B2-20260189、ICP 备案 冀ICP备16020489号-14。详见关于我们。
#合规
支持。在控制台提交发票申请(订单与充值记录可关联),按实际支付金额开具。企业抬头、税号等信息以申请单为准;专票与对公开票需求请在工单中注明,由商务确认后可开。
#计费#合规
INTEGRATION · 14
接入与调用
Base URL、密钥、端点、流式、工具调用与排错顺序
三步以内:① 注册账号(送 1,000,000 配额)→ ② 控制台「API 密钥」创建 sk- 令牌 → ③ 把客户端 Base URL 改为 https://api.starhubc.com/v1,带上 Authorization: Bearer sk-*** 发起请求。已有 OpenAI SDK 的代码只改 base_url 与 api_key 两行。
#接入
统一入口:https://api.starhubc.com/v1(必须带 /v1)。SDK 里的 base_url 填该值,SDK 会自动拼接 /chat/completions 等路径。
#接入
统一使用请求头 Authorization: Bearer sk-***。API Key 必须以 sk- 开头,否则直接返回 40101 invalid api key。
注意:调用 Anthropic 协议端点时,同样用 Bearer + sk-,平台不需要 x-api-key 头。
#接入
文本与多模态:/v1/chat/completions(对话,含流式与工具调用)、/v1/messages(Anthropic 协议兼容)、/v1/embeddings、/v1/images/generations、/v1/audio/speech、/v1/audio/transcriptions、/v1/videos/generations(含任务查询 /v1/videos/generations/{task_id})。
辅助:GET /v1/models(可用模型列表)、GET /v1/dashboard/billing/usage 与 /subscription(用量与额度查询,兼容 OpenAI 计费接口习惯)。
#接入#端点
两种方式:浏览器打开模型市场看实时价目与能力;代码里调用 GET /v1/models(带 Bearer)取程序可读列表。以接口返回为准——页面与接口同源,不存在两处维护。
#模型#接入
不会。Key 明文仅在创建时展示一次,平台只存 SHA-256 哈希与用于识别的展示串,因此明文无法找回。丢了就在控制台作废旧 Key、新建一把,并同步更新你的部署环境变量。
#安全#接入
三约束:① 过期时间(设为 0 表示永不过期,超期调用返回 40101 api key expired);② IP 白名单(不在白名单返回 40103,适合固定出口 IP 的服务器);③ 模型分组权限(无权限的模型返回 40303)。建议生产环境三约束全开。
#安全#接入
支持。请求体加 "stream": true 即返回 SSE 流,兼容 OpenAI SDK 的流式用法;再加 "stream_options": {"include_usage": true},会在最后的 chunk 里返回本次用量的 token 统计。流式中断(客户端断开)按实际已产生的输出计费,不会按预估全额扣。
#接入#计费
支持。按 OpenAI 规范的 tools / tool_choice 传参即可,返回 tool_calls 结构化结果,可直接用于 Agent 工作流。注意:是否支持取决于具体模型,请以模型市场中该模型的能力标识为准。
#接入#能力
支持。多模态模型接受 OpenAI 图像输入格式(content 数组内含 image_url,支持 URL 与 base64)。在售支持图像输入的模型见模型市场能力徽章标注。
#能力
任何遵循 OpenAI 协议的 SDK 与工具都可直连:Python/Node/Go/Java 官方 openai SDK、以及 Cursor、Cline、Continue、ChatBox、Cherry Studio、LobeChat、NextChat、沉浸式翻译等客户端——只需把 Base URL 改成 https://api.starhubc.com/v1。
#接入
有,分三层:IP 级 RPM(42902)、Key 级 RPM(42901)、用户×模型级并发闸门(42903)。限流是保护全平台稳定性的必要手段;命中限流时建议客户端做指数退避重试(1s→2s→4s)。需要更高配额请提交工单说明业务量级。
#稳定性#限流
有。网关对请求体与上传体积设上限,超限在网关层直接拒绝,不会进入计费。做长文档分析时建议分片;具体上限以开发者文档与后台配置为准。
#接入
按状态码定位:401(40101/40103)→ 密钥错误/过期/IP 不在白名单;402(40201)→ 余额不足,去充值;403(40303)→ 该 Key 所属分组无此模型权限;400(40001)→ 参数校验失败,核对模型 ID 与参数结构;429(42901/42902/42903)→ 触发限流或并发上限,退避重试;502/503/504 → 上游或渠道侧问题(平台会自动重试/降级),持续出现请带 Request ID 提工单。完整错误码见开发者文档。
#支持#排错
BILLING · 13
计费与配额
quota 是什么、怎么算、怎么查、错了怎么办
quota 是钱的定点整数单位,Token 是用量单位,两者没有、也不应该有固定换算比。换算关系是:1 元 = 500,000 quota(最小精度 0.000002 元),而 1 个 Token 折多少 quota 取决于模型单价——入价与出价分开算,同一段文本在不同模型下折出的 quota 完全不同。
#计费
因为要同时满足两件事:① 金额可精确表达(余额、佣金、提现、发票都需要极小单位的定点数,浮点会累积误差);② 计量与计价解耦(模型可以差异化定价、按时段峰谷定价、按代理等级加权,而不用改计量口径)。若用「1 元 = 200 quota」这种粗粒度单位,一次 ¥0.000356 的调用会被记成 0 或 1 quota,误差放大数千倍,还会丢失峰谷价与代理比率能力。
#计费
quota = ceil((输入token × 入价 + 输出token × 出价) × 代理比率 ÷ (1,000,000 × 10,000))。
其中价格为 quota / 1M tokens(页面上以「元 / 1M tokens」展示),代理比率为万分比整数(1.0000 = 10000)。
#计费
三种正常原因:① 输入与输出单价不同(输出通常更贵);② 模型不同,单价不同;③ 逐次计费——每笔请求独立向上取整后再求和,不是把全天 token 汇总一次取整。所以页面上的列是聚合值,与逐笔明细之和可能存在个位数 quota 的差异。
#计费
请求到达时按预估用量先冻结(预扣),响应结束后按实际上游用量结算、多退少补。设计目的是防并发透支:即使同时发起大量请求,也不会出现「先查余额后扣费」造成的超额。冻结金额在结算后即释放,不会重复扣费。
#计费
按实际已产生的输出结算,而不是按预估或全额。stream 输出已落地的部分照实计费,未生成的部分不收费。这是流式场景下最公平的口径,也是平台采用预扣-结算的原因之一。
#计费
部分模型支持峰谷分时定价:在后台配置的谷时时间窗内,按谷时单价(更低)自动折算,窗口外按标准价。是否启用取决于该模型是否配置了谷时价与时间窗;你的账单与用量页展示的就是实际结算价。
#计费
控制台看板看余额、消耗与请求趋势;用量信息页看按模型/时间的聚合;调用日志逐笔可查(时间、模型、渠道、token、配额、耗时);钱包充值管理余额与流水。API 侧可用 GET /v1/dashboard/billing/usage 与 /subscription。
#计费
支持支付宝与微信支付。流程:控制台下单 → 跳转支付 → 支付成功后由渠道回调实时入账,订单与流水可在控制台查看。未支付的订单 30 分钟自动关闭,不会产生待付挂账。
#计费
充值金额用于按用量抵扣服务费,原则上不支持退款(详见《服务协议》第八条)。以下情形经核实后按原支付路径退回:① 支付成功但未到账;② 同一笔订单重复扣款;③ 平台计费错误导致多扣。
办理时限:3 个工作日内答复核实结果,核实确认后 7 个工作日内发起原路退回。请提交工单并附订单号 / Request ID,平台以支付流水与调用日志为对账依据(两者互为基准)。
#计费#支持
控制台提供兑换码核销入口,输入兑换码即可按面值入账。无效、已使用或已过期的兑换码会返回错误码 40011。核销采用条件更新,防止并发重复兑换。
#计费
大概率是正常现象。厂商官方接口返回的 prompt_tokens 包含固定模板开销(例如极短的一句「hi」,某厂商会返回 31 而非 1),这是上游的计量口径,不是平台加价。
平台的策略是:优先采信官方 usage,同时用本地 tokenizer 精算做兜底——只有当上游用量明显超出本地精算(超出倍数与绝对 token 双阈值)时才判定为虚报并二次核验。这套机制既拦截虚报,也不会误伤官方口径。
#计费#渠道
拿该次请求的 Request ID 在控制台调用日志中定位,能看到:模型、实际上游模型、渠道、输入/输出 token、消耗配额、耗时与状态。用上面的计费公式可复算:ceil((in×入价 + out×出价) ÷ 1e10)。复算结果与日志不一致时,请带 Request ID 提工单。
#计费#支持
MODELS & CHANNELS · 12
模型与渠道来源
模型从哪来、走什么渠道、怎么核验——本节是平台最硬的部分
是。平台上架的所有模型均经官方直连渠道接入,不做来源不明的转发、不做逆向接口、不做过期快照冒充新版本。当前在用的官方渠道包括:DeepSeek 官方、阿里云百炼(通义官方)、百度千帆(文心官方)、火山方舟(豆包官方)、智谱官方、MiniMax 官方。
#渠道#官方直连
算,但前提是可证明。经中间商接入的模型,中间商能够提供官方直连 API 的授权凭证,或提供可查询的调用轨迹——两者至少具备其一,平台才会将其上架。仅有「自称直连」而无授权或轨迹可查的来源,不进入平台渠道池。
#渠道#官方直连
平台为每笔调用落库可核验的轨迹元数据:请求时间、模型 ID、上游实际返回的模型标识(actual_model_id)、经过的渠道(channel_id)、输入/输出 token、消耗配额、耗时、状态。你可以用 Request ID 在调用日志中逐笔比对「我请求的模型」与「上游实际服务的模型」是否一致。
同时在网关侧还有上游保真校验:上游返回的模型标识、结束原因(finish_reason)、流结束标记与请求不一致时会记录异常,总后台「上游异常」页可查。
#渠道#官方直连#可核验
不会。调用日志落库的是元数据:请求 ID、用户、密钥、渠道、模型与实际模型、token 用量、消耗配额、是否流式、耗时、状态与时间。不保存请求正文与响应正文,因此日志可长期用于对账与渠道核验,却不构成内容留存的隐私风险。
#渠道#安全
不会。渠道故障时可以降级,但降级只按后台显式配置的映射表执行:没有配置降级映射的模型,宁可报错也不会静默换模型;配置了映射的模型,调用方会从返回的模型标识与日志的 actual_model_id 中看到实际服务模型,不存在「扣 A 的钱用 B 的模型」这一路径。
#渠道#稳定性
因为上架的是厂商当前在售的具体模型 ID(含快照版本),而不是模糊的「某某大模型」。同一厂商不同型号、不同上下文窗口、不同能力(推理/视觉/工具调用)单价不同,平台按 ID 精确上架,避免「一个名字多种效果」的歧义。
#模型
价格在模型市场与 GET /v1/models 全量公示,入价与出价分开列明(单位:元 / 1M tokens),不设隐藏档位。调价会在平台上更新,历史调用按调用时刻的单价结算(日志已固化所在单价与配额),不会追溯改账。
#计费#模型
三种可能:① 平台上展示的是含税且按人民币折算后的终端价,厂商官网可能是美元或未含税费;② 厂商对不同用量档位/时段有协议价,平台走的是批量协议价;③ 部分模型为体验或活动价。无论哪种,实际扣费都以平台公示价目与调用日志为准,不存在调用时临时加价。
#计费#渠道
平台跟随官方调整,并在调整时更新公示价目;模型下线会在新闻资讯与模型市场中体现。已下线的模型 ID 调用会返回明确的错误(模型不存在/无可用渠道),而不是返回其他模型的结果。不会用别名把请求转到别的模型上。
#模型
取决于官方接口开放情况:官方 API 开放的模型,平台在完成渠道接入与价格核验后上架,进展发布在新闻资讯。不上架不能验证来源与计费口径的模型——宁可不上,也不上「来路不明」。
#模型#渠道
在模型市场每张模型卡上标注 context_length;接口侧 GET /v1/models 也会返回能力字段。请求超长时上游会报错,平台不会自动截断你的输入——涉及长文档时请自行分片或选择更大上下文的模型。
#模型
平台按标准渠道模式接入,若你有厂商官方提供的独立实例/专属部署,可通过工单联系商务评估接入方式。公众开放平台上不会混入个人私有端点,以保证其他用户不会调用到非官方来源的模型。
#渠道
RELIABILITY · 9
稳定性与容错
故障时会发生什么、平台替你做了什么
平台承诺本服务的月度可用性目标为 99.9%,网关自身附加延迟 P99 < 80ms。可用性指统一网关能够正常受理并转发请求;因上游厂商波动、您自身网络或客户端导致的失败不计入。
经核实确属平台原因的不可用,以补偿配额方式赔偿,累计上限为您在前 1 个自然月实际支付的服务费用;因模型厂商接口调整、限流、故障或政策变更导致的(含模型下线、响应差异)不视为平台违约,平台会通过多渠道路由与故障降级降低影响。赠送配额与免费试用期间的调用不提供可用性承诺与赔偿。完整条款见《服务协议》第十一条。
#稳定性#SLA
聚合网关的核心价值就在这里:渠道故障自动降级,不中断用户任务。单渠道异常时,网关按路由策略与重试次数尝试其他可用渠道;若该模型配置了降级映射,会按映射切到备用模型并在返回中体现实际模型标识。全过程你只需要正常重试或等待,不需要改代码。
#稳定性#渠道
当某渠道连续失败达到阈值,平台会将其熔断一段时间,避免请求继续砸向已知故障渠道(这也保护了你的响应时间)。熔断期间的请求会走其他可用渠道;若该模型全部渠道不可用,返回 503 / 50301 no available channel 或 50302 渠道熔断中,并会在服务状态页体现。
#稳定性
超过上游处理时限返回 504 / 50401 上游超时;连接上游失败返回 502 / 50201 上游渠道错误。失败请求不计费(未产出可用结果),可在调用日志中按状态核对。长文本与推理型任务建议显式设置较长的客户端超时。
#稳定性#计费
Request ID 是每笔调用的唯一标识,贯穿网关、渠道与日志三处。报障、对账、核验渠道来源、复算计费全部靠它。建议你的应用在错误日志中记录下游返回的 Request ID,一旦出问题可以秒级定位,而不用靠时间猜。
#支持#稳定性
能。网关做上游保真校验:比对返回的模型标识是否与请求一致、结束原因是否正常、流式响应是否有正确的结束标记。异常会按渠道与类型计数并落在总后台「上游异常」视图,便于定位是哪个渠道在退化。
同时平台的用量校验会拦截上游虚报用量的情况(上游报的 token 明显超出本地精算阈值时二次核验)。
#稳定性#安全
访问服务状态页,可看到业务 API 与推理网关的实时探针结果(含网关鉴权在线性检测)。如果状态页正常但你持续报错,多半是密钥/参数/配额问题,带上 Request ID 提工单最快。
#稳定性#支持
同一笔业务语义重复调用会各计各费——计费看的是实际产生的 token 用量。平台侧重试仅在上游失败(无有效产出)时发生,失败不计费;但你自己在客户端做的盲目重试若已成功返回内容,仍会正常计费。建议客户端对已成功响应不要重试,对 429/5xx 才退避重试。
#计费#稳定性
网关为无状态转发服务,可水平扩容,不保存会话状态(状态走共享存储),因此扩容不需要迁移数据。日常的限流与并发闸门是为了保护整体稳定——如果你的业务需要更高配额,提交工单说明量级即可评估。
#稳定性
SECURITY & COMPLIANCE · 10
安全与合规
密钥、数据、传输与资质
不是。控制台签发的 sk- 密钥平台侧只保存 SHA-256 哈希与用于列表展示的展示串,明文仅创建时返回一次。即使数据库泄露,也无法反推出可用密钥。
#安全
上游渠道密钥采用 AES-256-GCM 加密存储(带版本号与认证标签,可检测篡改),加密主密钥不落库、由部署环境单独注入。渠道密钥在管理界面只显示「已设置」,不回显明文。
#安全
平台不会将你的接口内容用于训练,也不会对外提供(这是一条明确承诺,已写入《隐私政策》第三条)。技术上的边界也很清楚:调用日志只落元数据(时间、模型、渠道、token、配额、耗时、状态),不落请求与响应正文。注意:为实现调用,请求内容会转发给对应模型的官方渠道(清单见《隐私政策》第四条),各厂商按其自有隐私政策处理,敏感数据建议提交前先脱敏。
#安全#合规
三步:① 控制台立即作废该 Key(秒级生效,无需重启服务);② 创建新 Key 并更新部署环境变量;③ 复核调用日志,看有无非预期 IP/模型/时间段的调用。若 Key 平时设置了 IP 白名单与过期时间,泄露影响面会被进一步限制。
#安全
建议组合使用:IP 白名单(只允许服务器出口 IP)、过期时间(临时场景给短有效期)、模型分组权限(该 Key 只能用指定模型)、按环境拆 Key(开发/生产分离)、低余额预警(余额不足提前提醒)。这些能力都在控制台可自助配置。
#安全
对外统一 HTTPS/TLS 接入;平台到上游厂商同样走 HTTPS。网关对回调类接口做了独立的签名校验与路径隔离(例如微信支付回调为精确路径映射),并通过请求体大小限制、SSRF 黑名单等加固措施限制异常入站。
#安全
可以把 Key 关进分组:模型分组权限决定这把 Key 能用哪些模型,越权调用直接返回 40303 并留痕。再加上 IP 白名单,等于把「谁能用、能用什么、从哪来」三件事都锁死。
#安全
平台是模型能力的转发与计费层,不对你的业务内容做二次审查或改写——这会破坏结果可信度。合规责任边界:上游厂商按其官方政策执行内容安全,你作为应用方需自行确保业务内容合规。平台会在服务条款层面明确这一边界。
#合规
调用日志按按月分表管理,便于长期留存与快速检索;控制台按时间范围查询逐笔明细,用于对账与审计。企业客户若需要周期性对账数据,可通过工单提出,由商务确认输出形式。
#计费#安全
RESELLER · 9
分销与代理
代理怎么开、定价怎么设、佣金怎么结
通过代理入口注册/登录(代理账号由平台审核开通),开通后即可在自己的代理控制台管理下级用户、设置定价、查看消费与佣金。
#代理
可以按模型分级定价(在平台底价之上浮动),低于底价提交会被拒绝并返回错误码 40010 代理定价低于底价。底价护栏是保护你也是保护平台:防止有人用价格战把渠道成本打穿,最终导致服务质量下降或断供。
#代理
按下级用户的实际消费计算消费分成,佣金T+1 结算(次日解冻入可用余额),可在代理控制台的「佣金信息」与「财务」页查看明细。分成的计算基数是真实调用产生的配额消耗,与上游用量口径一致。
#代理#计费
在控制台发起提现申请(需满足最低提现门槛,门槛以控制台显示为准),系统先冻结对应金额,经平台审核通过后核销到账;驳回则金额原路退回余额。每一步都有留痕与审核备注,可追溯。
#代理
可以。代理控制台提供额度划拨能力,用于向直属下级分配可用额度,便于团队内结算与激励。划拨与消耗都有流水记录。
#代理
能看到下级用户的用量与消费聚合数据(用户管理/数据页),用于经营分析;看不到下级用户的 API Key 明文,也无法代下级发起调用。密钥边界不因分销关系而放开。
#代理#安全
代理定价按模型粒度设置,你可以把常规场景引导到单价更低的模型(如 Flash 档、谷时价模型),把贵价模型留给复杂任务。模型清单与能力见模型市场——这是分销最有效的成本控制手段。
#代理#模型
不会随意扣。佣金基于已结算的真实消费计算;若发现上游虚报用量,平台的用量校验会拦截并按核验后的口径处理,避免把虚报成本转嫁给代理与终端用户。平台侧有定时对账任务核对钱包、流水与 Redis 三方一致性。
#代理#计费
有定制需求的(品牌露出、专属域名、独立定价体系、批量额度)请通过工单提交,注明业务形态与预估量级,由商务评估后可定制。
#代理
AGGREGATION 101 · 13
聚合平台专业知识
选平台之前,先看懂这个行业在卖什么
解决「厂商碎片化」带来的四类成本:接入成本(每接一家都要读文档、写适配、管鉴权)、资金成本(每家都要单独充值、单独结算)、运维成本(多家限流、故障各自处理)、管理成本(多套账单、多种用量口径)。聚合平台把 N 家收敛成 1 套接口、1 个密钥、1 份账单,本质上卖的是标准化与容错。
#知识
官方直连:从厂商官方接口取服务(自有账号或经授权中间商),计量可靠、模型版本真实、可持续;中转:转售他人额度(可能是官方直连,也可能不是),关键看能否出示官方授权或提供可查询轨迹;逆向:用非官方手段模拟网页/客户端协议,违反厂商条款、随时封停、模型可能被降级或篡改,且随时可能阻断。
星枢云只做官方直连;经中间商接入的,要求其可提供官方直连授权或可查询轨迹,两者起码其一。
#知识#渠道#官方直连
看四个可验证点:① 是否公示模型清单与单价(不公示必有猫腻);② 是否记录并允许你核验实际服务的模型标识与渠道(如星枢云的 actual_model_id + 调用日志);③ 是否敢明示渠道来源与授权形式;④ 故障时的行为——是报错,还是偷偷换成便宜模型继续返回(后者最危险,账单看不出来但结果质量骤降)。
#知识#渠道#官方直连
合理的低价来源:批量协议价(量大拿折扣)、境内渠道商务政策(厂商对云厂商/代理商有阶梯返点)、地区与币种差异(官方美元价与人民币折算)、活动补贴(获客期让利)。不合理的低价来源通常对应逆向渠道、共享号池、或虚报计费。
判断标准不是「便不便宜」,而是便宜的原因说不说得清、渠道来源查不查得到。
#知识#计费
这是 OpenAI 兼容生态形成的惯例:单价以「每 1M tokens 多少美元」表达,落在整数计费上需要一个更细的定点单位,习惯上用 1 单位 = 1/500,000 元(或 1/500,000 美元)。好处是金额全程整数运算无浮点误差,同时又足够细以表达单次调用的微小费用。星枢云沿用该口径,正是为了让熟悉 OpenAI 生态的开发者零学习成本迁移。
#知识#计费
因为 token 不是物理量,而是各家 tokenizer 的实现结果:词表不同(如 o200k_base / cl100k_base)、中英文压缩率不同(同一段中文,中文字符大致 0.5-1 token,英文按词片)、而且厂商在 prompt_tokens 里还会加上固定的对话模板开销。所以「同一段文本在不同厂商下 token 数不同」是常态,不是任何一方在作弊。
平台的做法是采信上游官方 usage,并用本地精算做兜底拦截虚报,而不是自作聪明地改写官方计量。
#知识#计费
行业里说的「降智」通常指:请求被悄悄转发到更便宜的模型或更旧的快照、或经过了会破坏参数的中间层。聚合层本身不该导致降智——但不透明的聚合层可以掩盖降智。防御手段是「可核验」:返回的模型标识、请求 ID、调用日志中的实际模型三者一致,且上游保真校验(模型标识/finish_reason/流结束标记)全程留痕。
#知识#渠道
流式响应本质是一条长连接上的事件流,任何中间层做缓冲都会毁掉它:反向代理的缓冲区会把 chunk 攒成大块再发(表现为「首字一下全出来」或「卡住不吐字」),超时设置过短会中途断流,还可能丢掉结束标记让客户端永远等下去。
星枢云的网关在转发层关闭了代理缓冲并放宽了读超时,并对流结束标记做校验——这也是为什么「支持流式」需要网关层专门做功,而不是改个参数。
#知识#稳定性
交互类产品里,用户感知的是多快看到第一个字。总耗时受输出长度影响,无法横向比较;TTFT 反映的是网关附加延迟 + 上游排队情况,更能暴露路由与渠道质量。星枢云把网关自身附加延迟控制在 P99 < 80ms,就是为了让 TTFT 主要由上游决定,而不是被中间层拖累。
#知识#稳定性
按量计费(Token 级)适合用量波动大、要看清成本构成的场景,也是平台的主口径;按次计费适合固定长度的批处理任务;包月/套餐适合可预测的稳定用量,用于摊薄单价。选型的判断依据是「你的用量波动率」:波动越大,按量越划算;越平稳,套餐单价越低。平台支持多种模型定价方式并行,可按模型维度配置。
#知识#计费
专业网关一般按四维决策:可用性(熔断状态、近期失败率)、成本(渠道单价)、延迟(近期 RT 表现)、负载(并发余量)。四者加权后选择渠道,并在失败时按重试策略换路。目标是「用户任务不中断」优先于「单次成本最低」——因为一次失败重试的成本,往往高于渠道差价。
#知识#稳定性
五问:① 模型清单与单价是否全量公示?② 渠道来源是什么,敢不敢明示授权形式?③ 能否逐笔核验实际服务的模型与渠道(请求 ID + 日志)?④ 计费口径是什么(是否预扣结算、失败是否计费、流式中断怎么算)?⑤ 渠道故障时的行为是什么(自动降级不中断,还是直接报错、还是静默换模型)?
这五个问题答不清楚的平台,价格再低都不值得放进生产链路。
#知识#渠道
工程上做三件事:① 双活思路——保留一家官方直连作为兜底(关键链路可用环境变量一键切 base_url,代码无需改);② 可观测——记录 Request ID、状态码、token 与耗时,设置异常报警;③ 账单可复核——周期核对平台用量与你自身的 token 统计,偏差可解释。
星枢云的接口与 OpenAI 完全兼容,正是为了让这种「可迁移性」始终存在——我们靠服务留住你,而不是靠绑定。
#知识
没找到答案?
还有问题?在控制台提交工单(唯一官方支持渠道,全程留痕)。为了一次说清,建议附上:Request ID、调用时间、模型 ID、HTTP 状态码 / 错误码。