Skip to content

用量统计 / 用量总览 ​

「用量总览」汇总平台模型调用的费用、调用量、Token 消耗、延迟与错误率,并区分私有化模型和上游服务。需要快速判断当期整体消耗、异常涨跌或延迟水平时,先看这一页。

前提条件 ​

  • 已登录 Boss 管理侧。
  • 账号具备「用量统计」>「用量总览」的查看权限。
  • 统计周期内已有模型调用记录。

界面说明 ​

用量总览

截图采集于 2026-11-02,环境:开发环境。

页面标题为「用量统计 / 用量总览」,说明为「查看平台模型调用与费用概览,含私有化模型和上游服务。」。

右上角为「来源类型」筛选按钮与时间范围选择器,截图中范围为「10-19 23:30:46 至 11-02 23:30:46」。

指标卡共 6 张:

指标卡内容截图示例
总费用(¥)周期内总费用及环比变化¥10,106.78,▲>999% +¥10098.39
总调用次数 / 总 Token调用次数与 Token 合计,附输入、输出拆分15,646 / 3811.5M,输入 502.5M · 输出 3308.9M
活跃 API 密钥周期内有调用的密钥数及变化282,▲133.1% +161
平均延迟 / TTFT平均总耗时与首 Token 时延17.8 s / 737 ms
缓存命中率整体命中率,附私有化与上游服务口径无数据时显示「-」,注明「私有化 无上报 · 上游服务 -」
错误率周期内错误占比及变化15.1%,▼-3.2 pt

指标卡下方并排两张对比卡:「私有化」显示「费用 ¥0.00」及 Token、调用次数、平均延迟、错误率;「上游服务」显示「费用 ¥10,106.78」及同类指标。截图中私有化的费用为 0,说明当期调用几乎全部来自上游服务。

页面底部为「调用次数趋势」图表,右上角可在「调用次数」与「Token 消耗」之间切换,图例区分「私有化」与「上游服务」两条序列。

操作步骤 ​

查看默认周期概览

  1. 在左侧导航选择「用量统计」>「用量总览」。
  2. 从上到下依次查看费用、调用量、密钥数与延迟指标。
  3. 对比「私有化」与「上游服务」两张卡片,判断消耗来源。

切换统计范围

  1. 单击「来源类型」,选择要统计的来源。
  2. 单击时间范围选择器,设置新的起止时间。
  3. 观察指标卡与趋势图随范围变化。

切换趋势口径

  1. 在「调用次数趋势」右上角选择「调用次数」或「Token 消耗」。
  2. 需要区分来源时对照图例中的「私有化」「上游服务」。
  3. 需要更细的拆分时,进入「调用记录」或「模型分布」继续查看。

结果验证 ​

  • 调整时间范围后,指标卡数值与趋势图横轴同步变化。
  • 「总调用次数 / 总 Token」中的输入与输出之和与总 Token 口径一致。
  • 错误率下降时显示绿色向下箭头与变化幅度,上升时显示红色向上箭头。
  • 切换「Token 消耗」后趋势图纵轴改为 Token 量。

注意事项 ​

  • 「缓存命中率」显示「-」表示该周期无可用上报数据,不代表命中率为 0。
  • 费用、调用次数等指标均受时间范围与「来源类型」共同限制,对比前先确认两个条件一致。
  • 私有化与上游服务分开统计,合计值需同时看两张对比卡。
  • 页面对已发生的调用做汇总,不提供数据修改入口。

相关操作 ​