Skip to content

上游统计 / 上游总览 ​

「上游总览」从上游服务视角汇总调用次数、Token、上游成本、延迟与错误率,并把无法确认成本的调用单独提示。需要判断上游侧的成本规模、哪家上游延迟偏高时使用这一页。

前提条件 ​

  • 已登录 Boss 管理侧。
  • 账号具备「上游统计」>「上游总览」的查看权限。
  • 统计周期内已有经上游服务转发的调用。

界面说明 ​

上游总览

截图采集于 2026-11-02,环境:开发环境。

页面标题为「上游统计 / 上游总览」,说明为「按上游服务核算成本,定位高消费服务与上游模型。」。

右上角为时间范围选择器,截图中范围为「10-19 23:32:13 至 11-02 23:32:13」。

页面顶部有一条提示:「有 225 次调用的上游成本无法确认。成本金额、趋势和排名仅包含已核算部分。」,说明成本类数值只覆盖可核算的记录。

指标卡共 6 张:

指标卡内容截图示例
上游服务调用次数经上游转发的调用总数,附活跃对象数15,646,活跃上游服务 436 · 活跃上游模型 361
总 TokensToken 合计与输入输出拆分3811.5M,输入 502.5M · 输出 3308.9M
上游成本(¥)上游侧成本合计,注明口径¥5,031.56,已核算部分
平均延迟 / TTFT平均耗时与首 Token 时延17.8 s / 737 ms
缓存命中率整体命中率「-」,表示无可用上报数据
错误率错误占比15.1%

指标卡下方有一行说明:「无法唯一识别的上游服务会单独标记。」。

页面下半部分为「上游成本趋势」与「上游服务平均延迟」两张图表卡。成本趋势图例可翻页查看多条上游曲线;平均延迟为横向条形图,右上角标注「显示前 8 个 / 共 355 个」,图例区分「平均」与「P95」。

操作步骤 ​

查看整体上游消耗

  1. 在左侧导航选择「上游统计」>「上游总览」。
  2. 先读顶部提示,确认有多少调用未纳入成本核算。
  3. 依次查看调用次数、Token、成本、延迟与错误率。
  4. 需要按上游拆分时进入「服务分析」。

比较上游延迟

  1. 在「上游服务平均延迟」中查看排名靠前的条形。
  2. 对照图例区分「平均」与「P95」两条数据。
  3. 单击图表右上角箭头查看更多上游服务。
  4. 记录延迟偏高的上游名称,前往「质量监控」核对分布。

切换统计周期

  1. 单击右上角时间范围选择器。
  2. 设置新的起止时间。
  3. 观察指标卡与两张图表的数值变化。

结果验证 ​

  • 提示中的未核算调用次数与「上游成本(¥)」的「已核算部分」口径一致。
  • 切换时间范围后,成本趋势图的横轴与指标卡同步更新。
  • 「上游服务平均延迟」右上角显示当前展示数量与总数。
  • 「活跃上游服务」「活跃上游模型」随周期变化。

注意事项 ​

  • 「上游成本(¥)」只统计已核算部分,与提示中的未确认调用数对应,不能直接当作全部成本。
  • 「缓存命中率」显示「-」表示无可用上报数据,不代表命中率为 0。
  • 「无法唯一识别的上游服务会单独标记」,这类记录在拆分统计中可能单列。
  • 平均延迟图默认只展示前 8 个,完整清单需翻页或进入「服务分析」。
  • 「平均延迟 / TTFT」与「P95」是不同口径,比较时注意区分。

相关操作 ​