Skip to content

用量统计 / 调用记录 ​

「调用记录」逐条展示平台侧的模型调用,可按模型、用户与来源筛选,并给出延迟、缓存与错误汇总。排查某次调用失败、核对费用归属,或分析首 Token 时延走势时使用这一页。

前提条件 ​

  • 已登录 Boss 管理侧。
  • 账号具备「用量统计」>「调用记录」的查看权限。
  • 统计周期内已有调用发生。

界面说明 ​

调用记录

截图采集于 2026-11-02,环境:开发环境。

页面标题为「用量统计 / 调用记录」,说明为「逐条查看模型调用,可按模型、用户与来源筛选。」。

右上角为「来源类型」筛选按钮与时间范围选择器,截图中范围为「10-19 23:31:19 至 11-02 23:31:19」。

顶部指标卡:

指标卡内容截图示例
总调用次数周期内调用总数,附来源拆分15,646,私有化 47 · 上游服务 15,599
总费用费用合计及来源拆分¥10,106.78,私有化 ¥0.00 · 上游服务 ¥10,106.78
总 TokensToken 合计与输入、输出拆分3811.5M,输入 502.5M · 输出 3308.9M
平均 / P95 延迟(总耗时)平均耗时与 P95 耗时904 ms / 5.57 s
首 Token 时延(TTFT)首 Token 时延与流式占比737 ms,流式占比 7%
缓存命中率整体命中率,附私有化口径「-」,注明「私有化 无上报 · 上游服务 -」
错误数错误条数及来源拆分2,355,私有化 24 · 上游服务 2,331

指标卡下方为三张图表卡:「费用趋势」「缓存命中率趋势」「延迟趋势」。前两张右上角可切换「费用」「调用次数」「Token 消耗」,「延迟趋势」可切换「延迟」「TTFT」,图例区分「私有化」「上游服务」。

列表工具栏为「搜索模型名」「上游模型」「用户名」「状态码」四个输入或筛选控件,右侧为「列显隐」「刷新」。表格字段如下:

列说明
时间调用发生时间
状态码响应状态码
类型调用类型
调用模型对外模型名
上游模型实际上游模型名
用户调用方
API 密钥使用的密钥
User-Agent客户端标识
输入 / 输出输入与输出 Token
总 token输入与输出合计
费用该次调用费用
总耗时 (ms)端到端耗时
首Token时延 (ms)首个 Token 返回耗时
操作「复制」「详情」

列表底部每页条数可选,截图中为「20 条/页」。

操作步骤 ​

按条件定位调用

  1. 在左侧导航选择「用量统计」>「调用记录」。
  2. 设置时间范围与「来源类型」。
  3. 在「调用模型」「上游模型」「用户名」「状态码」中填写条件。
  4. 在结果中单击「详情」查看单次调用的完整信息。

查看延迟与缓存走势

  1. 在「延迟趋势」右上角选择「延迟」或「TTFT」。
  2. 对照「缓存命中率趋势」判断命中率变化时段。
  3. 需要看金额时,在「费用趋势」中切换「费用」或「Token 消耗」。

复制单条记录

  1. 在目标行单击「复制」。
  2. 粘贴到工单或记录表,核对时间与状态码。
  3. 需要完整字段时改用「详情」查看。

结果验证 ​

  • 输入筛选条件后,列表行数减少,「总调用次数」保持周期口径不变。
  • 切换「TTFT」后,延迟趋势图纵轴按首 Token 时延显示。
  • 单击「详情」能看到该次调用的模型、Token、耗时与费用。
  • 状态码筛选后,列表只剩对应状态的调用。

注意事项 ​

  • 「缓存命中率」显示「-」表示无可用上报数据,不代表命中率为 0。
  • 顶部指标卡按整个周期统计,不随列表筛选变化。
  • 「平均 / P95 延迟(总耗时)」与「首Token时延(TTFT)」是两种口径,不要混用。
  • 记录为已发生调用的留痕,页面不提供修改或删除入口。

相关操作 ​