Skip to content

网关管理 / 上游服务 ​

「上游服务」管理外部模型 API 的接入信息,包括接收方地址、凭证与可路由的模型清单。需要把外部厂商的模型接入 Token 网关、核对某个上游是否可用,或调整转发地址与协议时使用这一页。

前提条件 ​

  • 已登录 Boss 管理侧。
  • 账号具备「网关管理」>「上游服务」的查看权限;创建与编辑需要对应的管理权限。
  • 目标集群已存在,创建时才能在「集群」中选择。

界面说明 ​

上游服务

截图采集于 2026-11-02,环境:开发环境。

页面标题为「网关管理 / 上游服务」,标题下的说明为「管理外部模型 API 的接入、凭证和模型清单」。

标题下方是集群页签:「全部」「昇腾183 0」「昇腾集群 5」「成员集群 0」「主集群 216」,页签后的数字是该集群下的数量,截图中「全部」底部合计 221 条。

筛选区左侧为「搜索名称或 ID」输入框,其后是「厂商」「协议」「代理」「状态」四个筛选按钮;右侧为蓝色「创建」按钮和「列显隐」「刷新」两个图标按钮。

表格字段如下:

列说明截图示例
名称上游服务显示名,下方灰字为上游 ID,尾号图标可复制 IDqa3749-1102-d9e6
状态是否可用于转发「就绪」「未启用」
集群上游服务所属集群主集群
厂商接入的厂商类型「OpenAI」「自定义(Open…」
协议对接协议与版本「OpenAI 兼容(/v1)」
Endpoint上游接收方地址https://api.modelverse.cn
代理出站使用的代理需横向滚动查看
模型数该上游已登记的模型数量需横向滚动查看
更新时间最近一次修改时间需横向滚动查看
操作行内操作入口「编辑」「更多操作」

列表底部显示「共 221 条」,每页可选「10 条/页」,当前为第 1 页、共 23 页。

单击「创建」后从右侧滑出「创建上游服务」抽屉,说明为「配置外部 API 接收方、凭证与可路由模型。」。

创建上游服务

截图采集于 2026-11-02,环境:开发环境。

抽屉字段如下:

字段说明
集群*上游服务归属的集群,截图中为「昇腾183」
显示名称*列表中展示的名称
厂商*上游厂商类型,下拉选择
备注补充说明,多行文本
启用服务开关,说明为「启用后 AI 路由可向此服务转发流量;需要时可单独验证凭证或探测模型。」
适配器*「接收方配置」分组中的对接适配器
协议*对接协议,下拉选择

抽屉底部为「取消」和蓝色「创建上游服务」。截图中表单只露出到「协议」,其余内容需在抽屉内向下滚动查看。

操作步骤 ​

按集群与条件筛选

  1. 在左侧导航选择「网关管理」>「上游服务」。
  2. 单击集群页签,切换「全部」或某个集群。
  3. 在「搜索名称或 ID」中输入名称或 ID,或单击「厂商」「协议」「代理」「状态」选择条件。
  4. 需要恢复全量列表时清空搜索框并重新选择页签。

创建上游服务

  1. 单击工具栏右侧的「创建」。
  2. 在抽屉中选择「集群」,填写「显示名称」「厂商」「备注」。
  3. 按需打开「启用服务」,在「接收方配置」中选择「适配器」与「协议」。
  4. 继续向下填写凭证与模型信息后,单击「创建上游服务」。

修改已有上游服务

  1. 在目标行单击「编辑」,修改显示名称、厂商或接收方配置。
  2. 需要查看其他行内动作时单击「更多操作」。
  3. 保存后回到列表,核对「状态」与「更新时间」。

结果验证 ​

  • 创建成功后列表出现新记录,名称为抽屉中填写的「显示名称」,并带有对应的上游 ID。
  • 启用且配置正确的上游在「状态」列显示绿点与「就绪」;未启用时显示灰点与「未启用」。
  • 底部「共 N 条」与集群页签上的数字随新增记录变化。
  • 编辑保存后「更新时间」变为本次操作时间。

详情页 ​

功能说明 ​

在「上游服务」列表中单击某个上游的名称,从右侧滑出「编辑上游服务」抽屉。抽屉顶部说明为「ID 创建后不可修改;凭证始终只写,不会回显明文。」。需要核对某个上游指向哪个接收方地址、轮换 API Key、增删可路由模型,或临时停用某个上游时使用这个抽屉。

界面说明 ​

编辑上游服务

截图采集于 2026-11-03,环境:开发环境。

抽屉按分组纵向排列,分组标题依次为「基本信息」「接收方配置」「视频提交编码」「视频模型编码覆盖」「凭证」「模型」「高级配置」,底部固定「取消」与蓝色「保存」,右上角为关闭图标。各分组的字段与按钮如下:

分组字段或按钮说明
基本信息「ID」只读,截图为 custom-q2na5qxn,创建后不可修改
基本信息「显示名称*」列表与路由中展示的名称,截图为 qa3749-1102-d9e6
基本信息「厂商*」上游厂商类型,截图为「自定义(OpenAI 兼容)」
基本信息「备注」补充说明,多行文本
基本信息「启用服务」开关,说明为「启用后 AI 路由可向此服务转发流量;需要时可单独验证凭证或探测模型。」
接收方配置「适配器*」接收方适配器,截图为 openai
接收方配置「协议*」对接协议,截图为「OpenAI 兼容(/v1)」
接收方配置「主地址*」上游实际接收地址,截图为 https://qa3749-d9e6.invalid/v1
接收方配置「额外地址」单击「添加地址」可补充多条候选地址
接收方配置「代理服务器」出站代理,下拉选择
视频提交编码「视频提交编码」视频类请求使用的提交编码
视频模型编码覆盖「添加模型覆盖」为单个视频模型补充编码映射
凭证「API Key」提示为「厂商返回的模型目录不代表每个型号均可调用。目录未返回的既有模型会保留。」
凭证「检测此 Key」「检测全部 Key」校验单条或全部凭证是否可用
凭证「上移」「下移」「删除」调整 Key 的优先顺序,或移除某条 Key
凭证「添加 API Key」追加一条凭证
凭证「替换自定义请求头」说明为「值同样只写;关闭表示保持现有整组请求头。」
模型「模型名称」「上游模型名(默认同名)」对外模型名与该上游实际模型名的映射
模型「添加模型」「探测模型」追加可路由模型,或探测模型是否可调用

抽屉中各输入框右侧带「?」图标的为字段说明,单击可查看该字段的解释。

操作步骤 ​

查看上游接入信息

  1. 在「上游服务」列表中单击目标上游的名称。
  2. 查看「基本信息」中的「ID」「显示名称」「厂商」,确认打开的是目标上游。
  3. 在「接收方配置」中核对「适配器」「协议」「主地址」。
  4. 向下滚动查看「凭证」与「模型」,核对 Key 数量与模型清单。

修改接收方配置

  1. 在「接收方配置」中调整「适配器」或「协议」。
  2. 修改「主地址」;需要多个地址时单击「额外地址」下的「添加地址」补一行。
  3. 需要改走出站代理时在「代理服务器」中选择目标代理。
  4. 单击底部「保存」提交;放弃修改时单击「取消」或右上角关闭图标。

验证凭证与模型

  1. 在「凭证」中单击「检测此 Key」,校验单条 Key 是否可用。
  2. 配置了多条 Key 时单击「检测全部 Key」一次校验。
  3. 在「模型」中单击「探测模型」,确认模型可被调用。

停用上游服务

  1. 关闭「启用服务」开关。
  2. 单击「保存」。

移除单条 Key

  1. 在「凭证」中定位目标 Key。
  2. 单击该行的「删除」;删除后这条 Key 不再参与转发,操作前核对 Key 与其承载的模型。

结果验证 ​

  • 保存成功后抽屉收起,列表中的「名称」「厂商」「协议」「Endpoint」按修改结果更新。
  • 关闭「启用服务」并保存后,列表「状态」由「就绪」变为「未启用」,AI 路由不再向该上游转发流量。
  • 单击「检测此 Key」或「检测全部 Key」后,凭证区显示各条 Key 的检测结果。
  • 单击「探测模型」后,模型区显示探测到的可调用模型。
  • 「模型数」列的数量随「模型」分组中增删模型而变化。

注意事项 ​

  • 「ID」创建后不可修改,修改接入对象需新建上游服务。
  • 凭证只写不回显,修改时留空不会覆盖已有 Key;替换 Key 需重新录入。
  • 关闭「启用服务」会中断指向该上游的路由转发,操作前确认没有业务在使用。
  • 「厂商返回的模型目录不代表每个型号均可调用。目录未返回的既有模型会保留。」,检测或探测结果与模型清单可能不一致。
  • 「删除」与「删除这一条」作用于所在条目,执行前确认作用范围。
  • 同一上游可配置多条「API Key」,顺序由「上移」「下移」调整。

注意事项 ​

  • 状态为「未启用」的上游不会承接 AI 路由转发的流量。
  • 「Endpoint」「代理」「模型数」「更新时间」在列较多时需横向滚动才能看到。
  • 「更多操作」中的条目在未展开时不显示,执行前先确认作用对象。
  • 一个上游服务可登记多个模型,「模型数」只反映数量,具体模型需进入编辑页查看。

相关操作 ​