主题
网关管理 / 上游服务
「上游服务」管理外部模型 API 的接入信息,包括接收方地址、凭证与可路由的模型清单。需要把外部厂商的模型接入 Token 网关、核对某个上游是否可用,或调整转发地址与协议时使用这一页。
前提条件
- 已登录 Boss 管理侧。
- 账号具备「网关管理」>「上游服务」的查看权限;创建与编辑需要对应的管理权限。
- 目标集群已存在,创建时才能在「集群」中选择。
界面说明

截图采集于 2026-11-02,环境:开发环境。
页面标题为「网关管理 / 上游服务」,标题下的说明为「管理外部模型 API 的接入、凭证和模型清单」。
标题下方是集群页签:「全部」「昇腾183 0」「昇腾集群 5」「成员集群 0」「主集群 216」,页签后的数字是该集群下的数量,截图中「全部」底部合计 221 条。
筛选区左侧为「搜索名称或 ID」输入框,其后是「厂商」「协议」「代理」「状态」四个筛选按钮;右侧为蓝色「创建」按钮和「列显隐」「刷新」两个图标按钮。
表格字段如下:
| 列 | 说明 | 截图示例 |
|---|---|---|
| 名称 | 上游服务显示名,下方灰字为上游 ID,尾号图标可复制 ID | qa3749-1102-d9e6 |
| 状态 | 是否可用于转发 | 「就绪」「未启用」 |
| 集群 | 上游服务所属集群 | 主集群 |
| 厂商 | 接入的厂商类型 | 「OpenAI」「自定义(Open…」 |
| 协议 | 对接协议与版本 | 「OpenAI 兼容(/v1)」 |
| Endpoint | 上游接收方地址 | https://api.modelverse.cn |
| 代理 | 出站使用的代理 | 需横向滚动查看 |
| 模型数 | 该上游已登记的模型数量 | 需横向滚动查看 |
| 更新时间 | 最近一次修改时间 | 需横向滚动查看 |
| 操作 | 行内操作入口 | 「编辑」「更多操作」 |
列表底部显示「共 221 条」,每页可选「10 条/页」,当前为第 1 页、共 23 页。
单击「创建」后从右侧滑出「创建上游服务」抽屉,说明为「配置外部 API 接收方、凭证与可路由模型。」。

截图采集于 2026-11-02,环境:开发环境。
抽屉字段如下:
| 字段 | 说明 |
|---|---|
| 集群* | 上游服务归属的集群,截图中为「昇腾183」 |
| 显示名称* | 列表中展示的名称 |
| 厂商* | 上游厂商类型,下拉选择 |
| 备注 | 补充说明,多行文本 |
| 启用服务 | 开关,说明为「启用后 AI 路由可向此服务转发流量;需要时可单独验证凭证或探测模型。」 |
| 适配器* | 「接收方配置」分组中的对接适配器 |
| 协议* | 对接协议,下拉选择 |
抽屉底部为「取消」和蓝色「创建上游服务」。截图中表单只露出到「协议」,其余内容需在抽屉内向下滚动查看。
操作步骤
按集群与条件筛选
- 在左侧导航选择「网关管理」>「上游服务」。
- 单击集群页签,切换「全部」或某个集群。
- 在「搜索名称或 ID」中输入名称或 ID,或单击「厂商」「协议」「代理」「状态」选择条件。
- 需要恢复全量列表时清空搜索框并重新选择页签。
创建上游服务
- 单击工具栏右侧的「创建」。
- 在抽屉中选择「集群」,填写「显示名称」「厂商」「备注」。
- 按需打开「启用服务」,在「接收方配置」中选择「适配器」与「协议」。
- 继续向下填写凭证与模型信息后,单击「创建上游服务」。
修改已有上游服务
- 在目标行单击「编辑」,修改显示名称、厂商或接收方配置。
- 需要查看其他行内动作时单击「更多操作」。
- 保存后回到列表,核对「状态」与「更新时间」。
结果验证
- 创建成功后列表出现新记录,名称为抽屉中填写的「显示名称」,并带有对应的上游 ID。
- 启用且配置正确的上游在「状态」列显示绿点与「就绪」;未启用时显示灰点与「未启用」。
- 底部「共 N 条」与集群页签上的数字随新增记录变化。
- 编辑保存后「更新时间」变为本次操作时间。
详情页
功能说明
在「上游服务」列表中单击某个上游的名称,从右侧滑出「编辑上游服务」抽屉。抽屉顶部说明为「ID 创建后不可修改;凭证始终只写,不会回显明文。」。需要核对某个上游指向哪个接收方地址、轮换 API Key、增删可路由模型,或临时停用某个上游时使用这个抽屉。
界面说明

截图采集于 2026-11-03,环境:开发环境。
抽屉按分组纵向排列,分组标题依次为「基本信息」「接收方配置」「视频提交编码」「视频模型编码覆盖」「凭证」「模型」「高级配置」,底部固定「取消」与蓝色「保存」,右上角为关闭图标。各分组的字段与按钮如下:
| 分组 | 字段或按钮 | 说明 |
|---|---|---|
| 基本信息 | 「ID」 | 只读,截图为 custom-q2na5qxn,创建后不可修改 |
| 基本信息 | 「显示名称*」 | 列表与路由中展示的名称,截图为 qa3749-1102-d9e6 |
| 基本信息 | 「厂商*」 | 上游厂商类型,截图为「自定义(OpenAI 兼容)」 |
| 基本信息 | 「备注」 | 补充说明,多行文本 |
| 基本信息 | 「启用服务」 | 开关,说明为「启用后 AI 路由可向此服务转发流量;需要时可单独验证凭证或探测模型。」 |
| 接收方配置 | 「适配器*」 | 接收方适配器,截图为 openai |
| 接收方配置 | 「协议*」 | 对接协议,截图为「OpenAI 兼容(/v1)」 |
| 接收方配置 | 「主地址*」 | 上游实际接收地址,截图为 https://qa3749-d9e6.invalid/v1 |
| 接收方配置 | 「额外地址」 | 单击「添加地址」可补充多条候选地址 |
| 接收方配置 | 「代理服务器」 | 出站代理,下拉选择 |
| 视频提交编码 | 「视频提交编码」 | 视频类请求使用的提交编码 |
| 视频模型编码覆盖 | 「添加模型覆盖」 | 为单个视频模型补充编码映射 |
| 凭证 | 「API Key」 | 提示为「厂商返回的模型目录不代表每个型号均可调用。目录未返回的既有模型会保留。」 |
| 凭证 | 「检测此 Key」「检测全部 Key」 | 校验单条或全部凭证是否可用 |
| 凭证 | 「上移」「下移」「删除」 | 调整 Key 的优先顺序,或移除某条 Key |
| 凭证 | 「添加 API Key」 | 追加一条凭证 |
| 凭证 | 「替换自定义请求头」 | 说明为「值同样只写;关闭表示保持现有整组请求头。」 |
| 模型 | 「模型名称」「上游模型名(默认同名)」 | 对外模型名与该上游实际模型名的映射 |
| 模型 | 「添加模型」「探测模型」 | 追加可路由模型,或探测模型是否可调用 |
抽屉中各输入框右侧带「?」图标的为字段说明,单击可查看该字段的解释。
操作步骤
查看上游接入信息
- 在「上游服务」列表中单击目标上游的名称。
- 查看「基本信息」中的「ID」「显示名称」「厂商」,确认打开的是目标上游。
- 在「接收方配置」中核对「适配器」「协议」「主地址」。
- 向下滚动查看「凭证」与「模型」,核对 Key 数量与模型清单。
修改接收方配置
- 在「接收方配置」中调整「适配器」或「协议」。
- 修改「主地址」;需要多个地址时单击「额外地址」下的「添加地址」补一行。
- 需要改走出站代理时在「代理服务器」中选择目标代理。
- 单击底部「保存」提交;放弃修改时单击「取消」或右上角关闭图标。
验证凭证与模型
- 在「凭证」中单击「检测此 Key」,校验单条 Key 是否可用。
- 配置了多条 Key 时单击「检测全部 Key」一次校验。
- 在「模型」中单击「探测模型」,确认模型可被调用。
停用上游服务
- 关闭「启用服务」开关。
- 单击「保存」。
移除单条 Key
- 在「凭证」中定位目标 Key。
- 单击该行的「删除」;删除后这条 Key 不再参与转发,操作前核对 Key 与其承载的模型。
结果验证
- 保存成功后抽屉收起,列表中的「名称」「厂商」「协议」「Endpoint」按修改结果更新。
- 关闭「启用服务」并保存后,列表「状态」由「就绪」变为「未启用」,AI 路由不再向该上游转发流量。
- 单击「检测此 Key」或「检测全部 Key」后,凭证区显示各条 Key 的检测结果。
- 单击「探测模型」后,模型区显示探测到的可调用模型。
- 「模型数」列的数量随「模型」分组中增删模型而变化。
注意事项
- 「ID」创建后不可修改,修改接入对象需新建上游服务。
- 凭证只写不回显,修改时留空不会覆盖已有 Key;替换 Key 需重新录入。
- 关闭「启用服务」会中断指向该上游的路由转发,操作前确认没有业务在使用。
- 「厂商返回的模型目录不代表每个型号均可调用。目录未返回的既有模型会保留。」,检测或探测结果与模型清单可能不一致。
- 「删除」与「删除这一条」作用于所在条目,执行前确认作用范围。
- 同一上游可配置多条「API Key」,顺序由「上移」「下移」调整。
注意事项
- 状态为「未启用」的上游不会承接 AI 路由转发的流量。
- 「Endpoint」「代理」「模型数」「更新时间」在列较多时需横向滚动才能看到。
- 「更多操作」中的条目在未展开时不显示,执行前先确认作用对象。
- 一个上游服务可登记多个模型,「模型数」只反映数量,具体模型需进入编辑页查看。