算力服务 / 推理实例

推理实例把模型文件或模型仓库中的模型部署为在线服务，提供调用地址、副本和资源规格。

前提条件

• 已登录 Console，并选择目标工作空间和项目。
• 已有可部署的模型或部署模板。
• 项目有可用算力配额。

界面说明

截图采集于 2026-11-02，环境：主环境。

列表字段：

字段	说明
名称 / 模型	推理实例名称和使用的模型。
状态	实例运行状态和模板状态。
集群	实例所属集群。
项目	实例所属项目。
部署模板	实例使用的部署模板。
资源池	实例调度的资源池。
规格	副本使用的算力规格。
节点	实例所在节点。
副本	运行副本数和期望副本数。
创建时间	实例创建时间。
操作	详情、更多操作等入口。

页面提供项目、状态、模板状态筛选，以及「自动刷新间隔」「列显隐」和「刷新」。

操作步骤

部署推理服务

1. 在左侧导航选择「算力服务」>「推理实例」。
2. 单击「创建」。
3. 选择模型或部署模板。
4. 选择资源池、算力规格和副本数。
5. 按需设置端口、环境变量和存储。
6. 提交后等待状态变为运行中。

查看服务

1. 单击实例名称或「详情」。
2. 查看服务地址、副本状态、资源占用和事件。
3. 需要调用服务时，复制详情页提供的调用地址。
4. 需要查看日志时，从详情页的日志入口打开。

结果验证

• 实例出现在列表中，状态为运行中，副本数达到期望值。
• 详情页显示可访问的服务地址。
• 调用示例可以返回模型结果。

详情页

功能说明

从推理实例列表单击实例名称或行内「详情」进入详情页。详情页覆盖推理服务的运行状态、调度过程、监控、弹性伸缩、版本和网关配置，是排查推理服务和调整发布策略的主要入口。

界面说明

截图采集于 2026-11-03，环境：主环境。

详情页顶部显示实例名称和基本信息卡片，下方有 11 个页签：

页签	内容
概览	模型、状态、资源规格、副本和服务地址等基本信息。
实例	当前副本列表、状态和所在节点。
日志	推理服务日志。
事件	调度、拉取模型和启动过程中的事件。
调度过程	实例从排队到调度的过程。
服务监控	请求量、延迟和错误率等服务指标。
资源监控	CPU、内存、GPU 等资源使用曲线。
弹性伸缩	副本伸缩策略和当前副本变化。
版本管理	服务版本和回滚入口。
基准测试	该服务的性能测试结果。
网关	服务在网关上的路由和访问配置。

基本信息卡片展示工作空间、实例名称、模型、状态、集群、项目、部署模板、资源池、规格、副本数和创建时间等字段。

操作步骤

查看服务状态

1. 打开「概览」页签，确认状态、副本数和服务地址。
2. 切换到「实例」页签，查看每个副本的状态和节点。

排查启动失败

1. 在「调度过程」中确认实例是否完成调度。
2. 在「事件」中查看调度、拉取模型和启动事件。
3. 在「日志」中查看推理引擎的启动日志。

调整副本和版本

1. 切换到「弹性伸缩」页签，查看或调整副本伸缩配置。
2. 切换到「版本管理」页签，查看历史版本和回滚入口。
3. 需要对外发布时，在「网关」页签确认路由和访问配置。

结果验证

• 概览中的副本数与「实例」页签一致。
• 调度过程和事件没有持续报错。
• 服务监控显示请求和延迟数据。
• 版本变更后，概览中的版本和副本状态随之更新。

注意事项

• 调整副本会占用项目配额，扩容前确认资源池可用。
• 回滚会替换当前运行版本，操作前确认新版本问题已定位。
• 网关配置影响外部调用，修改前确认调用方和路由规则。
• 日志和监控只保留一段时间，长期留存需要接入日志中心或监控中心。

注意事项

• 副本数、规格和资源池受项目配额限制。
• 模板状态异常时，先检查部署模板和镜像是否可用。
• 删除推理实例会停止服务，调用方需要改用其他实例。