主题
核心概念
本页解释手册中反复出现的名词。界面名称可能与下表略有差异,以实际菜单为准。
租户与工作空间
租户是资源和成员的归属单位。Console 顶部的工作空间选择器展示当前账号可进入的工作空间,工作空间即租户在用户侧的入口。
- 一个租户可以包含多个项目和多个成员。
- 租户配额决定该租户可以使用的算力总量。
- 平台管理员在 Boss 的「租户管理」中创建和维护租户。
项目
项目是工作空间内的资源分组。容器实例、应用实例、推理实例、数据、模型和配额都归属于某个项目。
- 同一工作空间内可以有多个项目。
- 用户在不同项目之间切换时,看到的资源列表随之变化。
- 项目成员和项目角色决定用户在项目内能做什么。
集群
集群是平台纳管的 Kubernetes 集群。平台可以在多个集群之间分配资源。
- 集群包含节点和算力卡。
- 集群状态分为运行中、未就绪等。
- 平台管理员在「算力中心」>「集群管理」中查看和维护集群。
资源池
资源池是集群内按用途划分的算力集合。
| 类型 | 说明 |
|---|---|
| 共享算力池 | 多个租户或项目共享使用,按配额调度。 |
| 专属算力池 | 分配给指定租户或项目独占使用。 |
资源池决定实例可以调度到哪些节点和算力卡。
算力卡
算力卡指 GPU 或 NPU。平台记录卡型号、所属节点、可调度状态和授权状态。创建实例时选择的 GPU 数量来自算力卡资源。
配额
配额是对资源使用量的上限,分为用户额度、密钥额度和算力配额。
- 算力配额限制项目可以使用的 CPU、内存、GPU 和存储。
- 用户额度和密钥额度限制模型调用的费用或 Token 用量。
- 配额不足时,创建实例或调用模型会失败。
实例
平台有三类运行实例:
| 类型 | 用途 | 入口 |
|---|---|---|
| 容器实例 | 开发环境,提供终端和开发工具。 | Console「算力服务」>「容器实例」 |
| 应用实例 | 以应用模板方式运行的服务。 | Console「算力服务」>「应用实例」 |
| 推理实例 | 将模型部署为在线推理服务。 | Console「算力服务」>「推理实例」 |
实例都有创建、启动、停止、删除等生命周期操作。删除和释放会删除实例内数据。
模型、部署模板与模型文件
- 模型文件:存放在平台或项目存储中的模型权重和配置。
- 部署模板:描述模型如何启动的配置,包括镜像、启动命令、端口和环境变量。
- 模型仓库 / 模型列表:可部署模型的目录,用户从中选择模型并创建推理实例。
API 密钥
API 密钥用于调用模型服务。密钥归属于用户或项目,可以设置额度。调用记录和用量统计按密钥维度展示。
回收策略与回收站
回收策略定义实例在闲置或到期后的处理方式。回收站保存被删除或回收的实例,便于恢复或彻底清理。
计量与计费
- 模型计费:按模型调用量计价的规则。
- 资源计费:按算力、存储等资源使用量计价的规则。
- 账单与收支明细:记录消费、充值、退款和账户余额。
术语对照
| 手册用词 | 界面常见写法 |
|---|---|
| 工作空间 | 工作空间、租户 |
| 算力卡 | GPU、加速卡、显卡 |
| 容器实例 | 容器实例、算力容器 |
| 推理实例 | 推理实例、推理服务 |
| API 密钥 | API Key、密钥 |