Skip to content

核心概念 ​

本页解释手册中反复出现的名词。界面名称可能与下表略有差异,以实际菜单为准。

租户与工作空间 ​

租户是资源和成员的归属单位。Console 顶部的工作空间选择器展示当前账号可进入的工作空间,工作空间即租户在用户侧的入口。

  • 一个租户可以包含多个项目和多个成员。
  • 租户配额决定该租户可以使用的算力总量。
  • 平台管理员在 Boss 的「租户管理」中创建和维护租户。

项目 ​

项目是工作空间内的资源分组。容器实例、应用实例、推理实例、数据、模型和配额都归属于某个项目。

  • 同一工作空间内可以有多个项目。
  • 用户在不同项目之间切换时,看到的资源列表随之变化。
  • 项目成员和项目角色决定用户在项目内能做什么。

集群 ​

集群是平台纳管的 Kubernetes 集群。平台可以在多个集群之间分配资源。

  • 集群包含节点和算力卡。
  • 集群状态分为运行中、未就绪等。
  • 平台管理员在「算力中心」>「集群管理」中查看和维护集群。

资源池 ​

资源池是集群内按用途划分的算力集合。

类型说明
共享算力池多个租户或项目共享使用,按配额调度。
专属算力池分配给指定租户或项目独占使用。

资源池决定实例可以调度到哪些节点和算力卡。

算力卡 ​

算力卡指 GPU 或 NPU。平台记录卡型号、所属节点、可调度状态和授权状态。创建实例时选择的 GPU 数量来自算力卡资源。

配额 ​

配额是对资源使用量的上限,分为用户额度、密钥额度和算力配额。

  • 算力配额限制项目可以使用的 CPU、内存、GPU 和存储。
  • 用户额度和密钥额度限制模型调用的费用或 Token 用量。
  • 配额不足时,创建实例或调用模型会失败。

实例 ​

平台有三类运行实例:

类型用途入口
容器实例开发环境,提供终端和开发工具。Console「算力服务」>「容器实例」
应用实例以应用模板方式运行的服务。Console「算力服务」>「应用实例」
推理实例将模型部署为在线推理服务。Console「算力服务」>「推理实例」

实例都有创建、启动、停止、删除等生命周期操作。删除和释放会删除实例内数据。

模型、部署模板与模型文件 ​

  • 模型文件:存放在平台或项目存储中的模型权重和配置。
  • 部署模板:描述模型如何启动的配置,包括镜像、启动命令、端口和环境变量。
  • 模型仓库 / 模型列表:可部署模型的目录,用户从中选择模型并创建推理实例。

API 密钥 ​

API 密钥用于调用模型服务。密钥归属于用户或项目,可以设置额度。调用记录和用量统计按密钥维度展示。

回收策略与回收站 ​

回收策略定义实例在闲置或到期后的处理方式。回收站保存被删除或回收的实例,便于恢复或彻底清理。

计量与计费 ​

  • 模型计费:按模型调用量计价的规则。
  • 资源计费:按算力、存储等资源使用量计价的规则。
  • 账单与收支明细:记录消费、充值、退款和账户余额。

术语对照 ​

手册用词界面常见写法
工作空间工作空间、租户
算力卡GPU、加速卡、显卡
容器实例容器实例、算力容器
推理实例推理实例、推理服务
API 密钥API Key、密钥