资产
模型仓库
训练要基座模型、推理要部署它,两边共用这一份台账。
模型仓库是训练与推理的共同底座:训练要基座模型、训练产出要登记回来, 而推理部署时选的也是这里的一个版本。
一个模型有哪些信息
除了名字,平台还记录这几项,用来在列表里筛选与对照:
- 任务:这个模型解决什么问题
- 格式:权重的存储格式
- 家族:属于哪个模型系列
- 阶段:base、chat、instruct 之类的训练阶段
- 存储:权重实际存在哪个存储上
一个模型下可以有多个版本。推理服务引用的是某一个版本,不是一个名字—— 这样重新发布时你清楚换掉的到底是什么。
添加模型
在「模型仓库」页点「添加模型」。模型文件存放在平台配置的存储上 (存储本身由超管在系统设置里管理,不在这一页)。
与镜像仓库的区别
两者都叫「仓库」,但去的人与权限都不同:
| 模型仓库 | 镜像仓库 | |
|---|---|---|
| 放什么 | 模型权重 | 容器镜像 |
| 谁用 | 算法工程师挑东西跑 | 运维配数据面 |
| 权限 | 登录即可 | 平台管理员 |