资产

模型仓库

训练要基座模型、推理要部署它,两边共用这一份台账。

模型仓库是训练与推理的共同底座:训练要基座模型、训练产出要登记回来, 而推理部署时选的也是这里的一个版本。

一个模型有哪些信息

除了名字,平台还记录这几项,用来在列表里筛选与对照:

  • 任务:这个模型解决什么问题
  • 格式:权重的存储格式
  • 家族:属于哪个模型系列
  • 阶段:base、chat、instruct 之类的训练阶段
  • 存储:权重实际存在哪个存储上

一个模型下可以有多个版本。推理服务引用的是某一个版本,不是一个名字—— 这样重新发布时你清楚换掉的到底是什么。

添加模型

在「模型仓库」页点「添加模型」。模型文件存放在平台配置的存储上 (存储本身由超管在系统设置里管理,不在这一页)。

与镜像仓库的区别

两者都叫「仓库」,但去的人与权限都不同:

模型仓库镜像仓库
放什么模型权重容器镜像
谁用算法工程师挑东西跑运维配数据面
权限登录即可平台管理员