部署定制基础模型
您可以上传并部署自定义基础模型以供使用watsonx.ai推理能力。
除了使用由 IBM组织的基础模型外，您现在还可以上载和部署自己的基础模型。 部署模型并在watsonx.ai 注册后，从Prompt Lab创建推理自定义模型的提示。
通过部署定制基础模型，您可以灵活地实施适合您用例的 AI 解决方案。 根据定制基础模型的来源，部署过程略有不同。
最好直接从模型构建器获取模型。 查找新模型的一个位置是 Hug Face ，这是许多模型构建者使用的开源基础模型的存储库。
观看此视频以了解如何部署定制基础模型。
此视频提供了一种可视方法来学习本文档中的概念和任务。
部署自定义基础模型的流程
在部署自定义基础模型之前，系统管理员必须准备好模型并将其上传到 PVC 存储。 存储模型后，管理员必须向watsonx.ai 注册模型。
有关添加自定义基础模型的详细信息：
- watsonx.ai全方位安装服务
- 请参阅IBMSoftware Hub 文档中的部署自定义基础模型。
- 安装watsonx.ai轻量级引擎
- 请参见IBMSoftware Hub 文档中的将自定义基础模型添加到watsonx.ai轻量级引擎。
要部署自定义基础模型，请考虑要部署自定义基础模型的群集类型。 根据您是在支持 GPU 的集群上还是在支持 MIG 的集群上部署自定义基础模型，部署要求有所不同。 部署自定义基础模型后，您可以对部署进行管理，以更新详细信息、扩展副本数量等。 然后，部署的模型可用于提示。
了解更多
父主题: 部署基础模型资产